Affrontare l'impatto dell'intelligenza artificiale, della cyberviolenza e dei deepfake su uguaglianza, democrazia e società inclusive

Risultato atteso:

I progetti dovrebbero contribuire a tutti i seguenti risultati attesi:

• Migliore comprensione dell'impatto delle tecnologie basate sull'IA, inclusi i deepfake generati dall'IA e la generazione automatizzata di contenuti, sull'uguaglianza, la partecipazione politica, i processi democratici, la fiducia pubblica e la coesione sociale, con approfondimenti basati su prove sul loro ruolo nel mitigare o esacerbare le disparità.
• Adozione di quadri politici basati su prove per una governance dell'IA responsabile, affidabile e trasparente, che integri considerazioni etiche, legali e sociali per salvaguardare i diritti fondamentali, mitigare i rischi di disinformazione e garantire un'implementazione dell'IA equa e sicura, in linea con gli obblighi stabiliti nel Regolamento UE sull'intelligenza artificiale^[1].
• Maggiore consapevolezza pubblica e alfabetizzazione mediatica per consentire ai cittadini di identificare e valutare criticamente la disinformazione, l'uso di deepfake a fini malevoli e i danni online, insieme all'adozione di strumenti basati su prove per prevenire, rilevare e mitigare tali danni.
• Rafforzamento della capacità delle istituzioni accademiche di condurre ricerche sull'IA socialmente rilevanti e promuovere lo sviluppo di modelli di IA affidabili ed etici, grazie a una maggiore collaborazione tra università e industria e a un migliore accesso, ad esempio, a infrastrutture di calcolo, set di dati di alta qualità, strumenti collaborativi e finanziamenti.

Ambito:

Il rapido sviluppo e l'implementazione delle tecnologie di IA, insieme al loro uso malevolo come la creazione di contenuti generati e manipolati artificialmente, hanno un impatto profondo sulla democrazia, l'uguaglianza, l'inclusione sociale e la produzione di conoscenza, e contribuiscono all'aumento della cyberviolenza. Sebbene l'IA possa offrire molte opportunità, il suo uso improprio può facilitare/amplificare le disuguaglianze e gli squilibri di potere, diffondere disinformazione e cyberviolenza contro donne, bambini e minoranze, concentrare il controllo dei dati e minare i processi democratici. Pertanto, questo argomento affronta sia l'uso malevolo dell'IA (ad esempio, disinformazione generata dall'IA, deepfake, cyberviolenza) sia le sue conseguenze sociali involontarie (ad esempio, opacità algoritmica, amplificazione dei pregiudizi).

Il ruolo dell'IA nell'influenza mediatica e nella fiducia pubblica richiede un'attenzione urgente, poiché l'aumento di contenuti generati o manipolati dall'IA, inclusi i deepfake, minaccia i processi democratici e i diritti epistemici. Un'area chiave di preoccupazione è come l'IA e i contenuti generati artificialmente stiano influenzando la cyberviolenza e l'effetto che essa ha su individui o gruppi che diffidano della democrazia, in particolare dove questa sfiducia si interseca con il populismo di estrema sinistra e di estrema destra e l'interferenza straniera.

Le proposte dovrebbero esplorare come le tecnologie basate sull'IA e il loro utilizzo possano esacerbare o mitigare^[2] le disuguaglianze e le discriminazioni basate su sesso, genere, orientamento sessuale, origine razziale o etnica, religione o credo, età e disabilità, in particolare nell'accesso alle informazioni, al processo decisionale e alla rappresentanza. È necessaria un'analisi critica di come i dati – che spesso riflettono pregiudizi sociali esistenti – possano rafforzare o sfidare le strutture sociali dominanti e la sicurezza, e di come tali tecnologie modellino le percezioni pubbliche e la produzione di conoscenza.

La ricerca dovrebbe anche esplorare i rischi che queste tecnologie pongono all'integrità democratica, in particolare attraverso la manipolazione dell'opinione pubblica, dei processi elettorali e dei sistemi di governance. I deepfake e la disinformazione e la misinformazione generate dall'IA possono distorcere i fatti, diffondere narrazioni false e minare la fiducia pubblica. Affrontare queste preoccupazioni richiede una comprensione completa di come l'IA possa essere (mal)utilizzata per modellare campagne politiche, narrazioni mediatiche, coinvolgimento pubblico e la diffusione di disinformazione (di genere). Si incoraggiano le proposte a esaminare come i contenuti generati dall'IA attraverso i media, inclusi i media di intrattenimento, influenzino l'opinione pubblica, le narrazioni sociali…