Lutter contre l'impact de l'intelligence artificielle, de la cyberviolence et des deepfakes sur l'égalité, la démocratie et les sociétés inclusives

Résultat attendu :

Les projets devraient contribuer à tous les résultats attendus suivants :

• Compréhension accrue de l'impact des technologies pilotées par l'IA, y compris les deepfakes générés par l'IA et la génération de contenu automatisée, sur l'égalité, la participation politique, les processus démocratiques, la confiance du public et la cohésion sociale, avec des perspectives fondées sur des preuves quant à leur rôle dans l'atténuation ou l'exacerbation des disparités.
• Adoption de cadres politiques fondés sur des preuves pour une gouvernance de l'IA responsable, digne de confiance et transparente, intégrant des considérations éthiques, juridiques et sociétales pour sauvegarder les droits fondamentaux, atténuer les risques de désinformation et assurer un déploiement de l'IA équitable et sûr, conformément aux obligations énoncées dans le règlement de l'UE sur l'intelligence artificielle^[1].
• Sensibilisation accrue du public et littératie médiatique pour permettre aux citoyens d'identifier et d'évaluer de manière critique la désinformation, l'utilisation de deepfakes à des fins malveillantes et les préjudices en ligne, ainsi que l'adoption d'outils fondés sur des preuves pour prévenir, détecter et atténuer ces préjudices.
• Renforcement de la capacité des institutions universitaires à mener des recherches sur l'IA pertinentes pour la société et à piloter le développement de modèles d'IA dignes de confiance et éthiques, grâce à une collaboration accrue entre le monde universitaire et l'industrie et à un meilleur accès, par exemple, à l'infrastructure informatique, à des ensembles de données de haute qualité, à des outils collaboratifs et au financement.

Portée :

Le développement et le déploiement rapides des technologies de l'IA, ainsi que leur utilisation malveillante telle que la création de contenu généré artificiellement et manipulé, ont un impact profond sur la démocratie, l'égalité, l'inclusion sociale et la production de connaissances, et contribuent à la montée de la cyberviolence. Bien que l'IA puisse offrir de nombreuses opportunités, son utilisation abusive peut faciliter/amplifier les inégalités et les déséquilibres de pouvoir, propager la désinformation et la cyberviolence à l'encontre des femmes, des enfants et des minorités, concentrer le contrôle des données et saper les processus démocratiques. Par conséquent, ce sujet aborde à la fois l'utilisation malveillante de l'IA (par exemple, la désinformation générée par l'IA, les deepfakes, la cyberviolence) et ses conséquences sociétales involontaires (par exemple, l'opacité algorithmique, l'amplification des biais).

Le rôle de l'IA dans l'influence médiatique et la confiance du public exige une attention urgente, car la montée du contenu généré ou manipulé par l'IA, y compris les deepfakes, menace les processus démocratiques et les droits épistémiques. Un domaine de préoccupation clé est la manière dont l'IA et le contenu généré artificiellement affectent la cyberviolence, et l'effet qu'elle a sur les individus ou les groupes qui se méfient de la démocratie, en particulier lorsque cette méfiance se croise avec le populisme d'extrême gauche et d'extrême droite et l'ingérence étrangère.

Les propositions devraient explorer comment les technologies pilotées par l'IA et leur utilisation peuvent exacerber ou atténuer^[2] les inégalités et les discriminations fondées sur le sexe, le genre, l'orientation sexuelle, l'origine raciale ou ethnique, la religion ou les convictions, l'âge et le handicap, en particulier dans l'accès à l'information, la prise de décision et la représentation. Une analyse critique est nécessaire sur la manière dont les données – reflétant souvent les biais sociaux existants – peuvent renforcer ou contester les structures sociales dominantes et la sécurité, et sur la manière dont ces technologies façonnent les perceptions publiques et la production de connaissances.

La recherche devrait également explorer les risques que ces technologies font peser sur l'intégrité démocratique, en particulier par la manipulation de l'opinion publique, des processus électoraux et des systèmes de gouvernance. Les deepfakes et la désinformation générée par l'IA peuvent déformer les faits, propager de faux récits et saper la confiance du public. Pour répondre à ces préoccupations, il faut une compréhension globale de la manière dont l'IA peut être (mal)utilisée pour façonner les campagnes politiques, les récits médiatiques, l'engagement public et la propagation et la diffusion de la désinformation (genrée). Les propositions sont encouragées à examiner comment le contenu généré par l'IA dans les médias, y compris les médias de divertissement, influence l'opinion publique, les récits sociaux…