Abordando o impacto da inteligência artificial, ciberviolência e deepfakes na igualdade, democracia e sociedades inclusivas

Resultado Esperado:

Os projetos devem contribuir para todos os seguintes resultados esperados:

• Compreensão aprimorada do impacto das tecnologias impulsionadas por IA, incluindo deepfakes gerados por IA e geração automatizada de conteúdo, na igualdade, participação política, processos democráticos, confiança pública e coesão social, com insights baseados em evidências sobre seu papel na mitigação ou exacerbação de disparidades.
• Adoção de estruturas políticas baseadas em evidências para uma governança de IA responsável, confiável e transparente, integrando considerações éticas, legais e sociais para salvaguardar os direitos fundamentais, mitigar os riscos de desinformação e garantir a implantação justa e segura da IA, em linha com as obrigações estabelecidas no Regulamento da UE sobre inteligência artificial^[1].
• Aumento da conscientização pública e da alfabetização midiática para capacitar os cidadãos a identificar e avaliar criticamente a desinformação, o uso de deepfakes para fins maliciosos e os danos online, juntamente com a adoção de ferramentas baseadas em evidências para prevenir, detectar e mitigar esses danos.
• Capacidade fortalecida das instituições acadêmicas para conduzir pesquisas de IA socialmente relevantes e impulsionar o desenvolvimento de modelos de IA confiáveis e éticos, possibilitado pelo aumento da colaboração entre academia e indústria e melhor acesso a, por exemplo, infraestrutura de computação, conjuntos de dados de alta qualidade, ferramentas colaborativas e financiamento.

Escopo:

O rápido desenvolvimento e implantação de tecnologias de IA, juntamente com seu uso malicioso, como a criação de conteúdo artificialmente gerado e manipulado, impacta profundamente a democracia, a igualdade, a inclusão social e a produção de conhecimento, e contribui para o aumento da ciberviolência. Embora a IA possa oferecer muitas oportunidades, seu uso indevido pode facilitar/amplificar desigualdades e desequilíbrios de poder, espalhar desinformação e ciberviolência contra mulheres, crianças e minorias, concentrar o controle de dados e minar processos democráticos. Assim, este tópico aborda tanto o uso malicioso da IA (por exemplo, desinformação gerada por IA, deepfakes, ciberviolência) quanto suas consequências sociais não intencionais (por exemplo, opacidade algorítmica, amplificação de vieses).

O papel da IA na influência da mídia e na confiança pública exige atenção urgente, pois o aumento de conteúdo gerado ou manipulado por IA, incluindo deepfakes, ameaça os processos democráticos e os direitos epistêmicos. Uma área chave de preocupação é como a IA e o conteúdo artificialmente gerado estão impactando a ciberviolência, e o efeito que isso tem sobre indivíduos ou grupos que desconfiam da democracia, particularmente onde essa desconfiança se cruza com o populismo de extrema esquerda e extrema direita e a interferência estrangeira.

As propostas devem explorar como as tecnologias impulsionadas por IA e seu uso podem exacerbar ou mitigar^[2] desigualdades e discriminações baseadas em sexo, gênero, orientação sexual, origem racial ou étnica, religião ou crença, idade e deficiência, particularmente no acesso à informação, tomada de decisões e representação. É necessária uma análise crítica de como os dados – muitas vezes refletindo vieses sociais existentes – podem reforçar ou desafiar as estruturas sociais dominantes e a segurança, e como essas tecnologias moldam as percepções públicas e a produção de conhecimento.

A pesquisa também deve explorar os riscos que essas tecnologias representam para a integridade democrática, particularmente através da manipulação da opinião pública, processos eleitorais e sistemas de governança. Deepfakes e desinformação e desinformação geradas por IA podem distorcer fatos, espalhar narrativas falsas e minar a confiança pública. Abordar essas preocupações requer uma compreensão abrangente de como a IA pode ser (mal)utilizada para moldar campanhas políticas, narrativas midiáticas, engajamento público e a disseminação de desinformação (de gênero).