Abordar el impacto de la inteligencia artificial, la ciberviolencia y los deepfakes en la igualdad, la democracia y las sociedades inclusivas

Resultado esperado:

Los proyectos deben contribuir a todos los siguientes resultados esperados:

• Mejor comprensión del impacto de las tecnologías impulsadas por la IA, incluidos los deepfakes generados por IA y la generación automatizada de contenido, en la igualdad, la participación política, los procesos democráticos, la confianza pública y la cohesión social, con conocimientos basados en evidencia sobre su papel en la mitigación o exacerbación de las disparidades.
• Adopción de marcos de políticas basados en evidencia para una gobernanza de la IA responsable, confiable y transparente, que integre consideraciones éticas, legales y sociales para salvaguardar los derechos fundamentales, mitigar los riesgos de desinformación y garantizar una implementación justa y segura de la IA, en línea con las obligaciones establecidas en el Reglamento de la UE sobre inteligencia artificial^[1].
• Mayor conciencia pública y alfabetización mediática para empoderar a los ciudadanos a identificar y evaluar críticamente la desinformación, el uso de deepfakes con fines maliciosos y el daño en línea, junto con la adopción de herramientas basadas en evidencia para prevenir, detectar y mitigar estos daños.
• Fortalecimiento de la capacidad de las instituciones académicas para llevar a cabo investigaciones de IA socialmente relevantes e impulsar el desarrollo de modelos de IA confiables y éticos, habilitado por una mayor colaboración entre la academia y la industria y un mejor acceso a, por ejemplo, infraestructura informática, conjuntos de datos de alta calidad, herramientas colaborativas y financiación.

Alcance:

El rápido desarrollo y despliegue de las tecnologías de IA, junto con su uso malicioso, como la creación de contenido generado y manipulado artificialmente, impacta profundamente la democracia, la igualdad, la inclusión social y la producción de conocimiento, y contribuye al aumento de la ciberviolencia. Aunque la IA puede ofrecer muchas oportunidades, su uso indebido puede facilitar/amplificar las desigualdades y los desequilibrios de poder, difundir la desinformación y la ciberviolencia contra mujeres, niños y minorías, concentrar el control de datos y socavar los procesos democráticos. Por lo tanto, este tema aborda tanto el uso malicioso de la IA (por ejemplo, desinformación generada por IA, deepfakes, ciberviolencia) como sus consecuencias sociales no intencionales (por ejemplo, opacidad algorítmica, amplificación de sesgos).

El papel de la IA en la influencia de los medios y la confianza pública exige una atención urgente, ya que el aumento del contenido generado o manipulado por IA, incluidos los deepfakes, amenaza los procesos democráticos y los derechos epistémicos. Un área clave de preocupación es cómo la IA y el contenido generado artificialmente están impactando la ciberviolencia, y el efecto que tiene en individuos o grupos que desconfían de la democracia, particularmente cuando esta desconfianza se cruza con el populismo de extrema izquierda y extrema derecha y la interferencia extranjera.

Las propuestas deben explorar cómo las tecnologías impulsadas por la IA y su uso pueden exacerbar o mitigar^[2] las desigualdades y discriminaciones basadas en el sexo, el género, la orientación sexual, el origen racial o étnico, la religión o las creencias, la edad y la discapacidad, particularmente en el acceso a la información, la toma de decisiones y la representación. Se necesita un análisis crítico de cómo los datos, que a menudo reflejan sesgos sociales existentes, pueden reforzar o desafiar las estructuras sociales dominantes y la seguridad, y cómo tales tecnologías dan forma a las percepciones públicas y la producción de conocimiento.

La investigación también debe explorar los riesgos que estas tecnologías plantean para la integridad democrática, particularmente a través de la manipulación de la opinión pública, los procesos electorales y los sistemas de gobernanza. Los deepfakes y la desinformación y desinformación generadas por IA pueden distorsionar los hechos, difundir narrativas falsas y socavar la confianza pública. Abordar estas preocupaciones requiere una comprensión integral de cómo la IA puede ser (mal) utilizada para dar forma a las campañas políticas, las narrativas mediáticas, la participación pública y la difusión y propagación de la desinformación (de género).