Initiative européenne pour l'IA de pointe : Développer des solutions d'IA de pointe sûres et efficaces sur le plan informatique dans le cadre d'Apply AI (RIA)

Expected Outcome:

La stratégie Apply AI^[1] vise également à renforcer les capacités de l'UE et à atteindre l'excellence en IA pour soutenir le développement de modèles frontières européens. Dans le cadre de l'Initiative IA de pointe, qui rassemble les principaux acteurs européens dans ce domaine, ce sujet soutiendra le développement d'une IA de pointe souveraine garantissant la sécurité dès la conception. Ce sujet contribue directement à la stratégie Apply AI. Les résultats du projet devraient contribuer à tous les résultats attendus suivants :

• Renforcement des capacités européennes dans le développement de modèles d'IA de pointe.
• Amélioration de l'efficacité computationnelle des modèles d'IA de pointe, entraînant une réduction des coûts computationnels.
• Amélioration de la sécurité des systèmes d'IA avancés basés sur des modèles d'IA de pointe grâce au développement et à la mise en œuvre de principes de sécurité dès la conception et/ou d'agents d'IA agissant comme évaluateurs de sécurité.

Scope:

Faire progresser le développement de modèles d'IA de pointe vers les performances les plus élevées, tout en garantissant l'efficacité énergétique, en répondant aux contraintes computationnelles et en renforçant la sécurité. L'approche de ce sujet est double. Premièrement, il vise à faire progresser le domaine de l'IA par le développement et la formation d'un modèle d'IA de pointe. Le modèle d'IA devrait démontrer des performances de pointe, avoir des capacités multimodales et être optimisé pour des capacités d'IA agentiques telles que l'utilisation d'outils, le raisonnement et la résolution autonome de problèmes. Deuxièmement, ce sujet soutient la recherche sur des méthodes complètes pour réduire les exigences computationnelles des modèles d'IA de pointe et pour assurer leur sécurité, y compris des méthodologies techniques telles que les tests automatisés et l'interprétabilité.

Les principaux moteurs des systèmes d'IA efficaces sur le plan computationnel sont les défis urgents posés par l'empreinte énergétique croissante de l'IA et les limitations computationnelles actuelles. Les modèles d'IA modernes, en particulier les modèles d'IA de pointe, nécessitent des ressources computationnelles substantielles, avec un impact significatif sur l'environnement. De plus, ils créent des barrières à l'entrée pour ceux qui souhaitent faire progresser le domaine de l'IA. Les domaines de recherche clés comprennent les techniques de compression et de distillation visant à réduire la complexité des grands modèles d'IA. Les innovations dans les architectures d'IA sont également pertinentes, avec un accent sur les modèles innovants qui réduisent considérablement les exigences computationnelles pour la formation et l'inférence. En outre, des approches algorithmiques visant à minimiser la charge computationnelle pendant le pré-entraînement, le post-entraînement et l'inférence peuvent également être envisagées.

Assurer la sécurité des systèmes d'IA est essentiel, d'autant plus que les modèles d'IA deviennent de plus en plus sophistiqués et omniprésents. Les domaines de recherche potentiels à considérer incluent la résolution des désalignements, en particulier le désalignement involontaire des grands modèles d'IA. Les travaux dans ce domaine pourraient explorer des méthodes pour détecter et atténuer les comportements malveillants sophistiqués, tels que la falsification d'alignement, le piratage de récompense de la surveillance humaine et le raisonnement encodé dans la chaîne de pensée (CoT). De plus, la recherche pourrait se concentrer sur l'amélioration de la robustesse contre les attaques adverses, les jailbreaks et les portes dérobées. D'autres domaines potentiels d'innovation incluent l'amélioration de la transparence et de l'interprétabilité des modèles d'IA. La recherche sur la sécurité pourrait également prendre en compte les risques qui peuvent survenir lors de l'intégration de modèles de pointe dans des cadres d'IA agentiques, contribuant ainsi de manière significative à la confiance et à l'adoption sûre de solutions d'IA puissantes.

Ce sujet contribue à l'initiative européenne pour l'IA de pointe. Le projet devrait établir des liens solides avec le Resource for AI Science in Europe (RAISE), en veillant à ce que ses priorités informent les sujets de recherche abordés. Les activités devraient impliquer la communauté de recherche européenne en IA et attirer et retenir les meilleurs talents en IA travaillant sur les modèles de pointe et les domaines connexes.

Toutes les propositions devraient intégrer des mécanismes d'évaluation et de démonstration des progrès, y compris des KPI qualitatifs et quantitatifs, des benchmarks…