EU Frontier AI Initiative: Entwicklung sicherer und recheneffizienter Frontier-KI-Lösungen innerhalb von Apply AI (RIA)

Erwartetes Ergebnis:

Die Apply AI Strategy^[1] zielt auch darauf ab, die EU-Fähigkeiten zu stärken und Exzellenz in der KI zu erreichen, um die Entwicklung europäischer Frontier-Modelle zu unterstützen. Als Teil der Frontier AI Initiative, die Europas führende Akteure in diesem Bereich zusammenbringt, wird dieses Thema die Entwicklung souveräner Frontier-KI unterstützen, die Sicherheit von Grund auf gewährleistet. Dieses Thema trägt direkt zur Apply AI Strategy bei. Projektergebnisse sollen zu allen folgenden erwarteten Ergebnissen beitragen:

• Stärkung der europäischen Fähigkeiten bei der Entwicklung von Frontier-KI-Modellen.
• Verbesserung der Recheneffizienz von Frontier-KI-Modellen, was zu reduzierten Rechenkosten führt.
• Verbesserte Sicherheit fortschrittlicher KI-Systeme auf Basis von Frontier-KI-Modellen durch die Entwicklung und Implementierung von „Safe-by-Design“-Prinzipien und/oder KI-Agenten, die als Sicherheitsbewerter fungieren.

Umfang:

Die Entwicklung von Frontier-KI-Modellen hin zu höchster Leistung voranzutreiben, während gleichzeitig Energieeffizienz gewährleistet, Rechenbeschränkungen berücksichtigt und die Sicherheit gestärkt werden. Der Ansatz dieses Themas ist zweifach. Erstens zielt es darauf ab, das KI-Feld durch die Entwicklung und das Training eines Frontier-KI-Modells voranzutreiben. Das KI-Modell sollte eine hochmoderne Leistung aufweisen, multimodale Fähigkeiten besitzen und für agentische KI-Fähigkeiten wie Werkzeugnutzung, Argumentation und autonome Problemlösung optimiert sein. Zweitens unterstützt dieses Thema die Forschung an umfassenden Methoden zur Reduzierung des Rechenbedarfs von Frontier-KI-Modellen und zur Gewährleistung ihrer Sicherheit, einschließlich technischer Methoden wie automatisiertes Testen und Interpretierbarkeit.

Die Haupttreiber für recheneffiziente KI-Systeme sind die dringenden Herausforderungen, die durch den wachsenden Energieverbrauch von KI und die aktuellen Rechenbeschränkungen entstehen. Moderne KI-Modelle, insbesondere Frontier-KI-Modelle, erfordern erhebliche Rechenressourcen mit erheblichen Auswirkungen auf die Umwelt. Darüber hinaus schaffen sie Eintrittsbarrieren für diejenigen, die das KI-Feld voranbringen möchten. Zu den wichtigsten Forschungsbereichen gehören Kompressions- und Destillationstechniken, die darauf abzielen, die Komplexität großer KI-Modelle zu reduzieren. Innovationen in KI-Architekturen sind ebenfalls relevant, mit einem Fokus auf innovative Modelle, die den Rechenbedarf für Training und Inferenz erheblich senken. Darüber hinaus können algorithmische Ansätze zur Minimierung der Rechenlast während des Vortrainings, Nachtrainings und der Inferenz in Betracht gezogen werden.

Die Gewährleistung der Sicherheit von KI-Systemen ist unerlässlich, insbesondere da KI-Modelle immer ausgefeilter und allgegenwärtiger werden. Potenzielle Forschungsbereiche, die in Betracht gezogen werden sollten, umfassen die Behebung von Fehlausrichtungen, insbesondere die unbeabsichtigte Fehlausrichtung großer KI-Modelle. Die Arbeit in diesem Bereich könnte Methoden zur Erkennung und Minderung von ausgeklügeltem Fehlverhalten untersuchen, wie z. B. Alignment Faking, Reward Hacking der menschlichen Aufsicht und kodierte Argumentation in Chain-of-Thought (CoT). Darüber hinaus könnte sich die Forschung auf die Verbesserung der Robustheit gegenüber adversen Angriffen, Jailbreaks und Backdoors konzentrieren. Weitere potenzielle Innovationsbereiche umfassen die Weiterentwicklung der Transparenz und Interpretierbarkeit von KI-Modellen. Die Sicherheitsforschung könnte auch Risiken berücksichtigen, die bei der Einbettung von Frontier-Modellen in agentische KI-Frameworks entstehen können, was erheblich zum Vertrauen und zur sicheren Einführung leistungsstarker KI-Lösungen beiträgt.

Dieses Thema trägt zur EU Frontier AI Initiative bei. Das Projekt sollte starke Verbindungen zur Resource for AI Science in Europe (RAISE) herstellen und sicherstellen, dass deren Prioritäten die behandelten Forschungsthemen beeinflussen. Es wird erwartet, dass die Aktivitäten die europäische KI-Forschungsgemeinschaft einbeziehen und Top-KI-Talente anziehen und halten, die an Frontier-Modellen und verwandten Bereichen arbeiten.

Alle Vorschläge sollen Mechanismen zur Bewertung und Demonstration des Fortschritts enthalten, einschließlich qualitativer und quantitativer KPIs, Benchmarks…