DeepRAP: Tiefes Denken, Abstraktion & Planung hin zu vertrauenswürdigen kognitiven KI-Systemen

Erwartete Auswirkungen:

Das resultierende Portfolio wird nicht nur den wissenschaftlichen Stand der Technik vorantreiben, sondern auch eine robuste, interoperable und anwendungsorientierte Gemeinschaft aufbauen, die Europa an der Spitze einer vertrauenswürdigen kognitiven KI positioniert. Es soll zudem die Grundlagen für die künftige europäische Führungsrolle in einer sicheren, menschenzentrierten kognitiven KI legen und die Souveränität sowie Wettbewerbsfähigkeit in Schlüsselbereichen unterstützen. Es wird die Ambitionen des AI Act^[1] und den europäischen Ansatz für Künstliche Intelligenz^[2] unterstützen.

Erwartete Ergebnisse:

Ehrgeizige Vorschläge, die im Rahmen dieser Ausschreibung eingereicht werden, werden Folgendes liefern:

• Modelle und/oder Architekturen, die multimodale Daten und Wissen sowie Unsicherheit verarbeiten können und mit begrenzten Rechenressourcen trainiert und eingesetzt werden können
• Nachweisbare Vertrauensmechanismen, die Erklärbarkeit, Transparenz, Fairness, Risikobewertung, Sicherheit und die Übereinstimmung mit ethischen und rechtlichen Standards gewährleisten, einschließlich der Grundrechte und des EU AI Act, sowie
• Demonstration der entwickelten Fähigkeiten, integriert in ein kognitives KI-System (Erreichen von TRL4), das komplexe Aufgaben in der realen Welt ausführt (z. B. wissenschaftliche Entdeckung, Entscheidungsunterstützung, Problemlösung) sowie Simulationen in großem Maßstab.

Darüber hinaus werden die Vorschläge:

• Neue Methoden und Metriken zur Bewertung und Zertifizierung von Schlussfolgerungen und Vertrauenswürdigkeit in der KI sowie zur Nutzung der Rechenressourcen vorschlagen
• Den FAIR-Prinzipien folgen, um sicherzustellen, dass alle Daten, Modelle und Ergebnisse auffindbar, zugänglich, interoperabel und wiederverwendbar sind, um Transparenz, Reproduzierbarkeit und Wirkung zu maximieren, sowie
• Synergien mit EU-Initiativen wie TEFs (AI Testing and Experimentation Facilities)^[3], eBrains^[4], Resource for AI Science in Europe (RAISE)^[5], AI-on-demand Platform (AIoD)^[6] und dem Quantum Flagship^[7] entwickeln.

Portfolio-Ansatz

Die Zusammensetzung des Portfolios der im Rahmen der DeepRAP Challenge zu fördernden Projekte wird eine umfassende Abdeckung der folgenden Kategorien sicherstellen, mit dem Ziel, Breite zu gewährleisten und Synergien zwischen den Projekten zu ermöglichen:

• Kategorie 1 – Kognitive Funktionsfähigkeit: Schlussfolgerung, Abstraktion und Planung sollten durch das ausgewählte Portfolio abgedeckt werden.
• Kategorie 2 – Technologischer Ansatz: Von den ausgewählten Projekten wird erwartet, dass sie eine Vielzahl technologischer Ansätze verwenden, einschließlich, aber nicht beschränkt auf neuro-symbolische KI, Deep Learning, Reinforcement Learning und neuartige Frameworks, die von interdisziplinären Feldern inspiriert sind, und
• Kategorie 3 – Anwendungsfall und Anwendungsbereich: Die ausgewählten Projekte werden eine Vielzahl von realen Bereichen abdecken, wie Industrie, Mobilität, zivile Sicherheit, wissenschaftliche Entdeckung, Gesundheit, Cybersicherheit, Justiz und Mensch-Roboter-Interaktion.

Die ausgewählten Projekte werden auch mit der Leitung und/oder der Beteiligung an Portfolio-Aktivitäten beauftragt, die sich auf die folgenden Prioritäten konzentrieren:

• Interoperabilität: Etablierung gemeinsamer Standards und Protokolle, um eine nahtlose Abstimmung zwischen den Projekten zu gewährleisten
• Benchmark-Entwicklung: Gemeinsame Erstellung eines DeepRAP-Benchmarks mit geteilten Aufgaben und einer offenen Evaluierungsplattform für eine transparente Bewertung
• Gemeinsame Piloten: Durchführung gemeinsamer Pilotdemonstrationen zur Bewältigung komplexer realer Probleme, um die DeepRAP-Fähigkeiten aufzuzeigen
• Multiagenten-Integration: sofern möglich, Kombination von Projektergebnissen in modulare Multiagenten-KI-Systeme, die kollektive Schlussfolgerung und Planung durch strukturierte Interaktionen zwischen mehreren Agenten demonstrieren
• Gestaltung von Anwendungen: Definition wirkungsvoller Anwendungsfälle und Einbindung von Stakeholdern, um die Entwicklung und Einführung innovativer kognitiver KI-Systeme zu leiten, und
• Ethische und gesellschaftliche Ausrichtung: Proaktive Adressierung ethischer, rechtlicher und gesellschaftlicher Erwägungen, einschließlich grundlegender…