Verbesserung der Sicherheit, des Datenschutzes und der Robustheit von KI-Modellen und -Systemen (SecureAI)

Erwartetes Ergebnis:

Es wird erwartet, dass Vorschläge zu einem oder mehreren der folgenden Punkte beitragen:

• Robuste KI-Modelle und -Systeme, die in der Lage sind, verschiedenen Arten von adversarialer Manipulation zu widerstehen;
• Innovative Abwehrmechanismen für KI-Modelle und -Systeme gegen neue Angriffsfamilien;
• Methoden zur Erkennung und Abmilderung von Angriffen, wie z. B. Data Poisoning, Backdoor-Exploitation und Fehlklassifizierung;
• KI-Systeme, die datenschutzfördernde Technologien nutzen, welche die Vertraulichkeit von Daten und die Einhaltung gesetzlicher Vorschriften gewährleisten und so vertrauenswürdige interne KI-Einsätze ermöglichen (z. B. für Regierungen und Unternehmen).

Umfang:

Die zunehmende Abhängigkeit von KI in der Cybersicherheit, kritischen Infrastrukturen und Entscheidungsprozessen wirft Bedenken hinsichtlich der Sicherheit und Robustheit von KI-Systemen auf. Da KI-Systeme immer präsenter werden, werden sie verstärkt Ziel von adversarialen Angriffen, die Eingaben manipulieren, Trainingsdaten kompromittieren oder versteckte Schwachstellen einführen. Dieses Thema zielt darauf ab, die Resilienz von KI-Systemen und -Algorithmen gegen verschiedene Bedrohungen und Angriffe zu stärken, wie etwa die Verbesserung ihrer Widerstandsfähigkeit gegen adversariale Angriffe, Backdoor-Injektionen und Data Poisoning. Vorschläge sollten Echtzeit-Anomalieerkennung, Minderungstechniken zur Abwehr von adversarialen Angriffen und robuste Federated-Learning-Techniken entwickeln, in Synergie mit führenden Bemühungen zur KI-Transparenz und in Übereinstimmung mit dem AI Act. Das Thema soll Folgendes erreichen:

• Entwicklung robuster KI-Modelle, die resistent gegen adversariale Angriffe sind. Erforschung von Techniken zur Härtung von KI-Modellen und -Systemen gegen adversariale Störungen, wie z. B. adversariales Training, robuste Optimierung und Abwehrmechanismen, die das Vertrauen in die KI erhöhen.
• Verbesserung der Erkennung von manipulierten oder vergifteten Trainingsdaten. Weiterentwicklung von Methoden zur Identifizierung und Abmilderung kompromittierter Datensätze unter Nutzung von Techniken wie Anomalieerkennung, Provenance-Tracking und automatisierten Datenvalidierungsmechanismen.
• Adressierung des Konzepts der Private AI durch die Entwicklung von Mechanismen, die es ermöglichen, KI-Modelle in datenschutzfreundlichen Umgebungen zu trainieren, bereitzustellen und zu betreiben, insbesondere für sensible Anwendungsfälle, wie zum Beispiel im Regierungs- und Unternehmensumfeld. Dies beinhaltet die Sicherstellung, dass KI-Berechnungen und -daten innerhalb vertrauenswürdiger Ausführungsgrenzen verbleiben (z. B. On-Premise oder regulierte Cloud-Umgebungen), sowie die Nutzung bestehender und neu entstehender datenschutzfördernder Techniken wie Federated Learning, Secure Aggregation, Computing auf verschlüsselten Daten, quantensichere homomorphe Verschlüsselung und Secure Inference in Deep Learning, um den Schutz personenbezogener und anderer sensibler Daten über den gesamten KI-Lebenszyklus hinweg zu gewährleisten.

Allgemeine Bedingungen

1. Zulassungsbedingungen: Seitenlimit und Layout des Vorschlags

beschrieben in Annex A und Annex E der Horizon Europe Work Programme General Annexes.

Seitenlimits und Layout des Vorschlags: beschrieben in Part B des Antragsformulars, das im Einreichungssystem verfügbar ist.

2. Förderfähige Länder

beschrieben in Annex B der Work Programme General Annexes.

Eine Reihe von Nicht-EU/Nicht-Assoziierten Ländern, die nicht automatisch förderfähig sind, haben spezifische Bestimmungen getroffen, um Teilnehmern in Horizon Europe Projekten Mittel zur Verfügung zu stellen. Siehe Informationen im Horizon Europe Programme Guide.

3. Andere Förderbedingungen

Um die erwarteten Ergebnisse zu erzielen und die strategischen Vermögenswerte, Interessen, Autonomie und Sicherheit der Union zu schützen, ist die Teilnahme an diesem Thema auf juristische Personen beschränkt, die in Mitgliedstaaten und assoziierten Ländern ansässig sind. Um den Schutz der strategischen Interessen der Union und ihrer Mitgliedstaaten zu gewährleisten, dürfen Rechtsträger, die in einem oben aufgeführten förderfähigen Land ansässig sind, aber direkt oder indirekt von einem nicht förderfähigen Land oder einem Rechtsträger eines nicht förderfähigen Landes kontrolliert werden, nicht an der Maßnahme teilnehmen.

beschrieben in Annex B der Work Programme General Annexes.

4. Finanzielle und operative Kapazität sowie Ausschluss

beschrieben in Annex C der Work Programme General Annexes.

5a. Bewertung und Vergabe: Vergabekriterien, Scoring und Schwellenwerte

werden in Annex D der Work Programme General Annexes beschrieben.

5b. Bewertung und Vergabe: Einreichungs- und Bewertungsverfahren

werden in Annex F der Work Programme General Annexes und dem Online Manual beschrieben.

5c. Bewertung und Vergabe: Indikativer Zeitplan für Bewertung und Zuverfügbarmachung des Zuschusses

beschrieben in...

Für Beratung und Unterstützung im Zusammenhang mit dieser Ausschreibung empfehlen wir Ihnen, sich zunächst an die Nationalen Koordinierungszentren für Cybersicherheit (NCC) in Ihrem Land zu wenden, sofern verfügbar. Das Netzwerk der NCC umfasst ein nationales Zentrum aus jedem der 27 EU-Mitgliedstaaten sowie Island und Norwegen. Sie können sich auch mit Ihren Fragen an das ECCC Applicants Direct Contact Centre unter applicants@eccc.europa.eu wenden.

Das Online Manual ist Ihr Leitfaden für die Verfahren von der Einreichung des Vorschlags bis zur Verwaltung Ihres Zuschusses.

Der Horizon Europe Programme Guide enthält detaillierte Leitfäden zur Struktur, zum Budget und zu den politischen Prioritäten von Horizon Europe.

Funding & Tenders Portal FAQ – finden Sie Antworten auf die am häufigsten gestellten Fragen zur Einreichung von Vorschlägen, zur Bewertung und zum Zuschussmanagement.

Research Enquiry Service – stellen Sie Fragen zu allen Aspekten der europäischen Forschung im Allgemeinen und insbesondere zu den EU-Forschungsrahmenprogrammen.

National Contact Points (NCPs) – erhalten Sie Beratung, praktische Informationen und Unterstützung bei der Teilnahme an Horizon Europe. Es gibt auch NCPs in vielen Nicht-EU- und Nicht-Assoziierten Ländern („Drittländern“).

Enterprise Europe Network – wenden Sie sich an Ihren EEN-Nationalkontakt für Beratung von Unternehmen mit besonderem Fokus auf KMU. Die Unterstützung umfasst auch Beratung zur EU-Forschungsförderung.

IT Helpdesk – wenden Sie sich an den IT-Helpdesk des Funding & Tenders Portals bei Fragen wie vergessenen Passwörtern, Zugriffsrechten und Rollen, technischen Aspekten der Einreichung von Vorschlägen usw.

Der European IPR Helpdesk unterstützt Sie bei Fragen zum geistigen Eigentum.

CEN-CENELEC Research Helpdesk und ETSI Research Helpdesk – die europäischen Normungsorganisationen beraten Sie, wie Sie die Standardisierung in Ihrem Projektvorschlag angehen.

Die Europäische Charta für Forscher und der Verhaltenskodex für deren Rekrutierung – informieren Sie sich über die allgemeinen Grundsätze und Anforderungen, die die Rollen, Verantwortlichkeiten und Ansprüche von Forschern, Arbeitgebern und Förderern von Forschern festlegen.