Iniziativa UE Frontier AI: Sviluppo di soluzioni AI all'avanguardia sicure ed efficienti dal punto di vista computazionale nell'ambito di Apply AI (RIA)

Risultato atteso:

La Strategia Apply AI^[1] mira anche a rafforzare le capacità dell'UE e a raggiungere l'eccellenza nell'IA per sostenere lo sviluppo di modelli europei all'avanguardia. Nell'ambito dell'Iniziativa Frontier AI, che riunisce i principali attori europei nel settore, questo argomento sosterrà lo sviluppo di un'IA sovrana all'avanguardia garantendo la sicurezza fin dalla progettazione. Questo argomento contribuisce direttamente alla Strategia Apply AI. I risultati del progetto dovrebbero contribuire a tutti i seguenti risultati attesi:

• Rafforzamento delle capacità europee nello sviluppo di modelli AI all'avanguardia.
• Miglioramento dell'efficienza computazionale dei modelli AI all'avanguardia, con conseguente riduzione dei costi computazionali.
• Miglioramento della sicurezza dei sistemi AI avanzati basati su modelli AI all'avanguardia attraverso lo sviluppo e l'implementazione di principi di sicurezza fin dalla progettazione e/o agenti AI che agiscono come valutatori di sicurezza.

Ambito:

Far progredire lo sviluppo di modelli AI all'avanguardia verso prestazioni di altissimo livello, garantendo al contempo l'efficienza energetica, affrontando i vincoli computazionali e rafforzando la sicurezza. L'approccio di questo argomento è duplice. In primo luogo, mira a far progredire il campo dell'IA attraverso lo sviluppo e l'addestramento di un modello AI all'avanguardia. Il modello AI dovrebbe dimostrare prestazioni all'avanguardia, avere capacità multimodali ed essere ottimizzato per capacità AI agentiche come l'uso di strumenti, il ragionamento e la risoluzione autonoma dei problemi. In secondo luogo, questo argomento supporta la ricerca su metodi completi per ridurre le esigenze computazionali dei modelli AI all'avanguardia e per garantirne la sicurezza, comprese metodologie tecniche come il test automatizzato e l'interpretabilità.

I principali motori alla base dei sistemi AI computazionalmente efficienti sono le sfide urgenti poste dalla crescente impronta energetica dell'IA e dalle attuali limitazioni computazionali. I moderni modelli AI, in particolare i modelli AI all'avanguardia, richiedono notevoli risorse computazionali, con un impatto significativo sull'ambiente. Inoltre, creano barriere all'ingresso per coloro che sono interessati a far progredire il campo dell'IA. Le aree di ricerca chiave includono tecniche di compressione e distillazione volte a ridurre la complessità dei grandi modelli AI. Sono rilevanti anche le innovazioni nelle architetture AI, con un focus su modelli innovativi che riducono significativamente le esigenze computazionali per l'addestramento e l'inferenza. Inoltre, possono essere considerati approcci algoritmici volti a minimizzare il carico computazionale durante il pre-addestramento, il post-addestramento e l'inferenza.

Garantire la sicurezza dei sistemi AI è essenziale, soprattutto man mano che i modelli AI diventano sempre più sofisticati e pervasivi. Le potenziali aree di ricerca da considerare includono l'affrontare il disallineamento, in particolare il disallineamento involontario dei grandi modelli AI. Il lavoro in quest'area potrebbe esplorare metodi per rilevare e mitigare comportamenti scorretti sofisticati, come la simulazione di allineamento, l'hacking delle ricompense della supervisione umana e il ragionamento codificato nella catena di pensiero (CoT). Inoltre, la ricerca potrebbe concentrarsi sul miglioramento della robustezza contro attacchi avversari, jailbreak e backdoor. Ulteriori potenziali aree di innovazione includono l'avanzamento della trasparenza e dell'interpretabilità dei modelli AI. La ricerca sulla sicurezza potrebbe anche considerare i rischi che possono sorgere quando si incorporano modelli all'avanguardia all'interno di framework AI agentici, contribuendo in modo significativo alla fiducia e all'adozione sicura di potenti soluzioni AI.

Questo argomento contribuisce all'iniziativa EU Frontier AI. Il progetto dovrebbe stabilire forti legami con il Resource for AI Science in Europe (RAISE), assicurando che le sue priorità informino gli argomenti di ricerca affrontati. Le attività dovrebbero coinvolgere la comunità di ricerca europea sull'IA e attrarre e trattenere i migliori talenti dell'IA che lavorano su modelli all'avanguardia e aree correlate.

Tutte le proposte dovrebbero incorporare meccanismi per valutare e dimostrare i progressi, inclusi KPI qualitativi e quantitativi, benchmark…