Iniciativa Europeia de IA de Fronteira: Desenvolvimento de soluções de IA de fronteira seguras e computacionalmente eficientes no âmbito da IA Aplicada (RIA)

Resultado Esperado:

A Estratégia de IA Aplicada^[1] também procura reforçar as capacidades da UE e alcançar a excelência em IA para apoiar o desenvolvimento de modelos de fronteira europeus. Como parte da Iniciativa de IA de Fronteira, que reúne os principais atores da Europa no campo, este tópico apoiará o desenvolvimento de IA de fronteira soberana, garantindo a segurança desde a conceção. Este tópico contribui diretamente para a Estratégia de IA Aplicada. Espera-se que os resultados do projeto contribuam para todos os seguintes resultados esperados:

• Capacidades europeias reforçadas no desenvolvimento de modelos de IA de fronteira.
• Eficiência computacional melhorada dos modelos de IA de fronteira, resultando em custos computacionais reduzidos.
• Segurança aprimorada de sistemas avançados de IA baseados em modelos de IA de fronteira através do desenvolvimento e implementação de princípios de segurança por conceção e/ou agentes de IA que atuam como avaliadores de segurança.

Âmbito:

Avançar no desenvolvimento de modelos de IA de fronteira para o mais alto nível de desempenho, garantindo a eficiência energética, abordando as restrições computacionais e reforçando a segurança. A abordagem deste tópico é dupla. Primeiro, visa avançar o campo da IA através do desenvolvimento e treino de um modelo de IA de fronteira. O modelo de IA deve demonstrar desempenho de ponta, ter capacidades multimodais e ser otimizado para capacidades de IA agêntica, como uso de ferramentas, raciocínio e resolução autónoma de problemas. Segundo, este tópico apoia a pesquisa sobre métodos abrangentes para reduzir as demandas computacionais dos modelos de IA de fronteira e para garantir a sua segurança, incluindo metodologias técnicas como testes automatizados e interpretabilidade.

Os principais impulsionadores dos sistemas de IA computacionalmente eficientes são os desafios urgentes colocados pela crescente pegada energética da IA e pelas atuais limitações computacionais. Os modelos de IA modernos, especialmente os modelos de IA de fronteira, exigem recursos computacionais substanciais, com um impacto significativo no ambiente. Além disso, criam barreiras de entrada para aqueles interessados em avançar o campo da IA. As principais áreas de pesquisa incluem técnicas de compressão e destilação destinadas a reduzir a complexidade de grandes modelos de IA. Inovações em arquiteturas de IA também são relevantes, com foco em modelos inovadores que reduzem significativamente as demandas computacionais para treino e inferência. Além disso, abordagens algorítmicas destinadas a minimizar a carga computacional durante o pré-treino, pós-treino e inferência também podem ser consideradas.

Garantir a segurança dos sistemas de IA é essencial, especialmente à medida que os modelos de IA se tornam cada vez mais sofisticados e omnipresentes. As potenciais áreas de pesquisa a serem consideradas incluem o tratamento do desalinhamento, particularmente o desalinhamento não intencional de grandes modelos de IA. O trabalho nesta área poderia explorar métodos para detetar e mitigar comportamentos inadequados sofisticados, como falsificação de alinhamento, hacking de recompensa da supervisão humana e raciocínio codificado em cadeia de pensamento (CoT). Além disso, a pesquisa poderia focar-se em melhorar a robustez contra ataques adversários, jailbreaks e backdoors. Outras áreas potenciais para inovação incluem o avanço da transparência e interpretabilidade dos modelos de IA. A pesquisa de segurança também poderia considerar os riscos que podem surgir ao incorporar modelos de fronteira em estruturas de IA agêntica, contribuindo significativamente para a confiança e adoção segura de soluções poderosas de IA.

Este tópico contribui para a iniciativa de IA de Fronteira da UE. O projeto deve estabelecer fortes ligações com o Recurso para a Ciência da IA na Europa (RAISE), garantindo que as suas prioridades informem os tópicos de pesquisa abordados. Espera-se que as atividades envolvam a comunidade de pesquisa de IA europeia e atraiam e retenham os melhores talentos de IA que trabalham em modelos de fronteira e áreas relacionadas.

Espera-se que todas as propostas incorporem mecanismos para avaliar e demonstrar o progresso, incluindo KPIs qualitativos e quantitativos, benchmark…