Inteligência Artificial para aplicações de Cibersegurança

Resultado Esperado:

Espera-se que as propostas contribuam para um ou mais dos seguintes:

• Soluções baseadas em IA para detecção de ameaças cibernéticas em tempo real;
• Sistemas avançados de IA adaptativos que evoluem com os desafios dinâmicos da cibersegurança;
• Contribuir para reduzir drasticamente o tempo de reação para a recuperação de sistemas.

Âmbito:

A Inteligência Artificial é cada vez mais utilizada na cibersegurança para detecção de ameaças, resposta a incidentes e mecanismos de defesa adaptativos. No entanto, os próprios sistemas baseados em IA são suscetíveis a manipulação adversária e preconceitos. Este tópico visa avançar as aplicações de cibersegurança baseadas em IA, garantindo que as soluções baseadas em IA permaneçam resilientes, transparentes e em conformidade com os quadros regulamentares, como o AI Act. Neste contexto, o tópico explora o papel de todos os tipos de IA, incluindo a IA generativa, em aplicações de cibersegurança, incluindo detecção automatizada de ameaças, defesa cibernética adaptativa e inteligência de ameaças cibernéticas baseada em IA. As propostas devem desenvolver soluções para IA confiável em contextos de cibersegurança, incluindo a abordagem de riscos de IA adversária, em conformidade com as disposições do AI Act. Espera-se que o tópico:

• Desenvolva soluções e ferramentas baseadas em IA para detecção de ameaças cibernéticas em tempo real. Investigar novas técnicas de aprendizado de máquina para detectar anomalias, atividades maliciosas e ameaças cibernéticas alimentadas por IA em tempo real, melhorando a consciência situacional e os tempos de resposta.
• Desenvolva sistemas de IA adaptativos capazes de evoluir com os desafios dinâmicos da cibersegurança. Explorar técnicas de IA que aprendem continuamente com novas ameaças cibernéticas, adaptando-se a padrões de ataque emergentes, mantendo a robustez e a explicabilidade.
• Apoie os futuros aprimoramentos dos Centros de Operações de Segurança/Hubs Cibernéticos. Desenvolver estruturas SOC aprimoradas por IA que integrem análises preditivas, automação e inteligência de ameaças para fortalecer as medidas de defesa proativa.