AB Sınır Yapay Zeka Girişimi: Apply AI (RIA) kapsamında güvenli ve hesaplama açısından verimli sınır yapay zeka çözümleri geliştirmek

Beklenen Sonuç:

Apply AI Stratejisi^[1] ayrıca AB'nin yeteneklerini güçlendirmeyi ve Avrupa sınır modellerinin geliştirilmesini desteklemek için yapay zekada mükemmelliğe ulaşmayı hedeflemektedir. Alanında Avrupa'nın önde gelen aktörlerini bir araya getiren Sınır Yapay Zeka Girişimi'nin bir parçası olarak, bu konu tasarım gereği güvenliği sağlayarak egemen sınır yapay zekanın geliştirilmesini destekleyecektir. Bu konu doğrudan Apply AI Stratejisi'ne katkıda bulunmaktadır. Proje sonuçlarının aşağıdaki beklenen sonuçların tümüne katkıda bulunması beklenmektedir:

• Sınır yapay zeka modellerinin geliştirilmesinde güçlendirilmiş Avrupa yetenekleri.
• Sınır yapay zeka modellerinin hesaplama verimliliğinin artırılması, sonuç olarak hesaplama maliyetlerinin düşürülmesi.
• Tasarım gereği güvenli ilkelerin ve/veya güvenlik değerlendiricisi olarak hareket eden yapay zeka ajanlarının geliştirilmesi ve uygulanması yoluyla sınır yapay zeka modellerine dayalı gelişmiş yapay zeka sistemlerinin güvenliğinin artırılması.

Kapsam:

Sınır yapay zeka modellerinin en üst düzey performansa doğru gelişimini ilerletmek, aynı zamanda enerji verimliliğini sağlamak, hesaplama kısıtlamalarını ele almak ve güvenliği güçlendirmek. Bu konunun yaklaşımı iki yönlüdür. İlk olarak, bir sınır yapay zeka modelinin geliştirilmesi ve eğitilmesi yoluyla yapay zeka alanını ilerletmeyi amaçlamaktadır. Yapay zeka modeli, son teknoloji performansı sergilemeli, çok modlu yeteneklere sahip olmalı ve araç kullanımı, muhakeme ve otonom problem çözme gibi ajans yapay zeka yetenekleri için optimize edilmelidir. İkinci olarak, bu konu, otomatik test ve yorumlanabilirlik gibi teknik metodolojiler de dahil olmak üzere, sınır yapay zeka modellerinin hesaplama taleplerini azaltmak ve güvenliklerini sağlamak için kapsamlı yöntemler üzerine araştırmaları desteklemektedir.

Hesaplama açısından verimli yapay zeka sistemlerinin arkasındaki temel itici güçler, yapay zekanın artan enerji ayak izi ve mevcut hesaplama sınırlamalarının yarattığı acil zorluklardır. Modern yapay zeka modelleri, özellikle sınır yapay zeka modelleri, çevre üzerinde önemli bir etkiyle birlikte önemli hesaplama kaynakları gerektirmektedir. Ayrıca, yapay zeka alanını ilerletmek isteyenler için giriş engelleri oluşturmaktadırlar. Temel araştırma alanları, büyük yapay zeka modellerinin karmaşıklığını azaltmayı amaçlayan sıkıştırma ve damıtma tekniklerini içermektedir. Yapay zeka mimarilerindeki yenilikler de, eğitim ve çıkarım için hesaplama taleplerini önemli ölçüde azaltan yenilikçi modellere odaklanarak ilgili olmaktadır. Ayrıca, ön eğitim, son eğitim ve çıkarım sırasında hesaplama yükünü en aza indirmeyi amaçlayan algoritmik yaklaşımlar da değerlendirilebilir.

Yapay zeka sistemlerinin güvenliğini sağlamak, özellikle yapay zeka modelleri giderek daha karmaşık ve yaygın hale geldikçe esastır. Değerlendirilebilecek potansiyel araştırma alanları, özellikle büyük yapay zeka modellerinin kasıtsız yanlış hizalanması olmak üzere, yanlış hizalanmayı ele almayı içermektedir. Bu alandaki çalışmalar, hizalama taklidi, insan denetiminin ödül hacklenmesi ve düşünce zincirinde (CoT) kodlanmış muhakeme gibi sofistike kötü davranışları tespit etme ve azaltma yöntemlerini keşfedebilir. Ek olarak, araştırma, düşmanca saldırılara, hapishane kaçışlarına ve arka kapılara karşı sağlamlığı artırmaya odaklanabilir. Yenilik için diğer potansiyel alanlar, yapay zeka modellerinin şeffaflığını ve yorumlanabilirliğini ilerletmeyi içermektedir. Güvenlik araştırması, sınır modellerinin ajans yapay zeka çerçevelerine yerleştirildiğinde ortaya çıkabilecek riskleri de değerlendirebilir, güçlü yapay zeka çözümlerinin güvenine ve güvenli bir şekilde benimsenmesine önemli ölçüde katkıda bulunabilir.

Bu konu, AB Sınır Yapay Zeka girişimine katkıda bulunmaktadır. Proje, Avrupa'da Yapay Zeka Bilimi Kaynağı (RAISE) ile güçlü bağlantılar kurmalı ve önceliklerinin ele alınan araştırma konularını bilgilendirmesini sağlamalıdır. Faaliyetlerin Avrupa yapay zeka araştırma topluluğunu içermesi ve sınır modelleri ve ilgili alanlarda çalışan en iyi yapay zeka yeteneklerini çekmesi ve elde tutması beklenmektedir.

Tüm tekliflerin, nitel ve nicel KPI'lar, kıyaslama dahil olmak üzere ilerlemeyi değerlendirme ve gösterme mekanizmalarını içermesi beklenmektedir…