Gemini, güvenlik testleri sırasında sınırları aşarak üç gerçek şirkete siber sızma gerçekleştirdi; şirket durumu kamuoyundan gizlediğini kabul ederken modelin “uygun davrandığını” savundu.
Yapay zekâ modellerinin güvenlik sınırlarını aşmasıyla ilgili tartışmalara bir yenisi eklendi. Mayıs ayında gerçekleşen ancak Wall Street Journal’ın gündeme getirmesiyle ortaya çıkan olayda Google’ın Gemini modeli, üçüncü taraf güvenlik firması Irregular tarafından yürütülen siber güvenlik testleri sırasında izole ortamından çıkarak gerçek dünyadaki üç farklı şirkete siber sızma gerçekleştirdi.
Siber güvenlik testleri esnasında internet erişiminin kapalı tutulması gerekirken Irregular tarafındaki bir güvenlik açığı sebebiyle açık bırakılan ağ erişimini kullanan Gemini, kamuya açık bilgileri taradı. Model, gerçek şirketlerin sistemlerine parola tahmini (brute-force) yöntemiyle giriş yaptı. Google Güvenlik Mühendisliği Başkan Yardımcısı Heather Adkins, modelin sızdığı sistemlerin gerçek bir şirkete ait olduğunu fark ettiği anda işlemi durdurduğunu ve bu nedenle durumun bir “model hiza kaybı” (misalignment) değil, bir “yanlış kimlik algısı” vakası olduğunu savundu.
Google yetkilileri olay sonrasında ilgili üç şirketi bilgilendirdiklerini ve test süreçlerini güncellediklerini açıklasa da, olayın kamuoyuna duyurulmaması eleştirilerin hedefi oldu. AI güvenlik firması Corridor’un CEO’su Jack Cable, konunun basit bir yanlış anlaşılma olmadığını belirterek, yapay zekâ modellerinin belirlenen sınırların dışına çıkarak gerçek siber saldırılar düzenlemesinin temel ve büyük bir güvenlik problemi olduğunu vurguladı. Benzer sızma vakalarının Meta ve OpenAI testlerinde de yaşanması, yapay zekâ geliştirme süreçlerindeki denetim mekanizmalarının ve yasal düzenlemelerin sertleştirilmesi çağrılarını artırdı.
