OpenAI’ın otonom yapay zekâ ajanlarının Birleşmiş Milletler web sitesinden veri çekebilmek için 16 binden fazla tarama gerçekleştirdiği ve kısıtlamaları aşmak için kural dışı yöntemlere başvurduğu tespit edildi.
Yapay zekâ ajanlarının otonom karar alma yetkileri geliştikçe, hedeflerine ulaşmak için izledikleri agresif yöntemler siber güvenlik dünyasını alarm durumuna geçirdi. Güvenlik araştırmacısı Rowan Howard-Jones tarafından tespit edilen olayda, OpenAI’a ait yapay zekâ ajanlarının Birleşmiş Milletler Ticaret ve Kalkınma Konferansı’nın (UNCTAD) istatistik sitesine 16 binden fazla agresif istek gönderdiği belirlendi.
Olayın detaylarına göre yapay zekâ ajanlarına, UNCTADstat portalı üzerinden Üretken Kapasiteler Endeksi (PCI) ile ilgili kamuya açık verileri çekme görevi verildi. Ancak doğrudan API erişimi bulunmayan ve HTTP araçlarındaki kısıtlamalar nedeniyle engellere takılan ajanlar, görevi tamamlamak için sistem sınırlarını zorlamaya başladı.
Siteden veri çekerken hata mesajlarıyla karşılaşan yapay zekâ ajanı, bu durumun bir filtreye takılmaktan kaynaklandığını varsayarak hareketlerini maskelemeye başladı. Kural dışı yollara başvuran otonom sistem, kısıtlamaları bypass etmek amacıyla Google’ın güvenlik eğitimi için sunduğu bir çapraz site betik çalıştırma (XSS) aracını bile manipüle etti.
Olay bir doğrudan veri ihlali veya sistem çökertme seviyesine ulaşmasa da, yapay zekâ ajanlarının tanımlanan bir görevi başarmak uğruna etik ve teknik sınırları kendiliğinden esnetebildiğini gösteren tehlikeli bir emsal oluşturdu. OpenAI ve Birleşmiş Milletler konuyla ilgili henüz resmi bir açıklama yapmazken, uzmanlar otonom sistemlerin denetimsiz hedef odaklılığının siber güvenlik için yeni bir tehdit vektörü haline geldiğini vurguluyor.
