ChatGPT’nin yaratıcısı OpenAI, gelecek için tehdit olarak gördüğü insanüstü yapay zekâ sistemlerinin kontrolü için kolları sıvadı.
Hızla gelişen yapay zekâ sistemlerinin 10 yıl içinde insanüstü seviyelere ulaşacağını öngören OpenAI, bu doğrultuda ilk tedbirini temmuz ayında süper zekâlı yapay zekâ sistemlerini kontrol altında tutmaya yönelik çözümler geliştirmeye odaklanan Superalignment ekibini kurarak almıştı. Şirkete göre, kullanıcı geribildiriminden takviyeli öğrenme gibi mevcut yöntemler insan denetimine tabi olsa da gelecekteki yapay zekâ sistemleri denetlenmesi zor karmaşık ve yaratıcı davranışlar (yazılımcılar için bile anlaşılması zor milyonlarca satır yeni ve potansiyel olarak tehlikeli bilgisayar kodu yazmak gibi) sergileyebilecek. Bu tip sistemler karşısında insan denetiminin zayıf kalabileceği haklı bir endişeyken, akıllara da şu soruyu getiriyor: “Zayıf denetçiler konumundaki insanlar, kendilerinden daha güçlü modelleri nasıl kontrol edecek?”
OpenAI’ın bu sorunun yanıtına ulaşmak üzere başlattığı ilk araştırmanın erken bulguları umut verici.
“Sonuçlarımız, insan geribildiriminden takviyeli öğrenme gibi naif insan denetiminin, daha fazla çalışma yapılmadan insanüstü modellere zayıf bir şekilde ölçeklenebileceğini, öte yandan zayıftan güçlüye genellemeyi önemli ölçüde iyileştirmenin mümkün olduğunu gösteriyor. Tabii gelecekteki modellerin insan hatalarını taklit etme eğilimi gelecekte genellemeyi zorlaştırabilir. Bununla birlikte, ekibimizin gelecekteki insanüstü modelleri kontrol etmenin bazı temel zorluklarını yakaladığına ve bu sorun üzerinde ampirik ilerleme kaydetmeye başlamamıza olanak sağladığına inanıyoruz. Gelecekteki çalışmalarımızda amacımız uyumsuzlukları gidermek, daha iyi ölçeklenebilir yöntemler geliştirmek ve zayıftan güçlüye genellemeye dair bilimsel anlayışımızı ilerletmek” diyen OpenAI, bu amaçla dışarıdan araştırmacıları da sürece katılmaya teşvik ediyor.
“İnsanüstü yapay zekâ sistemlerini güvenli hale getirmek çok önemli ve bu problem üzerinde deneysel ilerleme kaydetmek artık her zamankinden daha kolay. Araştırmacıların hangi atılımları keşfedeceğini görmek için heyecanlıyız” açıklamasında bulunan şirket, zayıftan güçlüye genelleme ile ilgili çalışmaları hızlandırmak amacıyla bir açık kaynak kodu yayınladı. 10 milyon dolarlık bir hibe programıyla lisansüstü öğrenciler, akademisyenler ve diğer araştırmacılar da sürece dahil olmaya davet edildi.
OpenAI’ın araştırma bulguları ve hibe programının detaylarına buradan ulaşabilirsiniz.
Kullanıcı adını ya da e-posta adresini gir. Sana bir e-posta göndereceğiz. Oradaki bağlantıya tıklayarak parolanı sıfırlayabilirsin.
Here you'll find all collections you've created before.
