Anthropic CEO’su Dario Amodei, yapay zekâ modellerinin yeteneklerinin geliştirilme hızının yavaşlatılması çağrısında bulundu.
Amodei, yayımladığı yeni blog yazısında, yapay zekânın son aylarda beklenenden çok daha hızlı ilerlediğini ve özellikle bir sonraki nesil yapay zekâ sistemlerini geliştirme kabiliyetinin güçlendiğini belirtti.
“Yapay zekânın yeteneklerini geliştirme hızını yavaşlatmalıyız” diyen Amodei, bunun teknolojik ilerlemenin durdurulması anlamına gelmediğini, ancak kazanılacak zamanın güvenlik önlemlerini güçlendirmek için kullanılması gerektiğini ifade etti.
Amodei’nin önerisinin ilk ayağını, yapay zekâ şirketlerinin güvenlik taahhütlerini yerine getirip getirmediğini denetleyecek bağımsız değerlendiriciler oluşturuyor.
Amodei, METR gibi üçüncü taraf kuruluşlardan gelecek uzmanların şirketlerin içinde çalışmasını önerdi. Bu uzmanların, şirketlerin güvenlik uygulamalarını incelemesinin yanı sıra meydana gelen güvenlik olaylarının raporlanmasını da takip etmesi planlanıyor.
Anthropic CEO’su, şirketinin bu uygulamaya tek taraflı olarak bağlılık göstereceğini açıkladı ve hükümetlere diğer öncü yapay zekâ şirketlerinin de benzer sistemi uygulamasını zorunlu kılma çağrısında bulundu. Bağımsız değerlendiricilerin şirket çalışanlarına benzer şekilde kimlik kartı, çalışma alanı ve bilgisayara sahip olması; iç risk değerlendirme ekiplerine büyük ölçüde benzer erişim imkanlarından yararlanması öneriliyor.
Amodei’nin çağrısı, OpenAI CEO’su Sam Altman’dan da destek gördü. Altman, Amodei’nin “frontier” yapay zekâ gelişimini kontrollü biçimde yavaşlatma fikrine katıldığını belirterek, konunun son haftalarda OpenAI içindeki görüşmelerin de ana başlıklarından biri olduğunu söyledi.
Altman ayrıca, OpenAI’nin de bağımsız değerlendiricilerin şirket içine alınması konusunda benzer bir adım atacağını açıkladı.
Amodei’nin planının ikinci ayağında, demokratik ülkelerde faaliyet gösteren öncü yapay zekâ şirketlerinin ortak güvenlik standartları ve yapay zekâ gelişiminin hızına ilişkin sınırlar konusunda koordinasyon sağlaması bulunuyor. Ancak Amodei, şirketlerin rekabet hukuku ve antitröst kuralları nedeniyle doğrudan koordinasyon kurmasının sorun yaratabileceğine dikkat çekti. Bu nedenle ABD hükümetinin söz konusu görüşmeleri mümkün kılacak sınırlı bir hukuki çerçeve oluşturmasını önerdi.
Planın üçüncü ayağı ise küresel koordinasyon. Amodei, ABD ve müttefiklerinin otoriter yönetimlerle de mümkün olduğu ölçüde işbirliği yapması gerektiğini savundu. Burada özellikle Çin ile koordinasyon ihtimaline dikkat çekildi.
Amodei’ye göre küresel bir anlaşmanın kapsamı sınırlı kalsa bile, yapay zekânın biyolojik silah üretiminde kullanılması gibi “açıkça tehlikeli” kullanım alanlarının yasaklanması konusunda ortak zemin bulunabilir.
Amodei’nin açıklamaları, Anthropic içinde ve yapay zekâ sektörünün genelinde güvenlik tartışmalarının yoğunlaştığı bir dönemde geldi. Anthropic araştırmacısı Jacob Coxon, kısa süre önce şirketten ayrılırken önde gelen yapay zekâ şirketlerinin insanlığın geleceği açısından aşırı riskli bir yarış yürüttüğünü savundu. Şirket içinde yapay zekânın önümüzdeki yıllarda insanlık için varoluşsal bir tehdit oluşturabileceğine ilişkin endişeler de daha yüksek sesle dile getiriliyor. Amodei ise doğrudan bu tartışmaya atıfta bulunmadan, kendisini “kıyamet tellalı” olarak gören eleştirilere karşı dengeli bir yaklaşım savunduğunu söyledi.
CEO’ya göre yapay zekâya yönelik mevcut tepkinin temelinde bir “güven krizi” bulunuyor. İnsanların teknoloji şirketlerine, teknoloji sektörüne ve hükümetlere olan güveninin azalmasının tartışmaları daha da sertleştirdiğini belirtti.
