Şirketler bir yandan yapay zekânın risklerine dikkat çekerken diğer yandan yarıştan çekilmenin bedelinden korkuyor. Peki, herkesin hızlanmak zorunda hissettiği bu yarışın sonunda bizi ne bekliyor?
Son birkaç yıldır yapay zekâ dünyasında tek bir soru vardı: Kim önde? OpenAI mı, Google mı, Anthropic mi? Meta mı, xAI mı? Yoksa Çin’den gelen yeni oyuncular mı? Yeni bir model çıktığında benchmark’lara baktık. Birinin modeli kodlamada diğerini geçti, öteki görselde öne çıktı. Sonra birkaç hafta geçti ve bütün tablo yeniden değişti. Açıkçası bir noktadan sonra ben de hangi modelin kaçıncı sırada olduğunu takip etmeyi bıraktım. Çünkü artık mesele kimin birinci olduğu değil. Yarışın kendisi başka bir yere gidiyor.
Ve son haftalarda çok ilginç bir şey oldu: Yarışanlar, yarışın yavaşlamasını istemeye başladı. Ama beni asıl düşündüren açıklama bir CEO’dan değil, yarışın içinden ayrılan bir araştırmacıdan geldi.
Anthropic araştırmacısı Jacob Coxon şirketten istifa ederken, bu teknolojiyi geliştiren insanların, yapay zekânın bu on yıl bitmeden hepimizi öldürebileceğine gerçekten inandığını söyledi. Daha da çarpıcısı, şirketlerin buna rağmen kendi kendini geliştirebilen süper zekâya doğru yarışarak “hayatlarımızla kumar oynadığını” savundu.
Bunu herhangi bir teknoloji eleştirmeni söylemiyor. OpenAI ve Anthropic’te bu modellerin geliştirilmesinde çalışmış biri söylüyor. Üstelik yalnız da değil. Anthropic’in alignment araştırmalarının başındaki Evan Hubinger, yapay zekânın önümüzdeki 10 yıl içinde insanlığın yok oluşuna yol açma ihtimalini kişisel olarak yüzde 10’dan fazla gördüğünü açıkladı. Yüzde 10… Bir uçağa binerken düşme ihtimalinin yüzde 10 olduğunu bilsek o uçağa binmeyiz. Ama sözkonusu yapay zekâ olduğunda aynı insanlar bir yandan bu risklerden bahsediyor, diğer yandan tarihin belki de en hızlı teknoloji yarışına devam ediyor.
Bence hikâyenin en garip tarafı burada. Anthropic CEO’su Dario Amodei gelişimin kontrollü biçimde yavaşlatılmasından bahsediyor. Sam Altman benzer şekilde hızın kontrol edilmesi gerektiğini söylüyor. Sektörün en büyük oyuncuları güvenlik konusunda giderek daha yüksek sesle konuşuyor. Ama kimse gerçekten ayağını gazdan çekemiyor. Çünkü sorun şu: İlk yavaşlayan kaybedebilir. OpenAI tek başına yavaşlarsa Anthropic devam edecek. Anthropic yavaşlarsa Google devam edecek. Amerikan şirketleri birlikte yavaşlarsa bu kez Çin ne yapacak? Tam bir teknoloji çıkmazı.
Herkes hızın tehlikeli olabileceğini biliyor ama kimse diğerinin hızlanmaya devam ettiği bir dünyada yavaşlayan taraf olmak istemiyor. Bence yapay zekâ tartışmasının geldiği en ilginç nokta tam olarak burası.
Çünkü birkaç yıl önce konuştuğumuz riskler teorikti. “Bir gün yapay zekâ insan seviyesine gelirse ne olur?” diyorduk.
Bugün tartışma değişti. Modeller artık yalnızca bize cevap vermiyor. Bilgisayar kullanıyor, kod yazıyor, başka araçları çalıştırıyor, araştırma yapıyor ve giderek daha uzun işleri kendi başına tamamlıyor. Yapay zekâ yavaş yavaş bir aygıt olmaktan çıkıp aktöre dönüşüyor. Asıl tedirginlik de burada başlıyor. Ama ben “AI’ı durduralım” fikrinin tek başına gerçekçi olduğunu düşünmüyorum. Çünkü artık ortada durdurabileceğiniz tek bir şirket, tek bir ülke ya da tek bir teknoloji yok. Üstelik başka bir soru daha var. Bugün yavaşlama çağrısı yapan şirketler aynı zamanda yarışın en büyük oyuncularıysa, konulacak kuralları kim belirleyecek? Güvenlik adına getirilen bariyerler gerçekten bizi mi koruyacak, yoksa milyarlarca dolarlık modeller geliştirebilen birkaç şirketin pozisyonunu daha da mı güçlendirecek? Bence önümüzdeki dönemin asıl tartışması burada olacak.
Hız mı, güvenlik mi? sorusu artık fazla kolay. Gerçek soru şu: Ne kadar hız, kimin kontrolünde ve hangi bedelle? Çünkü yapay zekâ yarışında garip bir noktaya geldik. Arabalar hızlanıyor. Motorlar güçleniyor. Direksiyonda dünyanın en büyük teknoloji şirketleri var. Ve şimdi direksiyondakiler bize dönüp yolun tehlikeli olmaya başladığını söylüyor.
Belki de artık kimin önde olduğuna bakmayı bırakıp, hep birlikte nereye doğru yarıştığımıza bakmanın zamanı gelmiştir.
