Hayatımıza olumlu katkılarını dile getirmekten imtina etmediğimiz yapay zekânın karanlık tarafı stresle yüklü. Bu stres, bir konuyu gündeme getirecek: Yapay zekâ detoksu.
Son iki yılda gördüklerimiz ve deneyimlediklerimiz bizde yapay zekânın kısa sürede inanılmaz noktalara ulaştığı düşüncesini oluştursa da kabul etmemiz gereken şey, henüz yapay zekâ devriminin başında olduğumuz. Geleceğin şimdiden bir hayli farklılaşacağını kesin olarak bilmekle beraber, bırakın uzak geleceği, iki yıl gibi kısa bir sürede dahi tanık olacağımız, deneyimleyeceğimiz yeniliklerin neler olacağını tam olarak kestiremiyoruz. Bu da demek oluyor ki yapay zekâ henüz emekleme aşamasında ama koşmaya başlaması an meselesi ve o koştukça manzara fevkalade değişecek.
Açıkçası bu bir sorun. Sebebi, hepimizi heyecanlandıran bu uzun soluklu devinimin bizlere günbegün konuşacak yeni konular vermesi. Tıpkı metaverse, NFT, kripto paralar gibi. Farkı, yapay zekânın kalıcı olduğunu, bir furyanın ötesine geçebileceğini kanıtlaması ki bu durumun spekülasyonların artışına yol açtığını söylemek mümkün. Dolayısıyla yapay zekâ bugün, dünyayı değiştirecek bir güç olmasının yanı sıra aynı zamanda hem bir “kolay para” aracı hem de bir “buzzword”.
“AI washing” tam da bu olumsuzlukla savaşmak amacıyla ortaya atılan bir terim. Yapay zekânın içine ne atarsak atalım içinden bir tavşan çıkarabileceğimiz sihirli bir şapka olduğu, bir kurtarıcı olduğu algısının hüküm sürdüğü dünyada, yapay zekâ becerisi olmadığı halde varmış gibi davranan ya da sahip olduğu düşük seviye bilişim kapasitesini yapay zekâya değinerek mucizeviymiş gibi lanse eden şirketlerin bu davranışlarını açıklamakta kullanılıyor. Ne kadar sık kullanılabileceğini okuyucunun tasarrufuna bırakalım ama ufak bir ipucu: BBC tarafından yayımlanan “What is ‘AI washing’ and why is it a problem?” başlıklı makalede, süreçlerinde yapay zekâ kullandığını belirten star-tup’ların oranı 2022’den 2023’e, yüzde 10’dan yüzde 25’in üzerine çıkmış. Yapay zekânın 2023’ün ikinci yarısında yükseldiğini hesaba kattığımızda tablo biraz daha netleşiyor. Dahası, iki vaka bize bu durumun sadece startup’ları değil, köklü firmaları düşünmemiz gerektiğini salık veriyor: Biri; Mayıs 2023’te 1,3 milyar dolar değere ulaşan, kullanıcılarına bir uygulama tasarlamanın “pizza sipariş etmek kadar kolay” olduğunu vaat eden, işin yüzde 80’ini bir chatbot’un yaptığını söyleyen Builder.ai’ın iflas sürecinde dile getirilen, tüm işi aslında 700 mühendisin yaptığı iddiası. Diğeri ise Amazon’un Just Walk Out olarak adlandırılan, kasiyersiz marketlerinden vazgeçmesi. Yapay zekânın müşterileri tanıdığı ve bedeli hesaplarına yansıttığı bir teknolojiye sahip olduğu söylenen marketlerin, yüzde 5 insan desteği ile çalışması hedeflenirken, Business Insider’a göre 2022’de yüzde 70 insan desteğine çıkmıştı. İki örneğin bir de ortak noktası var: Hintli mühendisler, yani ucuz işgücü.
AI washing’e geri dönelim: Bugünlerde arayüzler yapay zekâ imasında bulunacak şekilde tasarlanıyor. Ya bir chatbot tuşu ekranın en görünür noktasına ekleniyor ya da üretken yapay zekâya atıfta bulunmak üzere tasarlanan fakat ironik bir şekilde yapay zekânın mucizevi olduğu algısına katkıda bulunan parıltı ikonu bir köşeye iliştiriliyor. Yapay zekânın işleri şimdiden ne kadar kolaylaştırdığı ve potansiyeli baki olsa da şunu itiraf etmek gerekiyor; yapay zekâ imalarının çoğu olumlu sonuçlar vermiyor.
Teknolojiyi ve etrafında gelişen “meme” kültürünü yakından takip edenler hatırlayacaklardır; Instagram’ın Snapchat’in 24 saat sonra kaybolan dikey video formatını kopyalamasının ardından bir Hikâyeler furyası yaşandı. Sosyal medya platformları ve çevrimiçi portallar bu tür içerikleri entegre ederken, ekranların tepesi kullanıcıyı bu içeriklere göz atmaya teşvik eden yuvarlak ikonlarla doldu taştı. O günlerin önemli bir esprisiydi Microsoft Excel’in ne zaman Hikâyeler’e kavuşacağı sorusu; bir bıkkınlığın da sembolüydü aynı zamanda. Bu durumun benzeri yıllar sonra dikey video furyası sonrası da yaşandı. TikTok, Instagram, YouTube, X derken dikey kısa format videoya önem veren ve hatta kullanıcıyı bu içeriklerle platforma bağlamak isteyenlerin sayısı arttı. Kullanıcıların bir kısmı bu videoların zamanlarından çaldığını, kendilerini aptallaştırdığını düşünerek dijital detokslara yöneldi; kimi ise çözümü alternatifler yaratmakta buldu. Örnek vermek gerekirse bu alternatiflerden biri, kullanıcıdan zamanını tüketen uygulamaları seçmesini isteyen ve bu uygulamaların açılmamasını sağlayan WallHabit, bir diğeri ise kullanıcının Reels dahil istediği tüm fonksiyonları Instagram’da engellemesine olanak tanıyan Distraction Free Instagram’dı. Reddit başta olmak üzere bazı forumlarda sosyal medya uygulamalarının bazı özelliklerini nasıl kapatabileceğini soran kullanıcılarla karşılaşılsa da WallHabit ve Distraction Free Instagram gibi uygulamalar kısıtlı bir kitleye ulaşabildi.
Bugünlerde benzer forumlarda yapay zekâ uygulamalarının etkisi konuşulmakta. Yapay zekâ uygulamalarının vaat edildiği kadar başarılı olup olmadıkları, kullanıcıların yapay zekâ uygulamaları ile iletişimde komutları anlaşılır bir şekilde iletip iletemedikleri (prompt engineering), bağlamı kurup kuramadıkları (context engineering) bir yana, özellikle chatbot’ların araştırma sürecini kısaltırken kullanıcıları etraflı düşünmekten alıkoyduğu, tembelleştirdiği hatta bilişsel fonksiyonlarda gerilemeye yol açtığı da konuşulanlar arasında. Dahası, MIT Media Lab araştırmacıları tarafından yürütülen bir çalışma, bu durumun gerçek olabileceğini gösteriyor. 18-39 yaş aralığında bulunan 54 kişinin LLM (büyük dil modeli) destekli, arama motoru destekli ve desteksiz şeklinde üç gruba ayrıldığı dört aşamalı araştırma, katılımcıları özellikle makale yazımı üzerinden test ederken; LLM destekli grubun dört aylık süre içerisinde nöral, davranışsal ve dilbilimsel açıdan sürekli olarak en düşük performansı gösteren grup olduğunu ortaya koyuyor. Fikir bulmak, makale yazımına özen göstermek hatta yazdığını hatırlamak, LLM destekli kullanıcıların bu süreçte en zayıf performans gösterdiği başlıklardan bazıları. Araştırmanın örneklem grubu oldukça küçük olsa da araştırmacılar sonuçların uzun süreli LLM kullanımı halinde sorunların ortaya çıkabileceğine işaret ettiğini belirtiyor.
Engadget’te yer alan “Joint studies from OpenAI and MIT found links between loneliness and ChatGPT use” adlı makalede başka bir soruna işaret ediyor. Konu, yalnızlık. OpenAI tarafından 40 milyon ChatGPT etkileşimi ve kullanıcı anketleri temel alınarak yürütülen bir araştırma ve yine MIT Media Lab’in ChatGPT kullanıcıları ile gerçekleştirdiği başka bir araştırma da aynı şeyi söylüyor: Chatbot’ların aşırı kullanımı kişinin duygudurumunu etkileyebilir, sosyalleşmesinde azalmaya yol açabilir.
Diğer bir konu, içerik patlaması. Üretken yapay zekânın gelişimi ve demokratikleşmesi ile halihazırda bir hayli kolay olan içerik üretimi, günün şartlarında olabildiğince kolaylaştı. Öte yandan yapay zekânın artısı, istenilen içeriğin hiçbir sınırlama olmadan yaratılabilmesi şeklinde kendini gösterdi. Bugün, dijitale aşina herhangi bir kullanıcı, bir kısmı ücretsiz olan araçlarla istediği içeriği oluşturabilir.
Yapay zekâ ile üretilen düşük kalite içerikler “AI slop” olarak adlandırılıyor. Görünüşe göre, internet platformları AI slop ile dolup taşıyor; zira en sadesinden en groteskine istenilen içeriği yaratmak ve “viral olur da gelir elde ederim” düşüncesiyle paylaşmak bir hayli kolay. Cory Doctorow, platformların kullanıcılarından daha fazla yararlanmak üzere attıkları adımlarla hizmetlerini ve ürünlerini kötüleştirmelerini “enshittification” olarak adlandırmıştı. AI slop, platformları düşük kalite içeriklerle doldurmasıyla bu sürecin etkisini katlamakla kalmıyor; kullanıcılar üzerinde bir baskı da yaratıyor. Halihazırda zor şartlarda yaşayan kullanıcılar pek çok travmatik içerikle karşılaştıklarından dolayı duygusal olarak manipüle ediliyor; dünyanın dört bir yanında yaşanan krizler ile ilgili içeriklerle taraf tutmaya zorlanıyor.
Yapay zekâ, olumlu yönleri yabana atılamayacak bir teknoloji olmakla birlikte, tüm toplumun hazır olmadığı da bir teknoloji. Dahası, “önü ardı düşünülmeden” kullanılması, yarardan çok zarar getiriyor. Bu ortamda henüz pek de telaffuz edilmeyen fakat yakın zamanda gündeme gelecek, pek çok yerde karşımıza çıkacak bir konudan bahsetmek gerekiyor. Yapay zekâ detoksu; duygusal yükten kurtulmak, daha iyi işler üretmek, izolasyondan sıyrılmak ve insanlarla yeniden bağ kurmak üzere yakın zamanda gündeme gelecek. Tıpkı sosyal medyanın, akıllı telefonların, ekranların olumsuz yönlerine karşı detoksun bir çözüm olarak konuşulduğu gibi.
Fakat o zaman başka bir şeyden daha bahsedeceğiz; yapay zekânın olumsuz yönlerinin detoks programları, destek uygulamaları ve inziva kampları gibi yollarla nasıl ticarileştirdiğinden…
