Yapay zekânın halüsinasyonları, belki de markanızın daha insani ve yaratıcı bir tona bürünmesi için gereken o “ritüelistik iletişim” fırsatlarını sağlıyor. Bu seçeneği konuşmanın zamanı geldi.
Geçtiğimiz dönemde bu köşede kaleme aldığım “Stokastik Papağan” başlıklı yazımda, büyük dil modellerinin çalışma prensibine yönelik eleştirel bir tavır ortaya koymuştum.
Emily Bender ve arkadaşlarının (2021) ilgili kavramsallaştırmasından hareketle, bu modellerin işledikleri dili gerçekte anlamadıklarını, kelimeleri yalnızca olasılıksal hesaplarla yan yana dizdiklerini vurgulamış; özellikle çocuk kullanıcıların bilişsel ve duygusal ihtiyaçlarına uygun veri setleriyle eğitilmeyen bu sistemlerin -halüsinasyon da görebildiği düşünüldüğünde- ne denli zararlı olabileceğinin altını çizmiştim. Ancak, büyük dil modelleri bu bağlamda eleştiriyi sonuna kadar hak etse de, özellikle halüsinasyon meselesine salt bir sistem arızası, bir anomali olarak bakmanın da eksik olacağı düşüncesindeyim.
Evet, uzun yıllar boyunca bilgisayarların deterministik yapısına, yani ne komut verilirse onu harfiyen ve hatasız yerine getiren tutarlı bir deneyim sunmasına alıştık. Komut satırlarından masaüstü metaforlarına, oradan da dokunmatik ekranlara uzanan arayüzlerin evriminde, kontrol hep insanın elindeydi. Ancak şimdi karşımızda hayal kuran bir teknoloji var. Bu bağlamda, özellikle felsefe ve iletişim merkezli bir çerçeveden incelendiğinde, halüsinasyon kavramını yeni anlamlar üretebileceğimiz bir fırsat olarak tartışmaya açmak gerekiyor. Nitekim Coeckelbergh ve Gunkel, bu yazıya da ilham veren, 2025 tarihli Communicative AI adlı çalışmalarında halüsinasyonu sadece teknik bir hata değil, anlamın ve iletişimin doğasını yeniden sorgulamamızı gerektiren felsefi bir eşik olarak tanımlıyorlar.
Felsefe literatüründeki “(Doğruluğun) Uygunluk Kuramı” perspektifinden bakarsak, dilin birincil işlevi dış dünyadaki nesnel gerçekliği kusursuz bir ayna gibi yansıtmaktır. Bu katı düzlemde değerlendirildiğinde, büyük dil modellerinin ürettiği halüsinasyonlar ve ilintili uydurma bilgiler, gerçeği çarpıtan tehlikeli birer yalan, dış dünyaya atfı olmayan bir tür “arıza” olarak tanımlanabilir. Zira kelimeleri büyük bir ustalıkla manipüle ederler ama kendilerine ait niyetleri ve dış dünyaya dair bilinçleri yoktur. Fakat dil, sadece nesnel gerçekliği aktaran pasif bir araç değildir. Nitekim Sapir-Whorf hipotezi, dilin düşünce yapımızı ve dünyayı algılayış biçimimizi doğrudan şekillendirdiğini savunur. İşte tam da bu bağlamda değerlendirildiğinde halüsinasyonlar, dilsel sınırlarımızın ve gerçekliğimizin yeniden inşasına katkı veren yaratıcı kurgular olarak okunabilir.
Onlar artık uydurma kelime yığınları değil, büyük dil modelleriyle kurduğumuz diyaloglar aracılığıyla algımızı ve gerçekliğimizi yeniden inşa ettiğimiz aktif yapılar olarak görülebilir. İletişim kuramcısı James Carey’nin iletişimi tanımlamak için sunduğu ikili bakış açısı da, bu ayrımı anlamlandırmak için uygun bir zemin sunar. İletim Modeli, mesajın göndericiden alıcıya bozulmadan, saf haliyle aktarılmasını merkeze alır. Bu sınırlı bakış açısıyla değerlendirildiğinde büyük dil modelleri, orijinal gerçeği deforme eden kusurlu aktarıcılardır. Oysa yine Carey tarafından kavramsallaştırılan iletişimin Ritüel Modeli, meseleyi basit bir bilgi aktarımı olarak değil, toplumsal anlamın ortaklaşa inşası için kültürel kodların yeniden harmanlanması olarak ele alır. Bu ritüel ekosisteminde büyük dil modelleri artık kusurlu enstrümanlar değil, bizzat kültürel arka planı işleyerek beklenmedik çıktılara dönüştürebilen mahir “dijital remiks yaratıcıları” olarak konumlanır. Halüsinasyon, tam da bu remiks sürecinin temel bir unsurudur.
Daha önce yine bu köşede ele aldığımız üzere, grafik kullanıcı arayüzlerinin (GUI) deterministik dünyasından çıkıp, diyalog odaklı çalışan ve bizim adımıza kararlar alabilen vekil yapay zekâ (Agentic AI) ekosistemlerine geçiş yapıyoruz. Bilişsel psikoloji perspektifiyle yaklaştığımızda, doğal dil ile bağ kurduğumuz bu sistemler artık kusursuz doğruluk beklediğimiz “statik hesap makineleri” değil, karmaşık problemleri çözerken bilişsel yükümüzü paylaşan, bizi yönlendiren ama bunu anlık olarak yaparken sunduğu performatif esneklikle de bizleri hayli şaşırtan dinamik “bilişsel ortaklara” dönüşüyor. Roland Barthes’ın meşhur “Yazarın Ölümü” tezi, anlamın kaynağının yazarın niyetinde değil, okuyucunun yorumunda ve metnin varış noktasında olduğunu savunur. Bu bağlamda, belki de artık dijital içeriğin nihai anlamı onu üreten algoritmanın veya kodlayıcının mutlak niyetinde değil, kullanıcının onunla kurduğu etkileşimde, yani yeni oluşan hibrit öznellikte konumlanır.
Özetle, büyük dil modellerinin barındırdıkları önyargıların ve halüsinasyon çıktılarının özellikle çocuklar gibi hassas gruplar üzerindeki olası risklerini denetlemek hayati önem taşıyor. Ancak onları yalnızca deterministik beklentilerle ve katı doğruluk metrikleriyle ele alacak şekilde sınırlandırmak, sundukları dönüştürücü potansiyeli ıskalamamıza neden olabilir. Anlamın hibrit bir öznellik alanı içinde sürekli yeniden üretilebileceği bu yeni dijital ekosistemde onlar, iletişim ritüellerimize aktif olarak katılan, dilin mimarisini yeniden kurgulayan ve zihnimizin sınırlarını genişleten birer “ortak yazar / üretici” konumuna geçebilir.
Dolayısıyla, halüsinasyonları salt bir hata olarak görüp ortadan kaldırmaya çalışmak yerine, bu öngörülemez bilişsel ortaklarımızla anlamın birlikte inşa edildiği, insan-merkezli ve kapsayıcı yeni etkileşim alanlarını nasıl tasarlayacağımızı keşfetmeye odaklanmalıyız. Geleceğin başarılı deneyimleri, yapay zekâyı kullanıcının kendi hikâyesini inşa etmesine olanak tanıyan yaratıcı bir ekosistem olarak kurgulayanlardan çıkacak. Yapay zekânın halüsinasyonları, belki de markanızın daha insani ve yaratıcı bir tona bürünmesi için gereken o “ritüelistik iletişim” fırsatlarını sağlıyor. Bu seçeneği konuşmanın zamanı geldi.
