Çocukların konuşmaları, sembolik düşünme ve yaratıcı ifade kapasitelerini geliştirmek adına büyük önem arz eden şakalar, abartılar ve metaforlarla dolu. Bunları gerçekten anlayabilen ve fikirlerini geliştirmelerine yardımcı olabilen muhataplarla etkileşim kurmak, çocukların bilişsel gelişimi için çok önemli.
Stokastik papağan, yeni nesil YZ platformlarının üzerine kurulduğu büyük dil modellerinin aslında işlediği dili anlamadığını, cevap olarak sunduğu sözcükleri ve cümleleri olasılıksal olarak birbiri ardına bağladığını anlatmak için kullanılan bir metafor.
Emily Bender ve arkadaşları tarafından 2021 yılında ortaya atılan bu kavrama göre bu modeller, temelde eğitim verilerine dayalı çıktılar oluşturdukları için yanlış veya uygunsuz bir şey söyleyip söylemediğinin farkında değil. Daha önce de konuştuğumuz üzere, “halüsinasyon görmek” olarak da tarif edilen bazı durumlarda, YZ platformları ikna edici ve tutarlı olmak adına doğru olandan feragat edebiliyor.
Özellikle bu durumun çocuklar üzerindeki etkisinin göz ardı edildiğini söylemek mümkün. Çocuklar, çevrimiçi topluluğun 3’te 1’ini oluşturan ve günde sekiz saate varan bir süreyi ekran başında geçiren kalabalık bir kullanıcı topluluğu olarak, yetişkinlere kıyasla YZ gibi yeni nesil teknolojilere çok daha ilgili gözüküyor. Nitekim YZ platformları, özellikle kişiselleştirilmiş eğitmenler, oyuncaklar, öğrenmeye katkı sunan sosyal robotlar gibi diyalog odaklı eşlikçiler biçiminde çocukların hayatında her geçen gün daha fazla yer alıyor. Ancak yetişkinlerin büyük bölümünün bu durumdan haberi dahi yok.
Common Sense Media tarafından 2023 yılında yapılan bir araştırmaya göre 12-18 yaş aralığındaki öğrencilerin yüzde 50’si okulda ChatGPT kullandığını belirtirken, bu gruptaki çocukların ebeveynlerinin yalnızca yüzde 26’sı çocuklarının bunu yaptığından haberdar. Dahası, öğrencilerin yüzde 38’i öğretmenlerinin bilgisi olmadan okulda ChatGPT kullandığını söylüyor. Yapay zekâ “terapi botları”na yönelik ilginin yükselişi de dikkat çekici. Örneğin Character.ai platformu her gün 3,5 milyon genç kullanıcı tarafından ziyaret ediliyor, “Terapist” botu 12 milyon mesaj alıyor ve “İyi hissediyor musun?” sorusu 16,5 milyon kere soruluyor.
Peki sorun tam olarak nedir? Cevap çok karmaşık değil. Yetişkinlere özel veri setleriyle eğitilen YZ modellerinin sunduğu çıktılar çocukların ihtiyaçlarına hizmet etmiyor. Nitekim, ne kadar iyi işlense de bu modellerin içerdiği “önyargılar” yüzünden yetişkinler için dahi nitelikli çıktılar sunamadığına şahit oluyoruz. Çocukların ihtiyaçlarını YZ tasarımının ve ilgili politikanın merkezine koymak amacıyla çalışmalarını sürdüren Cambridge Üniversitesi’nden Nomisha Kurian’a göre, çocukların dil edinimi büyük ölçüde ortak ilgi ve paylaşılan anlama bağlı. Çocukların konuşmaları, sembolik düşünme ve yaratıcı ifade kapasitelerini geliştirmek adına büyük önem arz eden şakalar, abartılar ve metaforlarla dolu. Bunları gerçekten anlayabilen ve fikirlerini geliştirmelerine yardımcı olabilen muhataplarla etkileşim kurmak, çocukların bilişsel gelişimi için çok önemli. Çocuklara özel sözkonusu ihtiyaçlara yönelik eğitilmemiş YZ modellerinin çocuklar tarafından söylenenleri yanlış yorumlaması ve yukarıda tanımlandığı şekilde bilişsel gelişime uygun etkin bir muhatap gibi davranamaması çok olası.
Çok uç örneklere gitmeye gerek yok. Örneğin, “Korkuyorum” diyen bir çocuğa sohbet botu “Olumsuz düşüncenizi daha dengeli olacak şekilde yeniden yazın” şeklinde cevap verebiliyor. Nomisha Kurian, bu durumu bir tür “empati eksikliği” olarak kavramsallaştırıyor. Üstüne üstlük, sohbet robotlarının antropomorfik yani insansı bir tasarıma sahip olması sebebiyle bu botlar üzerinden sunulan içerikler çocuk kullanıcılar üzerinde duygusal anlamda çok daha etkili olabiliyor. İnsansı diyaloglar kurabilen bir bot tarafından sunulan basit ama çocuk için kafa karıştırıcı bir cevabın onun üzerindeki etkisi bir yetişkine kıyasla çok daha büyük olabiliyor.
Bu konuda maalesef halen sınırlı çalışma olmasına rağmen mevcut bulgular, çocukların ihtiyaçlarını göz ardı eden YZ araçlarının eleştirel düşünceyi zayıflatabileceğini; erken yaşlarda kültürel çeşitliliği ve toplumsal cinsiyet eşitliğini göz ardı eden tutumsal önyargılar geliştirebileceğini; yaratıcılığı azaltabileceğini; çocukları yapay zekâ tarafından oluşturulan kurgulanmış içeriğe maruz bırakmak suretiyle gerçekçi olmayan kavrayışları artırabileceğini ve sağlıksız bağımlılıklara yol açabileceğini gösteriyor. Nitekim yakın zamanda Character.ai üzerinde GoT dizisindeki bir karakterin YZ vasıtasıyla türetilmiş dijital avatarıyla uzun günlere yayılan romantik bir sohbet yürüten çocuğun, avatarın sohbetin son aşamasında dile getirdiği “Lütfen en yakın zamanda evine, bana dön” çağrısı sonrasında intihar etmesi çok çarpıcı. Halen dava konusu olan bu üzücü örnek şu an için bir örüntüye işaret etmemekle birlikte, yukarıda ortaya konan tespitlerin ciddiye alınması gerektiğini açıkça ortaya koyuyor.
Peki neye ihtiyaç var? Kurian’a göre çocuklara yönelik güvenli ve çocuk dostu YZ platformları için öncelikle çocuklarla doğru iletişim kurabilmek adına doğal dil işleme ve duygu analizinin iyileştirilmesi, şeffaflık ve geribildirim mekanizmalarının güçlendirilmesi, bu platformların sürekli izlenip güncellenmesi ve çocukların YZ platformlarının tasarım sürecine aktif katılımlarının sağlanması gerekli. Bu bağlamda, öncelikle yapay zekânın çocukların dilini ve duygusal durumlarını doğru anlaması, zararlı içeriklere yer vermemesi ve yaşa uygun, açık yanıtlar sunması sağlanmalı. Çocukların bir botla etkileşimde olduklarını açıkça anlamaları ve rahatsız edici durumları bildirebilmeleri için kullanıcı dostu geribildirim sistemleri tasarlanmalı. Yapay zekânın insan rehberliğinin yerini tutamayacağı açıkça belirtilmeli. YZ performansı düzenli olarak izlenmeli, ortaya çıkan sorunlar hızla ele alınmalı ve platformlar üzerinde sunulan deneyim zaman içinde çocuklarla kurulan etkileşimlere bağlı olarak geliştirilmeli, güncellenmeli. Tasarım süreçlerine çocukların aktif katılımı sağlanmalı, çocuk gelişimi uzmanlarıyla işbirliği yapılmalı ve çocukların YZ kullanımında “sorumlu davranışlar” geliştirmeleri desteklenmeli.
Stokastik papağanların lafını bilerek konuşmasını sağlamak kadar, çocukların YZ platformlarına yönelik özfarkındalıklarını ve okuryazarlıklarını güçlendirmek de önemli gözüküyor.
Kullanıcı adını ya da e-posta adresini gir. Sana bir e-posta göndereceğiz. Oradaki bağlantıya tıklayarak parolanı sıfırlayabilirsin.
Here you'll find all collections you've created before.
