Çocuğunuzla YouTube’dan video izlediğiniz bir gün… Ama o da ne? Altyazıda neden “porn” yazıyor? Yoksa gözleriniz yanlış mı gördü? Ne yazık ki hayır.
YouTube’un yapay zekâ teknolojisiyle geliştirdiği transkripsiyon aracı, çocuk videolarında ebeveynleri şaşkınlığa uğratan bir hatayla karşı karşıya: Aracın kelimeleri yanlış algılamasından ötürü çocuk videolarının altyazılarında yetişkin içeriği sayılan düzeyde hassas kelimelerle karşılaşılıyor. “Corn” kelimesi “porn”a dönüşürken “beach” kelimesi “bitch”e, “brave” ise “rape”e dönüşebiliyor.
Her ne kadar YouTube Kids’te otomatik altyazı seçeneği bulunmasa da birçok aile YouTube’un standart versiyonunu kullanıyor. Pew Research Center’ın 2020’deki raporuna göre 11 yaşından küçük çocuğu olan ebeveynlerin yüzde 80’i çocuklarının YouTube’dan video izlediklerini belirtiyor. Bununla birlikte, aynı araştırma örneklemin yüzde 61’inin çocuklarının YouTube’da onlara uygun olmayan içeriklerle en az bir kere karşılaştıklarını da ortaya koyuyor. Çocukların YouTube üzerindeki hâkimiyeti bu denli etkiliyken altyazılarda böyle hatalarla karşılaşılması durumun vahametini artırıyor.
Araç için kullanılan veritabanında genelde yetişkinlerin kullandığı dilin yer alması, otomatik altyazı aracının bu hataya düşmesinin en büyük sebebi. Küfür ve hassas kelimelerin aracın lügatından çıkarılması hızlı ve kesin bir çözüm olsa da makine öğrenimi sürecini sekteye uğratacak problemlere yol açabilir. YouTube Kids’in pazarlama çalışmalarına daha fazla yoğunlaşmak veya Netflix misali uygulama içinde “Kids” profili yerleştirmek, söz konusu soruna etkili birer çözüm olabilir.