Yapay zekâ şirketlerinin etik söylemlerini bir PR malzemesi olmaktan çıkarıp gerçek bir standarda dönüştürecek olan şey, teknoloji devlerinin vaatleri değil, reklamverenlerin ve kullanıcıların talepkâr tutumu olacak.
Geçtiğimiz dönemde yapay zekâ dünyasının en önemli aktörlerinden Anthropic, dikkat çekici bir adıma imza attı. Şirket, felsefe doktorasına sahip Dr. Amanda Askell’i yapay zekâ modellerinin kişilik ve uyum süreçleri üzerine çalışan ekibin başına getirerek, Claude modelinin adeta ruhunu ve ahlaki anayasasını insani değerlerle şekillendirme görevini verdi. Felsefecilerin, nörobiyologların ve etik uzmanlarının teknoloji devlerinde etik tasarım amacıyla istihdam edilmesi, ilk bakışta teknoloji dünyasının nihayet vicdana geldiği hissini uyandırıyor.
Peki, bu tablo gerçekten Silikon Vadisi’nde yeni bir aydınlanma çağının habercisi mi, yoksa hırslı bir pazar payı savaşında tasarlanmış bir PR illüzyonu mu?
Anthropic’in Amanda Askell hamlesi tekil bir olay değil. Bugün Google DeepMind, Meta ve OpenAI gibi devler bünyelerinde felsefecilerden ve etikçilerden oluşan özel çalışma grupları kuruyor. Şirketler, algoritmaların sadece hızlı değil, aynı zamanda güvenilir olduğunu iddia ederek kurumsal müşterilere ve reklamverenlere bir güvenlik garantisi sunmaya çalışıyor. Yapay zekânın kitleselleştiği bu dönemde etik, teknik bir parametreden ziyade ticari bir pazarlama unsuruna dönüştürülüyor.
Ancak madalyonun diğer yüzünü anlamak için hafızamızı biraz tazelememiz gerekiyor. Öyle ki teknoloji devlerinin etik kurulu veya etik direktörü transferleri ilk kez gördüğümüz bir film değil.
Geçmişe baktığımızda, teknoloji devlerinin etik söylemlerinin genellikle büyük krizlerin ardından gelen birer hasar kontrol mekanizması olduğunu görüyoruz. Bunun en somut örneklerinden biri de 2016 ABD Başkanlık seçimleri ve Brexit sürecinde patlak veren Cambridge Analytica skandalı. Veri ihlallerinin ve manipülasyonun ayyuka çıktığı bu kriz sonrasında Facebook (Meta), veri gizliliği vaatlerinde bulunmuş, bağımsız denetim kurulları kurmuş ve PR kampanyalarıyla değişim sözü vermişti. Ancak atılan adımların iş modelinin özünü -yani veri ticareti ve etkileşim odaklı algoritma yapısını- değiştirdiğini iddia etmek hatalı olur. Etik girişimlerin, kriz yönetiminin dekoratif birer unsuruna dönüştüğünü, büyük ticari kararlarda etkilerinin sınırlı kaldığını söylemek daha mümkün.
Benzer bir “buharlaşan vaatler” vakasını Google’ın Yaşadığı “Ahlak Ekibi” krizinde de izledik. Şirket, Yapay Zekâ Etik Ekibi’nin eş başkanları Dr. Timnit Gebru ve Margaret Mitchell’ı, büyük dil modellerinin çevresel maliyetlerini ve veri yanlılıklarını eleştiren bilimsel bir makale yayımladıkları için işten çıkarmıştı. Google’ın kurduğu Dış Etik Danışma Kurulu (ATEAC) ise toplumsal tepkiler nedeniyle kurulduktan sadece dokuz gün sonra kapatılmıştı.
Bu tarihsel örnekler bize şunu gösteriyor: Etik uzmanları ve felsefeciler şirketlere davet ediliyor ancak yetki alanları şirket çıkarıyla çatışmadığı sürece… Etik uzmanları karar mekanizmalarına tam anlamıyla entegre olamadılar ya da daha çok danışmanlık ve temsil işleviyle sınırlı rollerin sahibi oldular. Siyasette ve pazarlamada “greenwashing” neyse, teknoloji dünyasındaki bu duruma da akademisyenler çoktan bir isim koydu: ethics-washing (etik aklama).
Etik ve ticaret çatıştığında şirketler hangisini seçer?
Tarih boyunca ticaret ile etik karşı karşıya geldiğinde kazananın kim olduğu ya da olacağı sorusunun yanıtı çok az değişti. Sanayi devrimindeki çocuk işçi çalıştırılması tartışmalarından tütün endüstrisinin kanser araştırmalarını gizlemesine; otomotiv sektöründeki emisyon skandalından sosyal medya platformlarının gençlerin ruh sağlığını bozduğunu bildiği halde bağımlılık yaratan algoritmaları sürdürmesine kadar tüm örneklerde genellikle benzer senaryo öne çıkıyor: Kısa vadeli kârlılık ile soyut etik ilkeler çatıştığında, şirketler genellikte kârlılıktan yana tavır alıyor.
Bugün OpenAI ve Anthropic gibi yapay zekâ şirketleri insanlığın yararı vizyonuyla yola çıkmış olsalar da milyarlarca dolarlık altyapı yatırımları ve yatırımcı baskısı altında ticari şirketlere dönüşmekte gecikmediler. Amanda Askell gibi isimlerin çalışmaları değerli olsa da bir yapay zekâ modelinin daha etik olması ile daha hızlı ve ucuz olması çatıştığında, pazar dinamiklerinin etik kaygıları bastırma riski son derece yüksek.
Bu tablo karşısında ne bireysel kullanıcıların ne de pazarlama dünyasını yöneten reklamverenlerin “Biz her şeyi yapay zekâya devrettik, arkasında da etik kurulu var” lüksü bulunmuyor. Birilerinin her zaman en ucuz, en hızlı ve en etkili yapay zekâ aracını vaat edeceği bir piyasada, bu kestirme yollar uzun vadeli marka inşasına zarar verebilir.
Yapay zekâ araçlarının ürettiği telif ihlalli içerikler, algoritmik halüsinasyonlar, veri sızıntıları ve derinleşen toplumsal cinsiyet/etnik köken yanlılıkları, markaların onlarca yılda inşa ettiği güven sermayesini bir gecede hasara uğratabiliyor. Marka güvenliği artık pazarlama süreçlerine dahil edilen yapay zekâ algoritmalarının ne kadar adil, şeffaf ve güvenilir olduğunu denetlemek anlamına da geliyor.
Yeni dönemde bir CMO, yapay zekâ teknolojilerini süreçlerine entegre ederken en hızlı ve en ucuz olana değil, sürdürülebilir ve güvenli olana odaklanmalı. Nitekim İngiltere merkezli pazarlama danışmanlığı kuruluşu CvE (Control v Exposed) tarafından hayata geçirilen “A CMO Checklist for AI” (CMO’lar İçin Yapay Zekâ Kontrol Listesi) raporu da üst düzey pazarlama yöneticilerinin yapay zekâyı hızlıca devreye almaktan ziyade akıllı, güvenli ve kurumsal itibarı riske atmayacak bir stratejiyle benimsemeleri gerektiğini vurguluyor. Sözkonusu sektör raporunda öne çıkan prensipler ışığında, pazarlama liderlerinin masasında bulunması gereken kontrol listesinden bazılarını şöyle özetleyebiliriz:
Kullanım senaryoları ve net kurallar
Raporda da belirttiği gibi, yapay zekâ araçlarının pazarlamada hangi alanlarda kullanılabileceği ve hangi alanlarda kesinlikle kullanılamayacağı dokümante edilmiş net kurallarla belirlenmeli. Yapay zekânın sunduğu kestirme çözümlerin marka değerlerini ihlal etmemesi için kullanım sınırları şeffafça çizilmeli.
İçerik yönetimi ve insan denetimi
Pazarlama, hukuk ve uyum ekiplerinin ortak yer aldığı içerik gözden geçirme komiteleri kurulmalı. Yapay zekâ tarafından üretilen metin, görsel veya stratejilerin doğrudan yayına girmemesi; marka kılavuzlarına ve değerlerine uyumunun uzman bir insan süzgecinden geçirilmesi şart.
Veri güvenliği ve sıfır tolerans
Gizlilik yasalarına ve müşteri rızasına sıfır tolerans ilkesiyle yaklaşılmalı. Müşterilerin veya markanın gizli verileri yapay zekâ araçlarına işlenmeden önce verilerin anonimleştirilmesi için protokollere uyulmalı ve verilerin genel modellerin eğitiminde kullanılmayacağı garanti altına alınmalı.
Yapay zekâ konseyi ve işbirliği
Pazarlama ile BT/Teknoloji departmanları arasında sürekli bir işbirliği mekanizması kurulmalı: Yapay zekâ projelerini yönetmek, güvenlik ve etik risklerini önceden değerlendirmek üzere kurum içinde bir “Yapay Zekâ Konseyi” oluşturulmalı.
Açıklanabilir olmak ve performans takibi
Yapay zekâ uygulamaları geniş ölçekte yaygınlaştırılmadan önce kontrollü ortamlarda, pilot projelerle test edilmeli ve yasal korumalar, telif hakları ve performans metrikleri düzenli olarak denetlenmeli.
Hız geçici, güven kalıcı
Pazarlamada en ucuz ve en hızlı olanı seçmek her zaman cazip görünse de tarih, kısa vadeli verimlilik uğruna etik ve marka değerlerinden ödün veren kurumların uzun vadede ödediği ağır faturalarla dolu. Öyle görünüyor ki yapay zekâ şirketlerinin etik söylemlerini bir PR malzemesi olmaktan çıkarıp gerçek bir standarda dönüştürecek olan şey, teknoloji devlerinin vaatleri değil, reklamverenlerin ve kullanıcıların talepkâr tutumu olacak. Marka inşası bir sürat koşusu değil, bir maraton. Ve bu maratonda bitiş çizgisini algoritmalar değil, güven belirliyor.
