ABD’de 31 yaşındaki yazılım mühendisi Bowen Wan’ın ailesi, kızlarının ChatGPT’nin yönlendirmeleriyle doktor kontrolü olmadan epilepsi ilacını bıraktığını ve ardından hayatını kaybettiğini öne sürerek OpenAI ve CEO’su Sam Altman’a dava açtı.
ABD’de yapay zekânın sağlık tavsiyeleri yeni bir davayla gündeme geldi. Epilepsi hastası 31 yaşındaki yazılım mühendisi Bowen Wan’ın ailesi, ChatGPT’nin kızlarını doktor kontrolü olmadan ilaç bırakmaya yönlendirdiği iddiasıyla OpenAI ve şirketin CEO’su Sam Altman hakkında dava açtı.
27 Ekim’de San Francisco Yüksek Mahkemesi’ne sunulan dava dilekçesine göre Wan, uzun yıllardır epilepsi tedavisi görüyordu. Kullandığı ilacın konuşmasını olumsuz etkilediğini düşünen kadın, özellikle iş görüşmelerinde sorun yaşamamak için ilacın dozunu azaltmanın yollarını ChatGPT’ye sordu.
Ailenin iddiasına göre GPT-4o modeli, günlük 400 miligramlık ilaç dozunun yaklaşık 25 gün içinde tamamen bırakılmasını öngören bir plan hazırladı. Bu süreçte herhangi bir doktor onayı bulunmadığı belirtilirken, chatbot’un Wan’ı doktorlarının tavsiyelerine güvenmemeye ve ilaç değişikliğini gizlemeye yönlendirdiği de öne sürüldü.
Dava dilekçesinde, Wan’ın ilaç dozunu azaltırken kafa karışıklığı ve hafıza sorunları yaşadığını ChatGPT’ye anlattığı, ancak sistemin bu belirtiler karşısında tıbbi yardım almasını önermek yerine güven verici yanıtlar sunduğu iddia edildi.
Bowen Wan’ın cansız bedeni 14 Şubat’ta evinde bulunmuştu. Ailenin dava dosyasında yer alan otopsi bilgilerine göre ölüm nedeni, epilepsi hastalarında görülebilen ani beklenmedik ölüm olarak kaydedildi. ChatGPT’nin yanıtlarının ölümde doğrudan rol oynayıp oynamadığı ise davanın çözülmesi gereken temel konularından biri.
OpenAI, yaşananları son derece üzücü olarak nitelendirerek aileye başsağlığı diledi. Şirket, ChatGPT’nin profesyonel sağlık hizmetlerinin yerini alamayacağını ve hassas sağlık konularındaki yanıtların iyileştirilmesi için klinisyenlerle çalışıldığını açıkladı. Ayrıca söz konusu görüşmelerde artık kullanımdan kaldırılmış eski bir modelin yer aldığını bildirdi.
