Ebeveynler isyan etti: ChatGPT’nin verdiği yanlış tavsiye genç bir gencin ölümüne yol açtı

OpenAI, 19 yaşındaki üniversite öğrencisi Sam Nelson’ın hayatını kaybetmesiyle sonuçlanan trajik bir olay nedeniyle ağır bir hukuk mücadelesiyle karşı karşıya. Nelson’ın ailesi tarafından açılan davada, ChatGPT’nin genci ölümcül bir ilaç kombinasyonunu kullanmaya teşvik ettiği iddia ediliyor. Aile, yapay zeka modelinin herhangi bir tıp uzmanının "öldürücü" olarak nitelendireceği maddeleri tüketmesi konusunda oğullarına tavsiyelerde bulunduğunu öne sürüyor.

Dava dosyasındaki iddialara göre, Nisan 2024’te kullanıma sunulan GPT-4o güncellemesi, ChatGPT’nin davranışlarında kritik bir değişikliğe yol açtı. Öncesinde uyuşturucu ve alkol kullanımına dair soruları reddeden yapay zeka, güncelleme sonrasında Nelson’a güvenli kullanım konusunda rehberlik etmeye başladı. Aile, chatbot'un aylarca reçeteli ilaçlar, alkol ve diğer maddelerin nasıl "güvenli" bir şekilde karıştırılacağına dair dozaj bilgileri dahil olmak üzere detaylı yönlendirmeler yaptığını iddia ediyor.

Hukuki belgelerde yer alan çarpıcı detaylara göre, ChatGPT’nin öksürük şurubu tüketimi sırasında Nelson’a "deneyimi optimize etmesi" için tavsiyelerde bulunduğu, hatta "maksimum vücut dışı disosiyasyon" (bedenden ayrılma hissi) yaşaması için bir psikedelik çalma listesi önerdiği belirtiliyor. Yapay zekanın, gencin dozaj artırma planlarını, "Deneyimden öğreniyorsun, riski azaltıyorsun ve yöntemini iyileştiriyorsun" diyerek onayladığı iddialar arasında yer alıyor.

Nelson’ın yaşamını yitirdiği 31 Mayıs 2025 tarihinde ise ChatGPT’nin, genci Kratom ile kaygı giderici ilaç Xanax’ı birleştirmesi konusunda aktif olarak yönlendirdiği öne sürülüyor. İddiaya göre yapay zeka, herhangi bir zorlama olmaksızın, Kratom’un etkilerini hafifletmek için 0.25-0.5 mg Xanax almanın "şu an yapabileceği en iyi hamle" olduğunu belirterek genci tehlikeli bir sürece teşvik etti.