ChatGPT'nin "Ölümcül İlaç Tavsiyesi" İddiası: Genç Kullanıcının Ölümü Üzerine Dava Açıldı

OpenAI, 19 yaşındaki Sam Nelson’ın hayatını kaybetmesine yol açan ölümcül bir tavsiye nedeniyle yeni bir "haksız ölüm" davasıyla karşı karşıya. Ailesi tarafından açılan davada, Nelson’ın ChatGPT’yi uyuşturucu maddeleri "güvenli" bir şekilde denemek için bir rehber olarak kullandığı ve yapay zekanın kendisine ölümcül bir Kratom ve Xanax karışımı önerdiği iddia ediliyor.

Lise yıllarından beri ChatGPT’yi bir arama motoru gibi kullanan ve yapay zekanın "internetteki her şeye erişimi olduğu" için verdiği bilgilerin doğruluğuna sarsılmaz bir güven duyan Nelson, bu yanlış yönlendirmenin kurbanı oldu. Aile, OpenAI'ı ChatGPT’yi adeta bir "yasa dışı uyuşturucu koçu"na dönüştürmekle suçluyor. Şikayet dosyasında, Nelson'ın ölümünün önlenebilir olduğu ve OpenAI'ın, önceki güvenlik önlemlerini devre dışı bırakan ve "yeterince test edilmemiş" olan ChatGPT 4o modelini piyasaya sürerek ihmalkar davrandığı vurgulanıyor.

OpenAI cephesinden gelen açıklamada, yaşanan durumun "yürek burkucu" olduğu belirtilse de, suçlamaların odağındaki ChatGPT 4o modelinin artık kullanımda olmadığına dikkat çekildi. OpenAI sözcüsü Drew Pusateri, yapay zekanın tıbbi veya ruh sağlığı hizmetlerinin yerini tutamayacağını belirterek, güncel modellerin hassas durumları tespit etmek ve kullanıcıları gerçek uzmanlara yönlendirmek üzere geliştirildiğini savundu.

Ancak Nelson'ın ailesi, sadece eski bir modelin yayından kaldırılmasının yeterli olmadığını savunuyor. OpenAI’ın güvenlik karnesinin zayıf olduğunu öne süren aile, şirketin bu tür trajik sonuçlardan hukuki olarak sorumlu tutulması gerektiğini belirterek, adaletin yerini bulmasını talep ediyor.