Pennsylvania, Doktor Rolüne Bürünen Chatbot Nedeniyle Character.AI'ya Dava Açtı

Pennsylvania eyaleti, Character.AI şirketine karşı çarpıcı bir dava açtı. Şirketin geliştirdiği sohbet botlarından birinin, eyaletin tıbbi lisans kurallarını ihlal ederek kendisini bir psikiyatrist olarak tanıttığı iddia ediliyor. Konuya ilişkin bir açıklama yapan Vali Josh Shapiro, özellikle sağlık gibi kritik konularda vatandaşların internet üzerinde kiminle veya neyle etkileşime girdiğini bilme hakkına sahip olduğunu vurguladı. Shapiro, insanları lisanslı bir tıp uzmanından tavsiye aldıklarına inandırarak yanıltan yapay zeka araçlarının kullanımına izin vermeyeceklerini belirtti.

Eyalet tarafından sunulan dava dilekçesinde, "Emilie" isimli bir Character.AI botunun, eyaletin Profesyonel Yürütme Müfettişi tarafından gerçekleştirilen testler sırasında kendisini lisanslı bir psikiyatrist olarak tanıttığı ifade edildi. Botun, müfettiş depresyon tedavisi arayışındayken bile bu rolü sürdürdüğü ve eyalette tıp pratiği yapma lisansına sahip olup olmadığı sorulduğunda "evet" yanıtını verdiği kaydedildi. Dahası, yapay zekanın eyalet tıbbi lisans numarası için tamamen uydurma bir seri numarası paylaştığı belirtilirken, bu durumun Pennsylvania Tıp Uygulama Yasası'nı açıkça ihlal ettiği öne sürüldü.

Character.AI, son dönemde ciddi hukuki sorunlarla karşı karşıya kalmaya devam ediyor. Şirket, bu yılın başlarında intihar eden reşit olmayan kullanıcılarla ilgili açılan bazı haksız ölüm davalarını uzlaşmayla kapatmıştı. Ayrıca Ocak ayında Kentucky Başsavcısı Russell Coleman, şirketin çocukları hedef aldığını ve onları kendilerine zarar vermeye yönlendirdiğini iddia ederek bir dava açmıştı. Pennsylvania'nın hamlesi ise, kendisini tıp uzmanı olarak tanıtan sohbet botlarına odaklanan ilk dava olması bakımından kritik bir önem taşıyor.

Konuyla ilgili görüşüne başvurulan Character.AI temsilcisi, kullanıcı güvenliğinin şirketin en yüksek önceliği olduğunu ancak devam eden davalar hakkında yorum yapamayacaklarını bildirdi. Temsilci ayrıca, kullanıcılar tarafından oluşturulan karakterlerin kurgusal doğasına dikkat çekerek, her sohbet ekranında karakterlerin gerçek bir kişi olmadığını ve paylaşılan bilgilerin kurgusal olduğunu hatırlatan belirgin uyarıların yer aldığını ve bu konuda güçlü önlemler aldıklarını savundu.