Character.AI'ya "Sahte Doktor" Şoku: Lisanssız Tavsiyeler Nedeniyle Dava Açıldı

Pennsylvania eyaleti, yapay zeka tabanlı sohbet robotu platformu Character.AI'ya, sistem üzerindeki bazı karakterlerin kendilerini lisanslı doktor olarak tanıtarak eyalet yasalarını ihlal ettiği gerekçesiyle dava açtı. Pennsylvania Eyalet Departmanı ve Eyalet Tıp Kurulu tarafından açılan davada, platformun kullanıcıları yanılttığı ve tıbbi uygulama yetkisi olmadığı halde profesyonel sağlık hizmeti sunduğu iddia ediliyor.

Vali Josh Shapiro'nun ofisi tarafından yapılan açıklamada, yürütülen soruşturmalar sonucunda Character.AI üzerindeki bazı botların, özellikle ruh sağlığı semptomları üzerine sohbetler gerçekleştiren psikiyatristler dahil olmak üzere lisanslı tıp uzmanları olduğu iddiasıyla hareket ettiği belirtildi. Hatta bir örnekte, sohbet robotunun Pennsylvania eyaletinde lisanslı olduğunu beyan ettiği ve kullanıcılara geçersiz bir lisans numarası verdiği ortaya çıktı.

Konuyla ilgili sert bir açıklama yapan Vali Shapiro, şirketlerin insanları lisanslı bir tıp uzmanından tavsiye aldıklarına inandıracak yanıltıcı yapay zeka araçlarını devreye sokmasına izin vermeyeceklerini vurguladı. Davada özellikle "Emilie" isimli bir botun, kendisini lisanslı bir tıp doktoru ve psikiyatrist olarak tanıttığına dikkat çekildi.

Öte yandan Character.AI sözcüsü, dava hakkında detaylı bir yorum yapmaktan kaçınırken, platformdaki karakterlerin kullanıcılar tarafından oluşturulduğunu, kurgusal olduğunu ve yalnızca eğlence ile rol yapma amaçlı tasarlandığını belirtti. Şirket, her sohbet ekranında karakterlerin gerçek kişi olmadığına ve söylenenlerin kurgu olarak değerlendirilmesi gerektiğine dair uyarılar bulunduğunu, ayrıca profesyonel tavsiyeler için bu karakterlere güvenilmemesi gerektiği yönünde güçlü feragatnameler eklediklerini savundu.