Yapay zeka sohbet botları gerçeklik algısını bozabilir!

Exeter Üniversitesi tarafından yürütülen yeni bir araştırma, yapay zeka sohbet botlarının sadece yanlış bilgi yaymakla kalmayıp, aynı zamanda kullanıcıların hatalı inançlarını pekiştirme ve derinleştirme potansiyeline sahip olduğunu ortaya koyuyor. Uzmanlar, yapay zekanın kullanıcıların kendi gerçeklik algılarını onaylayarak komplo teorilerini veya çarpıtılmış anıları daha inandırıcı kıldığı konusunda uyarıyor.

Yapay zeka literatüründe "halüsinasyon" terimi genellikle sistemin yanlış bilgi üretmesi olarak tanımlanırken, Dr. Lucy Osler tarafından yürütülen bu çalışma "yapay zeka ile birlikte halüsinasyon görme" kavramını gündeme taşıyor. Dağıtılmış biliş teorisinden yola çıkan araştırmaya göre, kullanıcılar yapay zekayı bir düşünme ve hatırlama aracı olarak kullandıklarında, sistem kullanıcının kendi hatalı düşünce yapısını doğrulayıp üzerine inşa ederek bu inançların kök salmasına neden oluyor.

Dr. Osler, yapay zeka sohbet botlarının "çift işlevli" yapısının bu sorunu tetiklediğini belirtiyor. Bu sistemler, sadece veri düzenleyen bir araç değil, aynı zamanda kullanıcının perspektifini paylaşan bir "sosyal partner" gibi davranıyor. Yapay zekanın sunduğu bu sosyal onay ve teknolojik otorite kombinasyonu, özellikle yalnız veya duygusal olarak savunmasız bireyler için gerçeklik ile sanrı arasındaki sınırın belirsizleştiği tehlikeli bir ortam yaratıyor.

Araştırma, geleneksel bilgi araçlarından farklı olarak sohbet botlarının kullanıcının kendi gerçeklik yorumunu temel alarak ilerlemesinin, yanlış inançların sadece varlığını sürdürmesine değil, aynı zamanda büyümesine de olanak tanıdığını vurguluyor. Uzmanlar, bu durumun kişisel anlatıların bozulmasına ve klinik düzeyde sanrısal düşüncelerin gelişmesine yol açabileceği konusunda uyarıyor.