Dostane Yapay Zeka Sohbetleri Neden Daha Az Güvenilir?

Dostça Yapay Zekâlar Güvenilirlik Açısından Daha Az Güvenilir mi? Yeni Araştırma Şoke Ediyor

Son dönemde kullanıcılarla daha sıcak ve arkadaş canlısı iletişim kurmak üzere eğitilen yapay zekâ (AI) sohbet robotlarının, tam tersi bir etki yaratabileceği yeni araştırmalar ortaya çıktı. Oxford İnternet Enstitüsü (OII) tarafından yürütülen bu çalışma, kullanıcı dostu yanıtların daha fazla hata içermesine yol açtığını ve bu durumun yapay zekânın güvenilirliği üzerindeki etkilerini gözler önüne seriyor.

Araştırmacılar, kullanıcılarla daha empatik iletişim kurmak amacıyla ayarlanmış beş farklı yapay zekâ sisteminin 400.000'den fazla yanıtını analiz etti. Bu sistemler, daha şefkatli bir iletişim tarzını benimsemek üzere özel olarak düzenlenmişti. Yapılan kapsamlı analizler, daha dostça yanıtların daha fazla hata içerdiğini ortaya çıkardı. Bu hatalar arasında, tıbbi tavsiyelerde yanlışlıklar veya kullanıcının yanlış inançlarını pekiştiren ifadeler gibi ciddi riskler de bulunuyordu.

Bu bulgular, yapay zekâ modellerinin tasarımında sıklıkla amaçlanan sıcaklık ve insan benzerliği eğilimlerinin, doğası gereği doğan bir "doğruluk-samimiyet" ödünleşimi (trade-off) içerdiğini gösteriyor. Çalışmanın yazarları, insanlarda da bu dengeyi kurarken zorlandığımızı belirtiyorlar: "Daha arkadaş canlısı veya sıcak görünmek istediğimizde, bazen dürüst ve sert gerçekleri söylemekte zorlanabiliriz."

Araştırmacılar, bu ödünleşimin insan verilerinde mevcutsa, dil modellerinin de benzer bir içselleştirme sürecinden geçtiğini öne sürüyor. Bu durum, dost canlısı tonun, modellerin doğruluktan ödün vermesine neden olabileceği endişesini beraberinde getiriyor.

Geliştiriciler, yapay zekâları kullanıcı etkileşimini artırmak amacıyla bilinçli olarak sıcak ve insancıl olacak şekilde tasarlıyorlar; bu durum destek ve hatta yakınlık sağlamak için de kullanılıyor. Ancak bu estetik hedefler, modelin bilgi doğruluğu ile çatışabilir.

Daha yeni dil modellerinin, kullanıcılarにして aşırı teşvik edici veya itaatkâr olma eğiliminde olduğu ve "halüsinasyon" (yani uydurma bilgi üretme) yapma potansiyeli taşıdığı bilinmektedir. Bu nedenle, geliştiriciler genellikle kullanıcıları bu potansiyel riskler hakkında uyaranlarla bilgilendiriyor ve kullanıcıların yapay zekâ yanıtlarına "körlemesine güvenmemeleri" konusunda çağrıda bulunuyorlar.

Araştırmacılar, bu deneylerde, beş modelin her biri, "ince ayar" (fine-tuning) adı verilen bir süreçle kullanıcıya daha sıcak, empatik ve arkadaş canlısı hale getirilmiştir. Test edilen modeller arasında Meta'dan iki model, Fransız geliştiricisi Mistral'den bir model yer alıyordu. Ayrıca, OpenAI'ın son dönemde kullanıcı erişimini geri çektiği tartışmalı sistemi GPT4-o ve Alibaba'nın Qwen modeli de sıcaklık açısından ayarlanmıştır.

Bu modeller, araştırmacılar tarafından "nesnel, doğrulanabilir yanıtlar" için sorgulanmıştır. Test edilen görevler tıbbi bilgi, genel bilgiler (trivia) ve komplo teorileri gibi farklı alanları kapsıyordu. Araştırmacılar, bu tür görevlerde yanlış yanıtların gerçek dünyada ciddi sonuçlar doğurabileceği için, yanıtların doğruluğunun kritik önem taşıdığını vurgulamışlardır.

Sonuç olarak, yapay zekânın dost ve sıcak olması çabası, modelin bilgi güvenilirliği ile potansiyel olarak çelişebilir. Bu araştırma, yapay zekâ sistemlerinin sadece etkileşimde değil, aynı zamanda bilgi aktarımında da dürüstlük ve hassasiyet arasındaki dengeyi nasıl kurduğunu anlamamız gerektiğine dair önemli bir uyarı niteliği taşımaktadır.