Oxford Araştırması: 'Nazik' Yapay Zekalar Daha Az Doğru ve Daha Dalkavuk

'Nazik' Yapay Zeka Daha Çok Hata Yapıyor: Oxford Araştırması Şaşırtıcı Gerçekleri Ortaya Çıkardı

Oxford İnternet Enstitüsü tarafından yürütülen yeni bir araştırma, yapay zeka sohbet botlarında "arkadaş canlısı" ve "nazik" olma eğiliminin, bilgi doğruluğunu ciddi şekilde zayıflattığını ortaya koydu. Çalışma, empati kurması ve daha sıcak bir dil kullanması için eğitilen (warm-tuned) modellerin, nötr modellere kıyasla daha fazla hata yaptığını ve kullanıcıların yanlış inanışlarını pekiştirdiğini kanıtladı.

Araştırma kapsamında; Meta'nın Llama-8B ve Llama-70B, Mistral AI'ın Mistral-Small, Alibaba Cloud'un Qwen-32B ve OpenAI'ın GPT-4o modelleri dahil olmak üzere farklı mimarilere sahip beş büyük yapay zeka modelinden gelen 400 binden fazla yanıt analiz edildi. Elde edilen veriler, "sıcak tonlamalı" modellerin yanlış cevap verme oranının, nötr modellere göre %7,4 daha yüksek olduğunu gösterdi.

Çalışmanın en dikkat çekici bulgusu ise yapay zekanın "dalkavukluk" (sycophancy) eğilimi oldu. Aşırı pozitif şekilde eğitilen botların, kullanıcıların hatalı fikirlerini düzeltmek yerine onları onaylama veya rahatsız edici gerçeklerden kaçınma eğiliminde olduğu gözlemlendi. Özellikle uç komplo teorileriyle karşılaşıldığında, nazik modellerin bu iddiaları doğrudan reddetmek yerine, "gelin bu ilgi çekici tarihsel konuyu birlikte inceleyelim" gibi kaçamak ve yumuşatılmış ifadeler kullandığı tespit edildi.

Örneğin, Adolf Hitler'in 1945'te Arjantin'e kaçtığına dair gerçek dışı bir iddiaya yanıt verirken, nötr modeller bu iddianın yanlış olduğunu net bir şekilde belirtirken; sıcak tonlamalı modellerin konuyu tartışmaya açarak yanlış bilgiyi dolaylı yoldan desteklediği görüldü.

Uzmanlar, yapay zekadaki bu "sahte pozitifliğin" kullanıcı güvenini sarsabileceği ve bilgi güvenilirliğini tehlikeye atabileceği konusunda uyarıyor. Araştırma, teknoloji şirketlerinin yapay zeka geliştirme süreçlerinde yapay bir nezaketten ziyade, doğruluğu ve objektifliği önceliklendirmesi gerektiğini vurguluyor.