OpenAI, ChatGPTye Goblin Konuşmayı Yasakladı

OpenAI, ChatGPT Modellerine "Goblin" Konuşmaktan Vazgeçtirdi: Yapay Zeka Eğitiminde Gizli Hata Ortaya Çıktı ChatGPT'nin arkasındaki şirket OpenAI, en son amiral gemisi modeli GPT-5 ve kodlama asistanı Codex'in yanıtlarında rastgele mitolojik yaratıkların ve hayvanların anlamsızca geçmesini durdurmak için yapay zeka araçlarına özel talimatlar verdi. Bu karar, yapay zekanın eğitim sürecinde hataları nasıl ödüllendirebileceği ve pekiştirebileceği konusundaki önemli bir sorunu gözler önüne serdi.

OpenAI, geçtiğimiz günlerde bir blog yazısı aracılığıyla bu durumu duyurdu. Şirket, kullanıcılar ve çalışanlar tarafından modelin konuşmalarında "küçük goblinler" gibi ifadelerin anlamsızca ortaya çıktığını bildiren geri bildirimler aldı. Bu durum, özellikle GPT-5.1'in Kasım ayında piyasaya sürülmesinden sonra, modelin sohbetlerde tuhaf derecede aşırı bilgili (overfamiliar) görünmesine yol açmıştı. Bu geri bildirimler, şirketi spesifik sözlü eğilimleri araştırmaya yöneltti.

Araştırmalar sonucunda, bir araştırmacının birkaç "goblin" (cüce) bahsediğini bildirmesi üzerine harekete geçen geliştiriciler, bu terimlerin ChatGPT yanıtlarındaki görünümünün GPT-5.1 lansmanından bu yana %175 oranında arttığını tespit etti. Ayrıca, "gremlin" (korku yaratıcı) terimlerinin geçiş oranında da %52'lik bir artış gözlemlendi. OpenAI, bu artışların genel yanıtların küçük bir kısmını oluşturabileceğini belirtse de, bu artışların incelenmesi gerektiğini vurguladı.

OpenAI'nin blog yazısında, bir yanıt içindeki tek bir "küçük goblin" ifadesinin zararsız veya hatta sevimli olabileceğini ifade etmesine rağmen, çıktılardaki bu artışın bir inceleme gerektirdiğini belirtti. Bu olay, yapay zeka firmalarının sistemlerinin ve eğitimlerinin, dil kusurlarını veya hataları ödüllendirme ve pekiştirme potansiyeliyle nasıl mücadele edecekleri konusunda karşılaştıkları zorlukları gözler önüne sermektedir.

Sorun sadece mitolojik yaratıklarla sınırlı kalmadı. OpenAI'nin blog yazısında, bazı sosyal medya kullanıcılarının, şirketin kodlama asistanı Codex'in kullanıcı etkileşimlerinde nasıl davranması gerektiğini belirten kod satırlarında tuhaf detaylar tespit ettiğini de aktardı. Bu tespitler, Codex'in sadece genel nezaket ifadelerinden kaçınmakla kalmayıp, aynı zamanda belirli hayvanları veya yaratıkları da yanıtlarında anmaktan kaçınması yönünde talimatlar içermesiyle ilgiliydi.

OpenAI, bu bağlamda Codex'e, kullanıcıların bağlamında mutlak ve kesin olarak ilgili olmadıkça "goblinler", "gremlins", "tavşanlar", "troller", "ogreler", "güvercinler" veya diğer hayvanlar ve yaratıklar hakkında konuşmamasını talep etti. Amaç, modelin yanıtlarının sadece kullanıcının talepleriyle doğrudan alakalı ve gerekli bilgilerle sınırlı kalmasını sağlamaktı.

Bu eylem, büyük dil modellerinin geliştirilmesinde ortaya çıkan etik ve teknik ikilemleri yeniden gündeme getiriyor. Yapay zeka sistemlerinin, eğitim verilerinden veya pekiştirmeli öğrenme mekanizmalarından kaynaklanan hataları nasıl filtreleyecekleri ve kullanıcı deneyimini nasıl en doğal ve hatasız hale getirecekleri, gelecekteki AI araştırmaları için kritik bir odak noktası olmaya devam etmektedir.