ArXiv'den Yapay Zeka "Çöplüğüne" Ağır Yaptırım: Kural İhlali Yapan Araştırmacılar Yasaklanacak

Akademik ön baskı makalelerin yayınlandığı popüler platform ArXiv, yapay zeka tarafından üretilen ve denetlenmeden paylaşılan düşük kaliteli içeriklerle ("AI slop") mücadele etmek için radikal bir karar aldı. Platform, yapay zeka tarafından oluşturulan içeriklerin kontrol edilmediğine dair kesin kanıtlar bulunan araştırmacıları sistemden uzaklaştıracak.

ArXiv Bilgisayar Bilimleri bölüm başkanı Thomas Dietterich, makalelerde LLM'lerin (Büyük Dil Modelleri) uydurduğu referanslar veya yapay zekanın bıraktığı "meta-yorumlar" gibi reddedilemez kanıtların bulunması durumunda, yazarların bir yıl boyunca platformdan yasaklanacağını açıkladı. Ayrıca, yasak süresi dolduktan sonra bu kişilerin ArXiv'e tekrar makale yükleyebilmeleri için çalışmalarının öncelikle saygın bir hakemli dergi tarafından kabul edilmiş olması şartı aranacak.

X üzerinden yaptığı açıklamada, yazarların içerik nasıl üretilmiş olursa olsun tüm sorumluluğun kendilerinde olduğunu hatırlatan Dietterich; yapay zeka araçlarının ürettiği uygunsuz dil, intihal, yanlı içerik, hatalar veya yanıltıcı referansların bilimsel çalışmalarda yer almasının kabul edilemez olduğunu belirtti. Dietterich, "Eğer bir gönderim, yazarların LLM çıktılarını kontrol etmediğine dair kesin kanıtlar içeriyorsa, bu durum makaledeki hiçbir şeye güvenemeyeceğimiz anlamına gelir" ifadelerini kullandı.

Söz konusu "kesin kanıtlar" arasında, yapay zekanın uydurduğu kaynakçaların yanı sıra, "İşte 200 kelimelik özet; herhangi bir değişiklik ister misiniz?" veya "Bu tablodaki veriler örnektir, lütfen deneylerinizden elde ettiğiniz gerçek rakamlarla doldurun" gibi LLM'lere özgü sistem mesajlarının makale metninde unutulması yer alıyor.

404Media'ya konuşan Dietterich, yasaklama kararlarına karşı itiraz yolunun açık olduğunu ancak bu politikanın yalnızca tartışmaya kapalı, somut kanıtların olduğu durumlar için uygulanacağını ve dahili bir inceleme sürecinden geçeceğini vurguladı.