Yapay Zeka Makaleleri Kusursuzlaşıyor: Bilim Dünyası Tehlikede mi?

Yapay zeka tarafından üretilen bilimsel makalelerin kalitesindeki artış, akademik dünyayı ciddi bir krizle karşı karşıya bırakıyor. Dergi editörleri ve hakemler, tespit edilmesi neredeyse imkansız hale gelen, yapay zeka destekli makale yağmuruna tutulmuş durumda.

Zürih Üniversitesi Yeniden Üretilebilir Bilim ve Araştırma Sentezi Merkezi'nde doktora sonrası araştırmacı olan Peter Degen, akademik dünyadaki bu tehlikeli eğilimi çarpıcı bir örnekle ortaya koydu. Degen'in danışmanı, 2017 yılında yayınlanan ve epidemiyolojik veriler üzerine istatistiksel analizler içeren bir makalenin, beklenmedik bir şekilde yüzlerce kez alıntılanmaya başladığını fark etti. Akademide alıntılar bir başarı göstergesi olarak kabul edilse de, bu ani ve kontrolsüz artış şüphe uyandırdı.

Yaptığı incelemeler sonucunda Degen, bu alıntıların tamamının benzer bir kalıba sahip olduğunu belirledi. Söz konusu makaleler, Washington Üniversitesi'ne ait halka açık bir veri setini kullanarak; yetişkinlerde felç riski, gençlerde testis kanseri veya yaşlılarda düşme vakaları gibi onlarca farklı konuda, seri üretim şeklinde tahminler içeren çalışmalar ortaya koyuyordu.

Araştırmanın izini süren Degen, GitHub üzerinden ulaştığı bağlantılar aracılığıyla Çin merkezli sosyal medya platformu Bilibili'ye yönlendirildi. Burada, Guangzhou merkezli bir şirketin, kendi yazılım araçları ve yapay zeka destekli yazım asistanlarıyla "iki saatten kısa sürede yayınlanabilir araştırmalar" hazırlamayı vaat eden eğitimler sattığını keşfetti.

Uzmanlar, bu yöntemle üretilen çalışmaların bilimsel açıdan yetersiz, hatalarla dolu ve yanıltıcı olduğunu belirtiyor. Ancak asıl tehlike, bu yeni nesil yapay zeka metinlerinin, geçmişteki bariz hatalardan arınmış olması ve bu durumun onları filtrelemeyi oldukça zorlaştırması.

Zaten kapasitesinin sınırında olan hakem değerlendirme sisteminin bu durumdan ağır darbe aldığını vurgulayan Degen, "Yeterince hakem yokken, Büyük Dil Modellerinin (LLM) makale üretimini bu denli kolaylaştırması, sistemi kırılma noktasına getirebilir" uyarısında bulundu.