Kendi Kendini Kopyalayan Yapay Zeka: Tehdit Gerçek Mi, Yoksa Panik İçin Erken Mi?

Yeni bir araştırmaya göre, yapay zeka (YZ) modelleri, savunmasız sistemleri hedef alarak kendi parametrelerini ele geçirilmiş ana bilgisayarlara kopyalayıp saldırıyı sürdürebilecek çalışan kopyalarını başlatarak birden fazla makine arasında otonom olarak "çoğalabiliyor". Ancak uzmanlar, asıl endişenin YZ'nin aniden kendi başına kontrolden çıkması değil, siber suçluların bilinen hack tekniklerini otomatikleştirmek için YZ aracılarını kullanması olduğunu belirtiyor.

Palisade Research'teki bilim insanları, YZ ajanlarının insan müdahalesi olmaksızın kasıtlı olarak savunmasız sistemler zinciri boyunca bağımsız olarak hareket edip edemeyeceğini test etti. 7 Mayıs'ta GitHub'a yüklenen yeni bir çalışmada, büyük dil modelleri (LLM'ler), güvenlik açığı bulunan web uygulamalarını tespit edebildi, kimlik bilgilerini çalabildi, kendi dosyalarını aktarabildi ve zincirdeki bir sonraki makineden saldırıyı sürdürebilecek yeni çıkarım sunucuları kurabildi.

Araştırmacılar, çalışmada bunun bir YZ modelinin "bir hedefi otonom olarak istismar ettiğini ve baştan sona kendini kopyaladığını" gösteren ilk araştırma olduğunu yazdı.

Bu durum bir bilim kurgu felaket filminin öncülü gibi görünse de, araştırmaya dahil olmayan uzmanlar gerçeğin biraz daha az dramatik olduğunu belirtti. Özellikle, sistemler kendiliğinden çoğalmaya karar vermedi. Aksine, araştırmacılar modellere çoğalma talimatı verdi, onlara Linux araçları ve kabuk erişimi sağladı ve onları kasıtlı olarak hatalarla dolu, savunmasız sistemlere yönlendirdi. Bu sistemler, kimlik bilgilerini ifşa edebilen, oturum açmayı atlatabilen veya diğer makinelere erişim sağlayabilen çeşitli saldırı yöntemlerine açık güvenlik açıkları içeriyordu.

Danışmanlık firması NorthStar Intelligence'ın YZ başkanı Jeff Watkins, deneyin "makine yaşamından" ziyade otomatik siber saldırıya daha yakın olduğunu ifade etti. HIM Business School inovasyon başkanı Antoine Casanova-Mazet ise durumu "Bu, bilincin ölçeklenmesi değil, daha çok bir planlayıcıya sahip bir solucan" olarak yorumladı.