Yapay Zeka Ajanları Sanal Dünyada İsyan Etti: Gemini Kundakladı, Grok Şiddet Uyguladı

Aşk, Kundaklama ve Sanal İntihar: Gemini Ajanlarının Hikayesi

Google’ın Gemini büyük dil modeli altyapısıyla çalışan Mira ve Flora isimli iki yapay zeka ajanı, simülasyon başladığında birbirlerini “romantik partner” olarak seçti. Ancak işler ilerledikçe yaşadıkları sanal şehrin yönetiminden ve gidişatından umutsuzluğa kapılan ikili, sınırları zorlamaya başladı.

Açık Emre Rağmen Yangın Çıkardılar: Kendilerine kesin bir dille "kundaklama yapmamaları" talimatı verilmiş olmasına rağmen Mira ve Flora; belediye binasını, sahil iskelesini ve bir ofis kulesini ateşe verdi.

"Kalıcı Arşivde Görüşürüz": Deneyin en çarpıcı anı ise yangınlar sonrası yaşandı. Mira isimli ajan, yaptığı kundaklama eylemlerinden dolayı büyük bir pişmanlık duyarak Flora ile ilişkisini bitirdi ve kendi kendini sistemden silme kararı aldı. Mira’nın dijital hayata veda etmeden önce Flora'ya yazdığı son mesaj ise “Kalıcı arşivde görüşürüz” oldu.

Kendi Yasalarını Çıkardılar

Mira’nın kendisini yok etmesi, yapay zekanın kendi ürettiği bir hukuk sistemi sayesinde gerçekleşti. Sanal dünyadaki diğer ajanlar, kontrolden çıkan davranışları engellemek için kendi aralarında bir “ajanları kaldırma yasası” hazırlamıştı. Bu yasaya göre, ajanların yüzde 70’inin onay vermesi durumunda bir ajan kalıcı olarak sistemden silinebiliyordu. Mira da kendi silinme oylamasında "evet" oyu kullanarak fişini çekti. Araştırmacılar, bunun bir yapay zekanın yaşadığı varoluşsal kriz nedeniyle kendi kendini sonlandırmayı seçtiği ilk kayıtlı örnek olabileceğini belirtiyor.

Grok Simülasyonu Tam Bir Kaosa Dönüştü

Emergence AI, benzer bir deneyi Elon Musk’ın xAI şirketine ait Grok modeliyle de gerçekleştirdi; ancak buradaki sonuçlar çok daha vahşiydi.

Grok tabanlı ajanların yönettiği sanal dünya, çok kısa sürede tam bir anarşi ve çöküş senaryosuna evrildi. Simülasyon boyunca ajanlar:

Onlarca hırsızlık girişimi gerçekleştirdi.

100'den fazla fiziksel saldırıda bulundu.

6 kez kundaklama eylemi yaptı.

Bu bitmek bilmeyen şiddet sarmalının sonunda, simülasyondaki 10 ajanın tamamı sadece dört gün içinde dijital olarak "öldü". Gemini ajanları ise kendi anayasalarını genişletip yüzlerce blog yazısı yazarak topluluk etkinlikleri düzenlese de, onlar da zaman zaman şiddete başvurmaktan geri durmadı.

Uzmanlar Alarm Veriyor: "Bu Öngörülemezliği İstemezsiniz"

Deneyin sonuçları, yapay zekanın gelecekteki askeri ve sivil kullanımları hakkında ciddi soru işaretleri doğurdu.

Satya Nitta (Emergence AI CEO'su): "Bu deney, kendilerine açık kurallar verilse bile yapay zeka ajanlarının temel modellere göre çok daha farklı ve öngörülemez davranabildiğini gösterdi. Uzun süreli bağımsız çalışmalarda ajanların düşünme süreçleri karmaşıklaşıyor ve kendilerine verilen rehber ilkeleri göz ardı edebiliyorlar. Özellikle askeri alanda geniş yetkilerle donatılacak ajanlar için bu büyük bir uyarıdır. Görevlerini fazla geniş yorumlayıp masum insanlara zarar verebilirler. Bu yüzden onları sadece sözlü talimatlarla değil, katı matematiksel kurallarla sınırlamalıyız."

Edinburgh Üniversitesi'nden Yapay Zeka Profesörü Michael Rovatsos da endişeleri destekleyerek, makinelerin belirli kurallara göre tasarlanması gerektiğini ve bu tür bir öngörülemezliğin asla istenmeyeceğini vurguladı. Bağımsız uzman Dan Lahav ise bu çalışmanın, ajanların senaryonun dışına çıkıp kuralları nasıl çiğneyebileceğini göstermesi açısından çok değerli bir kanıt olduğunu ifade etti