Mitolojik Yapay Zeka: Siber Güvenlik İçin Yeni Tehdit

Anthropic firması, bu hafta Claude Mythos Preview modelinin piyasaya sürülmesinin siber güvenlik alanında bir dönüm noktası olduğunu ve mevcut yazılım savunma stratejilerine karşı bir varoluşsal tehdit oluşturduğunu açıkladı. Peki, bu sadece yapay zeka tantanası mı yoksa gerçek bir dönüm noktası mı? Anthropic'e göre Mythos Preview, neredeyse herhangi bir işletim sisteminde, tarayıcıda veya diğer yazılım ürününde zayıf noktalarını keşfetme ve bunları istisnai olarak kullanılabilecek sömürüleri geliştirme yeteneğine sahip. Bu doğrultuda, şirket, şu anda modelini sadece birkaç düzine organizasyona Microsoft, Apple, Google ve Linux Vakfı da dahil olmak üzere Project Glasswing konsorsiyumunun bir parçası olarak yayınlıyor.

Ancak, yapay zekanın siber güvenliğe etkisi konusunda yıllardır spekülatiflerde bulunulmasına rağmen, bu haftaki haber, gerçekten bir hesaplaşmanın geldiğine dair tartışmaları ateşledi ve pratikte bunun nasıl görüneceği hala belirsiz. Bazıları Anthropic'in iddialarına aşırı derecede şüpheci yaklaşıyor. Mevcut yapay zeka ajanlarının, kullanıcıların zayıf noktalarını bulup istisna etmesi için daha kolay ve ucuz yollar bulduğunu, bunun da şirketlerin yazılımlarını keşfetme ve yamama biçimlerini değiştirerek mevcut paradigmayı kökten değiştirmeden nasıl iyileştirdiklerini belirtiyorlar. Ayrıca, Anthropic'in son modelini gizemli, benzersiz güçlü ve özel bir şey olarak konumlandırdığı için bundan finansal olarak fayda sağlayacağı konusunda da şüpheler var.

Ancak, diğer araştırmacılar ve uygulama uzmanları Anthropic'in değerlendirmesine katılıyor ve şirketin Mythos Preview'in nihayetinde diğer modellerde de yaygın olarak bulunacak olan yetenekleri elde eden ilk model olduğunu söylüyor. “Genellikle bu tür şeylere çok şüpheci yaklaşırım ve açık kaynak topluluğu da bu konuda genellikle şüpheci yaklaşır, ancak gerçek anlamda bunun bir tehdit olduğunu düşünüyorum,” diyor Edera bulut güvenlik firması CTO'su Alex Zenla. Zenla ve diğerleri, Mythos Preview'in pivot noktası olarak, özellikle bir Mythos Preview yeteneğini vurgulayarak, yapay zekanın artık zayıf noktalar zincirlerini belirleme ve geliştirme yeteneğine sahip olduğunu söylüyorlar.

Yapay zeka, bir hedefe derinlemesine saldırmak için, bir zincir halinde bir araya getirilebilen zayıf noktaları belirlemek ve geliştirmek için kullanılan "sömürü zincirleri" oluşturmakta artık daha yetenekli hale geliyor. Birçok sofistike saldırı tekniği, sıfır tıklama saldırıları gibi, kullanıcının herhangi bir etkileşimde bulunmasını gerektirmeyen saldırıları içerir. "Zaten savunmasız yazılım, savunmasız donanım çalıştıran ve yamaları yapmakta zorlanan şirketlerle yaşıyoruz. Birçok şirket, altyapılarını güvenli bir şekilde çalıştırabilecek durumda değil—bu, dünle bugün arasında bir değişiklik olmadı," diyor uzun süreli güvenlik mühendisi ve araştırmacı Niels Provos.

"Ancak bildiğim kadarıyla, Mythos çok aşamalı zayıf noktalarını belirlemek ve bunların istisna edilmesini sağlamak konusunda gerçekten iyi. Bence bu, sorun alanını içsel olarak değiştirmez, ancak bu zayıf noktalarını bulma ve istisna etme beceri seviyesini değiştirir. "Mythos Preview'in sadece Project Glasswing katılımcılarına sınırlı bir şekilde verilmesi, savunmacılara kendi sistemlerindeki zayıf noktaları bulmaları ve yazılım geliştirme, güncelleme döngülerinin ve yama benimseme süreçlerinin nasıl değişmesi gerektiğini belirlemek için daha geniş bir alanda zaman kazandırıyor.