Google, yapay zeka destekli "sıfırıncı gün" saldırısını durdurdu

Google, yapay zeka destekli bir yöntemle geliştirilen ilk "sıfırıncı gün" (zero-day) açığını tespit edip etkisiz hale getirdiğini duyurdu. Google Tehdit İstihbarat Grubu (GTIG) tarafından yayınlanan rapora göre, ismi açıklanmayan açık kaynaklı bir web tabanlı sistem yönetim aracındaki iki faktörlü kimlik doğrulama (2FA) mekanizmasını atlatmayı hedefleyen saldırı, büyük ölçekli bir siber saldırı hazırlığının parçasıydı.

Saldırıda kullanılan Python kodunu inceleyen Google araştırmacıları, yapay zeka kullanımına dair somut kanıtlar buldu. Kod içerisinde yer alan ve gerçekte var olmayan, yapay zekanın "halüsinasyon" ürünü olan bir CVSS (Ortak Güvenlik Açığı Puanlama Sistemi) skoru ile karşılaşıldı. Ayrıca kodun yapısının, Büyük Dil Modellerinin (LLM) eğitim verilerine uygun şekilde "ders kitabı tarzında ve oldukça yapılandırılmış" olması, saldırganların bir yapay zeka modelinden destek aldığını doğruluyor.

Araştırmacılar, bu saldırının geliştirilmesinde Google'ın kendi yapay zeka modeli Gemini'ın kullanılmadığını özellikle vurguladı. Söz konusu güvenlik açığı, yazılımcının platformun 2FA sisteminde "güven varsayımı" içeren hatalı bir mantık kurgulaması nedeniyle ortaya çıkmıştı. Bu gelişme, siber suçluların güvenlik açıklarını keşfetmek ve bu zafiyetleri istismar etmek için yapay zekayı aktif bir araç olarak kullanmaya başladığının en somut göstergesi olarak kabul ediliyor.

Google raporunda, bilgisayar korsanlarının sadece yapay zekayı saldırı aracı olarak kullanmakla kalmadığını, aynı zamanda yapay zeka sistemlerinin kendisini de hedef aldığına dikkat çekiyor. Şirket, saldırganların otonom yetenekler ve üçüncü taraf veri bağlantıları gibi, yapay zeka sistemlerine işlevsellik kazandıran entegre bileşenleri giderek daha fazla hedef aldığını belirtti.