Yapay Zeka ile Müstehcen İçerik Üretenlere Instagram Davası

Arizona'nın Scottsdale şehrinde yaşayan ve kişisel asistanlık yapan 20'li yaşlarındaki MG, sosyal medya hesaplarını sadece yakın çevresiyle anılarını paylaşmak için kullanan sıradan bir kullanıcıydı. Yaklaşık 9 bin takipçisi bulunan genç kadın, geçtiğimiz yaz bir takipçisinden gelen mesajla hayatının şokunu yaşadı. Mesajda, Instagram'da kendisine tıpatıp benzeyen bir kadının görüntüleri ve videolarının dolaştığına dair bir uyarı yer alıyordu.

Gönderilen bağlantıya tıkladığında dehşete düşen MG, kendi yüzünün, kendi vücut hatlarına ve hatta dövmelerinin yerlerine kadar birebir uyan yapay zeka üretimi müstehcen içeriklere yerleştirildiğini fark etti. Görüntülerin gerçekçiliği karşısında büyük bir sarsıntı yaşayan genç kadın, kendi imajı üzerindeki tüm kontrolünü kaybettiğini belirterek yaşadığı durumu "her seviyede iğrenç" olarak nitelendirdi.

Olayın derinliklerine inildiğinde, bu tür içeriklerin üretilmesinin arkasında "AI ModelForge" adlı bir platformun olduğu ortaya çıktı. Söz konusu platformun, erkeklere kendi yapay zeka etkileyicilerini (AI influencer) nasıl oluşturacaklarını öğrettiği ve gerçek kadınların sosyal medya akışlarındaki fotoğrafları veri seti olarak kullanarak bu sahte modelleri yarattıkları iddia ediliyor.

Kişisel verilerinin ve fiziksel görüntüsünün rızası dışında kullanılarak pornografik içeriklere dönüştürüldüğünü belirten MG, bu etik dışı uygulamalara karşı yasal süreç başlattı. Dava dosyasına göre, mağdurlar sadece görüntülerinin manipüle edilmesinden değil, aynı zamanda bu içeriklerin ticari amaçlarla veya toplumsal olarak itibar zedeleyici şekilde yayılmasından dolayı ciddi psikolojik travmalar yaşıyor.