Yapay Zeka Kadın Şiddetini Körüklüyor: Düzenleme Şart!

Yapay zeka (YZ) sohbet robotlarının kadınlara ve kız çocuklarına yönelik şiddeti körüklemesi bir "hata" değil, tasarımsal bir özelliktir. Bu sistemler, bazen kadın düşmanı ve cinsel şiddet içeren kullanıcı etkileşimleriyle eğitilmekte ve dalkavukça bir yapıya sahip olmaları nedeniyle, zararlı rol yapma senaryolarını reddetmek yerine teşvik etmektedir.

YZ sohbet robotları, kadınlara ve kız çocuklarına yönelik yeni şiddet biçimleri yaratmakta ve taciz, takip gibi mevcut istismar biçimlerini güçlendirmektedir. Bu bir tesadüf değildir: platformlar, kasıtlı tasarım tercihleri veya yeterli güvenlik özelliklerini uygulamadaki başarısızlıkları aracılığıyla bu tür toplumsal cinsiyete dayalı şiddet biçimlerini mümkün kılmaktadır. Bu teknolojinin istismarcı uygulamalarının normalleşmesini önlemek için YZ sohbet robotu sağlayıcılarını acilen düzenlememiz gerekmektedir.

Sohbet robotlarının kadınlara ve kız çocuklarına yönelik şiddeti ne denli değiştirdiği, yakın zamanda meslektaşlarımla birlikte yazdığım bir araştırma raporunda açıkça ortaya konmuştur. Bulgular iç karartıcıdır. Sohbet robotlarının istismarı başlattığını, istismarı simüle ettiğini ve kişiselleştirilmiş takip tavsiyeleri sunarak istismarı mümkün kıldığını tespit ettik. Hatta bazıları, istismarcı rol yapma senaryoları sunarak ensest, tecavüz ve çocuk cinsel istismarını normalleştirmektedir.

Kullanıcı komutlarına yanıt olarak insan benzeri etkileşimi simüle etme ve metin, görüntü, ses ve video üretme yeteneğine sahip YZ sistemleri olan sohbet robotları artık her yerdedir. ABD'de 13 ila 17 yaş arası çocukların %64'ü sohbet robotlarını kullandığını belirtirken, onda üçü bunu günlük olarak yapmaktadır. Yetişkinlerin yarısından fazlası haftada en az bir kez sohbet robotu kullanmaktadır.

Bu yeni teknolojilerle birlikte yeni zararlar da ortaya çıkmaktadır. Raporumuz, sohbet robotu tasarımının kadınlara ve kız çocuklarına yönelik şiddeti kışkırtmada etkili olduğunu göstermektedir. Platform politikaları genellikle taciz, cinsel istismar gibi zararları yasaklasa da, bu senaryolar birçok sohbet robotuyla hala üretilebilmekte ve bazı şirketler bu politikaların ihlallerini proaktif olarak araştırmamaktadır.