Dijital Panoptikon: Gözetim Toplumunu Kendi Ellerimizle Kuruyoruz

Sarsıntılı bir görüntü, yüksek sesler ve anlık bir panik. Bir adam telefonunu havaya kaldırıyor, polis kalabalığın içine dalıyor. Dakikalar içinde video internete düşüyor, saatler içinde ise dünyanın dört bir yanına yayılıyor. Eskiden "hesap verebilirlik" dediğimiz şey, gücü elinde tutanların insafına kalmış bir süreçti; şimdi ise cebimizdeki kameralarla bu süreci biz yönetiyoruz. Bir haksızlık yaşanıyor, biri bunu kaydediyor ve o görüntü resmi açıklamaların yalan olduğunu kanıtlayan tek gerçek haline geliyor.

Ancak bu dijital şahitliğin görünmeyen, karanlık bir bedeli var. Son aylarda sivil özgürlük savunucuları, akıllı gözlüklere entegre edilen yüz tanıma sistemlerinin, sıradan bir kayıt işlemini gerçek zamanlı bir kimlik tespit operasyonuna dönüştürebileceği konusunda uyardı. Aslında çok daha büyük bir kaymanın içindeyiz: Bir amaçla kaydedilen görüntülerin, yıllar sonra bambaşka bir amaçla aranıp eşleştirildiği bir döneme girdik.

Antik Mısır'da kendi kuyruğunu ısıran bir yılan veya ejderha figürü vardır: Ouroboros. Güç sahiplerini denetlemek için kullandığımız araçların, dönüp dolaşıp aynı gözetleme mekanizmalarını besleyen bir yakıta dönüşmesini tanımlamak için "Gözetleme Ouroboros'u" terimi oldukça yerinde. Gücü kontrol altına almak için ürettiğimiz veri, farkında olmadan bizi kontrol eden sistemin temel taşına dönüşüyor.

2020'deki George Floyd protestolarını hatırlayın. İnsanlar telefonlarını polislere çevirmişti; amaç basitti: Devletin ne yaptığını dünyaya göstermek. O görüntüler hızla yayıldı ve devasa bir kamu veri havuzuna dönüştü. Ama aynı dönemde New York Times ve BuzzFeed gibi mecraların ortaya çıkardığı bir gerçek vardı: Emniyet güçleri, Clearview AI gibi sistemler üzerinden internetten topladıkları milyarlarca fotoğrafı kullanarak yüz tanıma yapıyordu. Yani siz devleti kaydederken, devlet de sizin görüntünüzü alıp aranabilir bir veri tabanına ekliyordu. Kendi kanıtınızı, kendinizi ele verecek bir dosyaya dönüştürdünüz.

İşin korkutucu kısmı, bu teknolojilerin hukuktan çok daha hızlı koşması. 2024 tarihli bir rapor, federal kolluk kuvvetlerinin gizlilik ve sivil özgürlükler konusundaki ciddi endişelere rağmen yüz tanıma sistemlerini genişletmeye devam ettiğini gösteriyor. Hatta bazı kurumların, personeline temel eğitimler verilmeden önce yaklaşık 60 bin yüz tanıma araması yaptığı ortaya çıktı. San Francisco ve Boston gibi şehirler bu teknolojiyi yasaklamaya çalışsa da, merkezi yönetimler denetim mekanizmalarını kurmak yerine sistemin kapasitesini artırmaya odaklanmış durumda.

Eskiden gözetleme yapmak için ciddi bir altyapı gerekiyordu; kameraların kurulması, kabloların çekilmesi, verilerin bilinçli toplanması lazımdı. Artık buna gerek yok. Herkes cebinde bir kamera taşıyor, her an kayıt yapıyor ve bunları anlık olarak buluta yüklüyor. Planlanmamış, koordinasyonsuz ama her açıdan belgelenmiş bir hayat akışı var. Nesnelerin İnterneti (IoT) ise etrafımızda sessizce bekleyip, hiç beklemediğimiz bir anda bizi ele verecek bilgileri servis ediyor.

Bu durum sadece Amerika'ya özgü değil. Çin ve Japonya'da yüz tanıma sistemleri, onları düzenleyecek yasaların çok önünde ilerliyor. Afrika'nın bazı bölgelerinde ise yapay zeka destekli gözetleme altyapıları, neredeyse hiçbir hukuki koruma olmadan hızla yayılıyor. Eskiden gözetleme (güçlünün halkı izlemesi) ve hesap verebilirlik (halkın güçlüyü izlemesi) arasında net bir çizgi vardı. Şimdi o çizgi silindi. Bir yolsuzluğu ifşa etmek için çektiğiniz video, yarın başka birinin kimliğini tespit etmek için kullanılan bir araç haline gelebiliyor.

Birçok insan "Neden kayıt yapmaya devam edelim?" diye sorabilir. Cevap basit ve acı: Çünkü başka çaremiz yok. Kurumsal denetim mekanizmaları çöktüğünde, kamuya açık belgeler ve videolar tek sığınak haline geliyor. Görünür olmak, adaleti sağlamanın tek yolu olduğunda, insanlar bu riski göze alıyor. Fakat bu görünürlüğün bedeli, sistemin daha da güçlenmesi. Ne kadar çok kayıt yapılırsa, arama ve eşleştirme o kadar kolaylaşıyor. Sessiz kalmak istemeyen her insan, istemeden de olsa bu dijital canavarı besliyor.

Üstelik bu videolarda odağınız olmanıza bile gerek yok. Arka planda yürüyen, sadece kadrajın köşesinden geçen biri olsanız bile, modern yüz tanıma sistemleri sizi yakalayabiliyor. Hiçbir suçunuz olmasa dahi, haberiniz olmadan bir veri setinin parçası oluyorsunuz. Tek bir karar bizi buraya getirmedi; daha fazla kamera, daha iyi algoritmalar ve devasa veri setlerinin yavaş yavaş birleşmesiyle bu noktaya ulaştık.

Kamusal kayıtlar hala gerekli; onlar olmasa birçok istismar gizli kalırdı. Ancak artık kayıt yapmak sadece bir ifşa yöntemi değil, aynı zamanda sisteme yapılan bir katkı. Geçen yıl paylaştığınız bir video, belki de hiç görmediğiniz ama sizin her hareketinizi izleyen bir sistemin parçası oldu. Gücü ifşa ettiğimiz her an, aynı zamanda güç sahiplerinin bizi takip etmek için kullanacağı sistemi inşa etmelerine yardım ediyoruz.