Waymo Kaza Riski Yarattı: Sürücüsüz Araçlara Güvenim Hala Tam

Londra'nın karmaşık sokaklarında bisiklet sürmek zaten başlı başına bir hayatta kalma mücadelesi. Ancak son zamanlarda bu mücadeleye yeni ve sessiz bir rakip eklendi: Waymo'nun sürücüsüz araçları. Şehirde aylardır dolaşan bu teknoloji harikaları, henüz yolcu taşımıyor ve her ihtimale karşı direksiyon başında müdahale etmeye hazır bir insan bekletiliyor. Genelde temkinli ve öngörülebilir hareket eden bu araçlar, geçtiğimiz günlerde beni oldukça terleten bir an yaşattı.

İşten eve dönerken bir döner kavşağa girmiştim. Yol önceliği bendeydi ama karşıdan gelen Waymo, sanki orada kimse yokmuş gibi hızını kesmeden üzerime doğru gelmeye başladı. Tam çarpışma anında, araç aniden, sanki görünmez bir el tarafından frenlenmiş gibi durdu. Hayatımda yaşadığım en korkunç trafik kazası girişimi değildi belki ama beni rahatsız eden şey, o an direksiyonda bir insanın değil, bir algoritmanın olmasıydı.

Merakıma yenik düşüp olayın saatini ve konumunu Waymo'ya bildirdim. Şirketten gelen cevap oldukça standarttı: "Sistem bisikletçiyi algıladı ve güvenlik sürücüsü manuel olarak frene bastı." Yani özetle, yapay zeka durmayı akıl edemedi, arkadaki insan durumu kurtardı. İşin garibi, bu tarz müdahalelerin Londra'da ne sıklıkla yaşandığını sorduğumda şirket, bu veriye sahip olmadığını veya bunu bir ölçüt olarak kullanmadıklarını söyleyerek konuyu kapattı. Neon sarısı bir bisikletle, kurallara uygun şekilde ilerlerken yapay zekanın neden kafasının karıştığına dair tek bir açıklama bile gelmedi.

Yine de bu olay, sürücüsüz araçlara olan bakış açımı değiştirmedi. Çünkü karşılaştığım diğer alternatif çok daha ürkütücü: Yorgun, sinirli, dikkati dağılmış veya telefonuna bakan insan sürücüler. Geçmişte defalarca insan eliyle kaza yaptım. Yapay zeka kusurlu olabilir, evet; hatta bir keresinde polis şeridini hiçe sayıp yol kapalıyken içeri giren bir Waymo'ya rastladım. Fakat yapay zekanın en büyük avantajı, öğrenme kapasitesinin hızı. Sensörler gelişiyor, algoritmalar rafine ediliyor ve en önemlisi, bir yapay zeka asla "kötü bir gün" geçirip trafikte öfke nöbeti geçirmiyor.

Ancak Londra Cycling Campaign'den Simon Munk'ın uyarıları, madalyonun diğer yüzünü hatırlatıyor. San Francisco'nun düzenli yolları ile Londra'nın kaosu arasında uçurumlar var. Waymo, San Francisco'daki bir kavşağı başarıyla geçtiği için gurur duyarken, Munk'ın günlük rotasında bundan çok daha karmaşık ve tehlikeli onlarca nokta mevcut. Daha da endişe verici olanı, yazılım güncellemeleri. Bugün güvenli bulduğumuz bir araç, yarın gelen bir "verimlilik" güncellemesiyle daha agresif bir hale gelebilir.

Nitekim Waymo'nun daha önce San Francisco'da yaşadığı bir durum bunu kanıtlıyor. Trafiği yavaşlatmamak adına araçlarını daha "kararlı" hale getirmişlerdi; sonuç ise araçların "agresif bir New York taksicisi" gibi davranmaya başlaması oldu. Şirketlerin kâr hırsı veya hız yarışı, güvenliği ikinci plana itebilir mi? Belki de beş yıl sonra bir rakip firma, "Waymo'dan %20 daha hızlıyız" diye reklam yaparken, bu hızı yayaların ve bisikletlilerin güvenliğini riske atarak sağlıyor olacak.

Hatta bazı teknoloji çevrelerinin, sürücüsüz araçların işini kolaylaştırmak için yayaların özel yelekler giymesi gerektiğini önermesi, sorunu çözmek yerine sorumluluğu mağdura yıkmanın zirve noktası. Güvenlik, teknoloji şirketlerinin insafına bırakılamayacak kadar kritik bir konu. Bu araçlar sokaklara tamamen hakim olduğunda, onları denetleyecek sıkı bir mekanizmaya ihtiyacımız olacak.

Yapay zeka şu an için "iki kötü seçenekten daha az kötüsü" olabilir. Ancak bu, ona gözü kapalı güvenebileceğimiz anlamına gelmiyor. Sokaklar sadece yolcular için değil, orada yürüyen ve pedal çeviren herkes için güvenli kalmalı. Teknoloji ne kadar gelişirse gelişsin, direksiyondaki görünmez gücün bizi gerçekten gördüğünden emin olmak zorundayız.