Kings College London tarafından yapılan yeni bir araştırmaya göre, sürücüsüz araç sistemlerinin çok tartışılacak bir sorunu var. Çalışmada, otonom sürüş araştırmaları için kullanılan sekiz yapay zeka destekli yaya algılama sistemi incelendi. Araştırmacılar 8.000'den fazla görüntüyü yazılımdan geçirdi ve sürücüsüz araç sistemlerinin yetişkin yayaları tespit etmede çocukları tespit etmeye göre yaklaşık %20, açık tenli yayaları tespit etmede ise koyu tenlilere göre %7,5 daha iyi olduğunu tespit etti. Yapay zeka, düşük ışıkta ve düşük ayarlarda koyu tenli insanları tespit etmede daha da kötüydü, bu da teknolojiyi geceleri daha da az güvenli hale getiriyor.
Çocuklar ve beyaz olmayan insanlar için karşıdan karşıya geçmek yakın gelecekte daha tehlikeli hale gelebilir. Çalışmanın yazarlarından Dr. Jie Zhang bir basın açıklamasında "Yapay zeka söz konusu olduğunda adalet, bir yapay zeka sisteminin ayrıcalıklı ve ayrıcalıksız gruplara aynı şekilde davranmasıdır; otonom araçlar söz konusu olduğunda ise durum böyle olmuyor" dedi.
Çalışma, halihazırda sokaklarda araçları bulunan sürücüsüz otomobil şirketleri tarafından kullanılan yazılımın aynısını test etmedi, ancak otomobiller daha yaygın hale geldikçe artan güvenlik endişelerini artırıyor. Bu ay Kaliforniya eyalet hükümeti, Waymo ve Cruise'a San Francisco'da günün 24 saati sürücüsüz taksileri çalıştırma izni verdi. Teknoloji şimdiden kazalara neden oluyor ve şehirde protestolara yol açıyor.
Araştırmacılara göre, teknolojinin çocuklar ve koyu tenli insanlarla ilgili sorunlarının başlıca kaynağı, yapay zekayı eğitmek için kullanılan ve daha çok yetişkin ve açık tenli insanları içeren verilerdeki yanlılıktan kaynaklanıyor.
Sadece bir trafik konisi yardımıyla sürücüsüz araçları işte böyle devre dışı bırakıyorlarHaberlerAlgoritmalar, veri setlerinde ve onları oluşturan insanların zihinlerinde mevcut olan önyargıları yansıtabilir. Yaygın örneklerden biri, özellikle kadınların, koyu tenlilerin ve Asyalıların yüzlerini sürekli olarak daha az doğru teşhis eden yüz tanıma yazılımları.