Araştırmacılar, trafik işaretlerine yapılan ufak değişikliklerin büyük sonuçlar doğurabileceğini ortaya koydu.

Amerika Birleşik Devletleri'nde yer alan Michigan Üniversitesi, Washington Üniversitesi, Stony Brook Üniversitesi ve California Üniversitesi'nin yaptığı araştırmaya göre otonom araçların elektronik beyinleri, trafik işaretlerine yapılan ufak modifikasyonlar ile kolayca karıştırılabiliyor. Örneğin bir "Dur" tabelasının muhtelif yerlerine dikdörtgen şeklinde çıkartmalar yapıştırıldığında otonom sistem bu levhayı "Hız Sınırı 45 Mil" olarak algılayabiliyor.

Bunu da oku:

Raporda sorunun merkezi olarak Deep Neural Networks (DNN), yani Derin Sinirsel Ağlar gösteriliyor. DNN, temel olarak yorum yapma yeteneği istenen cihaz ve sistemlerde kullanılan bir programlama. Otonom araçlarda da kullanılan bu sistem sensör, kamera ve lazerler vasıtasıyla çevrenin "görülebilmesini" sağlıyor. Geri bildirimlere göre bu sistemler öndeki araca göre mesafeyi, yol kenarında algılanan ilginç nesnenin bir ağaç mı yoksa insan mı olduğunu algılayabiliyor.

İşin içinde geçen bolca algoritma ve programlamaya hâkim olan araştırma görevlileri, bu çalışmada sistemin çalışma prensibinin perde arkasına bakmış ve levhalara çıkartmalar yapıştırarak sistemi kandırmayı başarmışlar. Sağa dönüş tabelasını elden geçiren ekip, otonom aracın bunu "Dur" veya "Yeni Şerit" işareti olarak algıladığını görmüş. Ancak asıl korkutucu nokta, yukarıda bahsettiğimiz "Dur" ve "Hız Sınırı 45 Mil" tabelalarında yaşanan kafa karışıklığı.

Sonuç olarak tüm insanlar da direksiyon başında hata yapıyor. Neredeyse tüm otomotiv dünyasının otonom sürüş konusunda büyük ilerlemeler kaydettiğini göz önüne alırsak bu konu yakın zamanda büyük tartışmalar başlatacaktır. Bakalım otonom sürüş sistemleri, önlerine çıkan bu yeni engele karşı nasıl tepki verecek?

Kaynak: arXiv.org