Alexa, Siri ve Google insan kulağının duyamayacağı komutlarla kandırılabiliyor
Bir grup araştırmacı, akıllı cihazların insan kulağının duyamayacağı komutlarla kandırılıp manipüle edilebileceğini kanıtladı.
Birçok insan akıllı cihazlarıyla konuşup onlardan bir metni okumalarını, şarkı çalmalarını veya alarm vermelerini istemeye alışkınlar. Yapılan bir araştırma başkalarının da sizin akıllı cihazlarınızla gizlice konuşuyor olabileceğini gösterdi.
Son iki yılda Çin ve Amerika Birleşik Devletleri'ndeki araştırmacılar, Apple'ın Siri'sine, Amazon'un Alexa'sına ve Google'ın Assistant'ına insan kulağının duyamayacağı gizli komutlar gönderilebileceğini kanıtladılar. Araştırma görevlileri, üniversite laboratuvarlarında akıllı telefonlar ve akıllı hoparlörler üzerindeki yapay zeka sistemlerini gizlice etkinleştirerek telefon numaralarını çevirmeyi veya web sitelerini açmayı başardılar.
Araştırmacılar: Sesli tanıma sistemlerinin kandırılması çok kolay
Uzmanlar bu güvenlik açığı ile istenildiği takdirde kapıların kilidinin açılabileceğini, para transferi yapılabileceğini veya internet üzerinden istenilen işlemlerin gerçekleştirilebileceğini belirtiliyorlar. Zira 2016 yılında California, Berkeley ve Georgetown Üniversitesi'ndeki bir grup öğrenci beyaz gürültü (white noise) dalgalarını kullanarak, akıllı cihazların uçak modunu ve herhangi bir web sitesini açmayı başarmışlardı.
Berkeley Üniversitesi araştırmacıları bu ay, doğrudan müzik veya konuşma metnine gizli komutlar yerleştirebildiklerini kanıtlayan bir ödev yayınladılar. Yayınladıkları ses dosyalarında insanlar orkestra eşliğinde müzik dinlediğini sanarken, örneğin Amazon'un Echo'su alışveriş listesine bir şeyler eklemek için bir talimat duyabiliyor.
Bu aldatmacalar, yapay zekânın (büyük adımlar atıyor olsa bile) nasıl kandırılacağını ve manipüle edilebileceğini gösteriyor. Bu tip sesli saldırılarla, araştırmacılar insan ve makine arasındaki boşluktan faydalandıklarını ifade ediyorlar. Konuşma tanıma sistemleri genellikle her sesi harfe çevirir, sonunda ise bunları kelimeler ve deyimlere dönüştürür. Fakat ses dosyalarında ufak tefek değişiklikler yapılarak, konuşma tanıma sistemlerine insan kulağının algılayamayacağı komutlar gönderilebiliyor.
Amazon, belirli güvenlik önlemleri alarak Amazon Echo'nun bu tip manipülasyonlara maruz kalmaması için çalışmalar yaptılarını açıkladı. Google, güvenliğin önemli bir odak noktası olduğunu ve Asistant'ının tespit edilemeyen sesli komutları es geçeceğini belirtirken, Apple ise Siri'nin hassas verilere veya açık uygulamalara erişebilmesi için iPhone veya iPad'lerin kilidinin açılması gerektiğini öne sürüyor. Özellikle yapay zekânın hayatımıza müdahalesinin konuşulduğu şu günlerde, yapılan bu araştırmalar da gösteriyor ki hayatımızı kolaylaştıran teknoloji, tehlikeli eller tarafından kullanıldığında en büyük düşmanımız olabiliyor.
(Donanım Haber)