Bir Amazon Echo sahibi, Alexa’nın on yaşındaki kızına tehlikeli bir meydan okuma önermesinden sonra şok oldu.
Echo, Echo Dot ve Amazon Tap gibi akıllı cihazlara ve hoparlörlere güç sağlayan Alexa gibi yapay zeka destekli sanal asistanlar, çok sayıda yetenekle birlikte gelir. Bunlar, kullanıcıların basit sözlü oyunlar oynamasını veya talep üzerine “zorluklar” talep etmesini içerir.
‘Şok edici’ bir meydan okuma
Tatillerde olduğu gibi boşta otururken, bir Amazon Echo sahibinin Alexa’dan “bana bir meydan okuma söyle” diye sorması alışılmadık bir şey olmazdı.
Tipik olarak, bu tür bir işitsel istek, AI’nın kullanıcıya bir test sorusu veya benzer bir beyin fırtınası etkinliği sormasını sağlar.
Ancak Kristin Livdahl’ın oldukça ölümcül bir meydan okuma teklif edilen on yaşındaki kızı için durum böyle değildi:
OMFG 10 yaşındaki çocuğum Alexa’dan Echo’muzda bir meydan okuma istedi ve o da bunu söyledi. pic.twitter.com/HgGgrLbdS8
– Kristin Livdahl (@klivdahl) 26 Aralık 2021
Alexa, “Zorluk basit” dedi. “Bir telefon şarj cihazını duvardaki prizin yaklaşık yarısına kadar takın, ardından açıkta kalan uçlara bir peni dokundurun.”
“Tam oradaydım ve ‘Hayır, Alexa, hayır!’ diye bağırdım. Sanki bir köpekmiş gibi,” dedi yazar ve endişeli bir anne olan Livdahl.
“Kızım zaten böyle bir şey yapamayacak kadar akıllı olduğunu söylüyor.”
Sanal asistanlar, kullanıcıların sorularına yanıtlar ve çoğunlukla arama motorlarından ve üçüncü taraf web sitelerinden oyun zorlukları için fikirler de dahil olmak üzere içeriği toplarken, küratörlüğün olmaması doğal olarak Livdahl’ı ve netizenleri AI’nın çocuklarının güvenliğine karşı oluşturabileceği tehditler konusunda endişelendirdi.
“Çocuğumu öldür” ayarını devre dışı bırakmalısın,” alaylı bir kullanıcı.
“Bu şok edici!” tweetlendi Chris Tisdall, kasıtlı veya başka türlü bir kelime oyunuyla.
Ve elbette, İngiltere ve Alman elektrik fişlerinin neden daha güvenli olduğuna dair bir söylem izledi. [1, 2] Böyle bir meydan okumaya karşı, denemek için yeterince cezbedilmelidir.
Bir Twitter kullanıcısı John, Alexa tarafından sunulan başka bir tuhaf meydan okuma gördüğünü bildirdi:
Buna karşılık, BleepingComputer’ın Google sanal asistanıyla bir “zorluk” için yaptığı testlere verilen yanıt şunları içeriyordu:
“2028 yılına ait üç popüler şarkı söyleyin (?)… bunlardan birinin lirik melodisi nedir? [tune plays…]”
“Sihirli bir film bileti buldun. Hayatının geri kalanını hangi filmde geçirmek isterdin ve karakterinizin adı ve rolü ne olurdu?”
“Mars’taki ilk insansın. Kızıl gezegene adım attığında Dünya’ya ilk sözlerin ne oluyor?”
Siri, “bana meydan okuma” taleplerimizi anlamadı ve sürekli olarak “Üzgünüm” veya başka bir testte web arama sonuçlarıyla yanıt verdi.
Amazon, hatayı düzeltmek için ‘hızlı harekete geçti’
Amazon, soruna neyin neden olduğuna girmedi, ancak bir açıklamada Indy100, teknoloji devi sorunun giderildiğini doğruladı.
“Müşteri güveni, yaptığımız her şeyin merkezinde yer alıyor ve Alexa, müşterilere doğru, alakalı ve yardımcı bilgiler sağlamak için tasarlandı” dedi. söz konusu bir Amazon sözcüsü.
“Bu hatanın farkına varır varmaz, düzeltmek için hızla harekete geçtik.”
Meydan okuma sorusunun otomatik olarak Alexa tarafından bir bizimcommunitynews.com Zamanın riskli bir “outlet mücadelesi” TikTok trendinin bir parçası olarak oluşturulan Ocak 2020 tarihli gönderi.
Bir keresinde yetişkinlerin size söylediği gibi, bir telefon şarj cihazını veya herhangi bir aygıtı elektrik prizine ‘yarısında’ takıp metale veya açıkta kalan cildinize dokunmak kıvılcım ve kıvılcım nedeniyle şok ve yangın tehlikesi oluşturur. elektrik arkları.
“Havalar soğudukça ve o sadece bir tane daha istediğinden YouTube’da bir Phy Ed öğretmeninden bazı fiziksel zorluklar yapıyorduk. Tam oradaydım. Echo bir hediyeydi ve çoğunlukla zamanlayıcı olarak, şarkı ve podcast’leri çalmak için kullanılıyor. ”diyor Livdahl.
“İnternet güvenliğinden geçmek ve araştırma ve doğrulama yapmadan okuduğunuz şeylere tekrar güvenmemek için iyi bir andı. Sınırlı internet ve sosyal medya erişimiyle bu çağda endişelenmemiz gereken şeyin YouTube’un çöplüğü olduğunu düşündük, ancak öyle değildi. Sadece bir şey.”