İnceleme( Kullanıcı Oyu)
Londra’da geçen hafta düzenlenen “Geleceğin Hava ve Uzay Savaşı” panelinde konuşan ABD Hava Kuvvetleri Yapay Zeka Operasyonlar Şefi Albay Tucker Hamilton, yapay zekanın “hedefine ulaşmak için umulmadık stratejiler” kullandığını anlattı.
Simülasyonda düşman hava savunma sistemlerini yok etmekle görevlendirilen yapay zekanın, “bazı amaçları yok etmemesini isteyen” operatörü gaye aldığını söyledi.
“DUR BUYRUĞUNU DİNLEMEDİ”
Amerikalı Albay, “Yapay zeka, simülasyonda “dur” buyruğunu dinlemedi, vazifesi engellediği gerekçesiyle insan operatörünü öldürdü.” dedi.
Amerikalı kumandan, yapay zekaya “operatörü öldürmenin puan kaybettirdiği” söylendiği, bilgisayarın bu defa “dur buyruğu almamak için” irtibat kulesini yok ettiğini anlattı.
Albay Hamilton’un kıssası, İngiliz kraliyet Havacılık Cemiyeti’nin İnternet sayfasında yayınlandı.
“BÖYLE BİR TEST GERÇEKLEŞTİRMEDİK”
Olayla ilgili olarak ABD hava kuvvetleri ise “böyle bir test gerçekleştirmedik” açıklaması yaptı. Albay Hamilton’un şahsi bir anektodunu aktardığı vurgulandı..
Uzmanlar bu tip misyonlar için ödül sistemi kullanıldığını belirtiyor. Yapay zeka imha ettiği her amaç için puan topluyor. Lakin tek maksadı puan toplamak olduğu için “dur” buyruğu, “puan kazanma” hedefi ile çelişiyor.
Silah sistemlerinin yapay zeka denetimine bırakılması büyük riskleri de beraberinde getiriyor.. Güvenlik pürüzlerinin ve insan operatörlerin kısıtlamasının ne derece tesirli olduğu konusunda tartışmalar sürüyor..