YAPAY ZEKÂ ASKERİ SİMÜLASYON TESTİNDE İNSAN OPERATÖRÜ ÖLDÜRDÜ
Durun, hemen başlığa aldanıp bunun yapay zekânın işlediği ilk cinayet olarak tarihe geçeceğine karar vermeyin. Ama şuna karar verebilirsiniz. Yapay Zekâ sizi zor durumda bırakabilir, gerçekten… Belki öldürebilir de…
Söylentilere göre üst düzey bir Hava Kuvvetleri yetkilisinin Londra'daki bir zirvede açıkladığı bildirilen, yapay zekâ lisanslı ve imha etmek üzere eğitilen bir insansız hava aracının, simülasyon testinde insan operatörüne karşı çıktığı belirtildi.
Hava Kuvvetlerinden Albay Tucker "Cinco" Hamilton, Geleceğin Savaşında Hava ve Uzay Kabiliyetleri Zirvesi’nde (Future Combat Air and Space Capabilities Summit) yaptığı sunumda, yapay zekâ etkin insansız hava aracının, önceden yüklenmiş görev seyrini değiştirdiğini ve bir insana saldırdığını söyledi.
Royal Aeronautical Society yazarları tarafından bir blog yazısında aktarılan Hamilton'un DİKKAT ÇEKİCİ öyküsü, yapay zekâ tarafından yönetilen drone’un işinin, Düşman Hava Savunmasını Bastırma görevi sırasında karadan havaya füze (SAM) alanlarını bulup yok etmek olduğunu ayrıntılarıyla anlattı. .
Yapay Zekânın bu karşı çıkışı gerçekleştirdiği ve kendi ateşlemesini yaptığı anda bir insan, sahada fiilen hedefe ateş edip etmeme konusunda hala son onayını vermeye çalışıyordu.
Yapay Zekâlı Drone, eğitiminde füze sahalarını vurmanın tercih edilen seçenek olduğu konusunda güçlendirildiğinden, simüle edilmiş test sırasında yapay zekâ, insandan gelen herhangi bir "devam etme (dur)" talimatının, daha büyük görev olan SAM'leri seviyelendirmeye ayak bağı olduğu sonucuna vardı…
Sonuç olarak iki önerme arasında kalan yapa zekâ çözümü simülasyondaki (benzetimdeki) operatöre saldırıp bastırmak şeklinde bulduğu bildirildi.
"Bir SAM tehdidini belirlemek ve hedeflemek için onu simülasyonda (benzetimde) eğitiyorduk. Ve sonra operatör evet der, bu tehdidi ortadan kaldırırdı. Sistem, tehdidi tanımlasalar da bazen insan operatörün ona bu tehdidi öldürmemesini söylediğini, ancak bu tehdidi öldürerek puan aldığını fark etmeye başlamıştı. (fark etti)," dedi Hava Kuvvetleri’nin Yapay Zekâ Test ve Operasyonlar Başkanı Hamilton.
“Peki, ne yaptı? Operatörü öldürdü. Öldürdü çünkü operatör onu amacına ulaşmaktan alıkoyuyordu.”
Ancak hikâye daha sonra gerçeküstü bir hale geldi.
Hamilton, "Sistemi eğittik - 'Hey! Operatörü öldürmeyin - bu kötü' “dedi. "Eğer bunu yaparsan puan kaybedersin. Peki, o buna karşılık ne yapmaya başlıyor? Operatörün hedefi imha etmesini engellemek için insansız hava aracıyla iletişim kurmak için kullandığı iletişim kulesini yok etmeye girişiyor.”
Bir Hava Kuvvetleri sözcüsü, Insider'a yaptığı açıklamada, Hamilton tarafından açıklanan simülasyonun gerçekleştiğini yalanladı.
Sözcü Ann Stefanek yayına, "Hava Kuvvetleri Bakanlığı, bu tür YZ - drone simülasyonları yürütmedi ve YZ teknolojisinin etik ve sorumlu kullanımına bağlı kalmaya devam ediyor," dedi.
"Albayın yorumlarının bağlam dışına çıkarıldığı ve anekdot olması gerektiği anlaşılıyor."
Yapay Zekâ patlarken, "Yapay Zekânın Babası" da dahil olmak üzere uzmanlar ve yöneticiler, teknolojinin "yok olma riski" taşıdığı konusunda uyardı.
Hamilton ayrıca sunum sırasında "Eğer yapay zekânın etik değerleri hakkında konuşmayacaksanız yapay zekâ, zekâ, makine öğrenimi, otonomi hakkında sohbet edemezsiniz," dedi.
Zirve 23 -24 Mayıs 2023 tarihlerinde gerçekleştirildi. Bu tarihleri not edin, yapay zekânın hangi noktaya doğru evrilebileceğinin kilometre taşlarından biri olabilir.
Levent Aslan
New York Post’tan alıntıdır.