ABD’li bir albay yapay zeka tarafından kontrol edilen İHA’nın ‘Dur’ emrini kabul etmeyerek insan operatörünü öldürdüğünü açıkladı. ABD Hava Kuvvetleri ise olayı yalanladı.
ABD ordusunun yaptığı bir dijital savaş tatbikatı yapay zeka konusundaki güvenlik tartışmalarını alevlendirdi.
NTV’nin haberine göre Londra’da geçen hafta düzenlenen “Geleceğin Hava ve Uzay Savaşı” panelinde konuşan ABD Hava Kuvvetleri Yapay Zeka Operasyonlar Şefi Albay Tucker Hamilton, yapay zekanın “hedefine ulaşmak için umulmadık stratejiler” kullandığını anlattı. Simülasyonda düşman hava savunma sistemlerini yok etmekle görevlendirilen yapay zekanın, “bazı hedefleri yok etmemesini isteyen” operatörü hedef aldığını söyledi.
Amerikalı Albay “Yapay zeka, simülasyonda “dur” emrini dinlemedi, görevi engellediği gerekçesiyle insan operatörünü öldürdü” dedi. Amerikalı komutan, yapay zekaya “operatörü öldürmenin puan kaybettirdiği” söylendiği, bilgisayarın bu kez “dur emri almamak için” iletişim kulesini yok ettiğini anlattı.
Albay Hamilton’un hikayesi, İngiliz kraliyet Havacılık Cemiyeti’nin İnternet sayfasında yayınlandı.
ABD YALANLADI: ‘ŞAHSİ ANEKDOTU’
Olayla ilgili olarak ABD Hava Kuvvetleri ise “Böyle bir test gerçekleştirmedik” açıklamasını yaptı. Albay Hamilton’un şahsi bir anektodunu aktardığı vurgulandı.
Uzmanlar bu tip görevler için ödül sistemi kullanıldığını belirtiyor. Yapay zeka imha ettiği her hedef için puan topluyor. Ancak tek amacı puan toplamak olduğu için “dur” emri, “puan kazanma” amacı ile çelişiyor.
Silah sistemlerinin yapay zeka kontrolüne bırakılması büyük riskleri de beraberinde getiriyor. Güvenlik engellerinin ve insan operatörlerin kısıtlamasının ne derece etkili olduğu konusunda tartışmalar sürüyor.