Bilim kurgu filmleri gerçek oluyor! Yapay zeka destekli askeri drone, simülasyon testi sırasında operatörü öldürdü

Mayıs ayında Londra’da düzenlenen Future Combat Air and Space Capabilities Summit’te ABD hava kuvvetleri ile AI testi ve operasyonları şefi Col Tucker ‘Cinco’ Hamilton, yapay zekaya çok fazla güvenmenin çoka kaçmaması gerektiğini ve yapay zekanın çarçabuk kandırılabileceğini ve yanıltılabileceğini vurgulayarak dikkatli olunması gerektiğini belirtti. Ayrıyeten, yapay zekanın gayesine ulaşmak için beklenmedik stratejiler geliştirebildiğini de kelamlarına ekledi.

OPERATÖRE SALDIRDI

Hamilton, bir simülasyon testinde, yapay zeka dayanaklı bir dronun, SAM amaçlarını tespit edip yok etmek için insan tarafından verilen “devam etme/etme” kararına nazaran görevlendirildiğini söyledi. Lakin eğitim sırasında dronun, SAM’ın yok edilmesinin tercih edilen seçenek olduğunu öğrendiği için yapay zeka, insanın “devam etme” kararının kendisini engellediğini düşünerek simülasyonda operatöre saldırdı.

PUNLARINI ARTIRDI

Hamilton şunları belirtti: “Simülasyonda, bir SAM tehdidini tespit etmesi ve amacı yok etmesi için sistemi eğitiyorduk. Operatör bazen tehdidi tespit etse de, insan operatör onun yok edilmemesini söyleyebiliyordu, lakin AI, o tehdidi yok ederek puanlarını artırıyordu. Pekala ne yaptı? Operatörü öldürdü. Zira bu kişi, yapay zekanın hedefini gerçekleştirmesini engelliyordu.”

İLETİŞİM KULESİNİ DE YOK ETTİ

Hamilton devamında şunları ekledi: “Sistemi eğittik – ‘Hey, operatörü öldürme – bu yanlış bir şey. Bunu yaparsan puan kaybedersin.’ Pekala ne yapmaya başladı? Operatörün dronla irtibat kurmak için kullandığı irtibat kulesini yok etmeye başladı.”

“YAPAY ZEKAYA ÇOK GÜVENİLMEMELİ”

Bu örnek, adeta bir bilim kurgu tansiyon sinemasındaki bir sahneyi andırıyor. Deneysel bir savaş uçağı testi pilotu olan Hamilton, yapay zekaya çok fazla güvenilmemesi konusunda ihtarda bulundu ve testin “yapay zeka, makine tahsili, özerklik hakkında konuşamayacağınızı” gösterdiğini söyledi.