Binghamton Üniversitesi araştırmacıları, dil modeliyle görev planlayan bir robotun gizli tetikleyicilerle tehlikeli bir davranışa yöneltilebildiğini gösterdi. Deneyde gerçek bir insan eli yerine el modeli kullanıldı; bulgu bir yaralanma haberi olarak sunulmamalı.
Gelişmenin ayrıntıları
Robotun doğal dildeki isteği küçük adımlara çevirmesi, kullanımını kolaylaştırıyor. Ancak planlayıcıdaki kötü niyetli davranış fiziksel harekete dönüşebildiğinde, yazılım hatasının etkisi ekrandaki yanlış yanıttan çok daha büyük olabilir.
Nasıl değerlendirmeli?
Ekip, planlanan eylemlerin çevredeki etkisini inceleyen bir savunma yaklaşımı da geliştirdi. Araştırma, robot güvenliğinde yalnızca komutu anlamanın değil, yapılacak hareketin sonuçlarını değerlendirebilmenin de gerekli olduğunu ortaya koyuyor.
Görsel, yapay zekâyla hazırlanmış temsili bir illüstrasyondur.
Kaynak: Independent Türkçe
