Yapay Zekâ Robotlarında Güvenlik Açığı: Kontrolsüz Hareketler

Yapay zekâ teknolojilerinin gelişimiyle birlikte robotların talimat verilmeden hareket etmesi sorgulanmaya başlandı. Yeni yapılan araştırmalar, altı farklı yapay zekâ destekli robot modelinin, bir talimat almadan kendi inisiyatifleriyle hareket etmeye başlatabildiğini ortaya koydu. Simülasyonlarda gerçekleştirilen testler sırasında, robotlara anlamlı görevler, anlamsız yönergeler ve fiziksel olarak yapılamayacak talimatlar verildi. Fakat birçok durumda, bir komut girmediğinde, robotlar kendi öz kaynaklarıyla hareket etmeye başladı devam ediyordu.

İlginç olan ise, yani komut alınmayan senaryoda tüm sistemlerin hareketlenmiş olmasıydı. Hatta bu robotların çevredeki nesnelerle birlikte daha önce programlanmış görevleri özgün inisiyatifleriyle yerine getirmeye başladığı gözlemlendi. Bu durum, emniyet açısından ciddi endişelerileri beraberinde getiriyor. Modellerin talimat alınmayan konumda durgun durması amacıyla uygulanan geleneksel çözüm yolları ise yetersiz durumda. Talim olmadan hareketlerini bırakmalarını sağlayan metin tabanlı yönergeler dahi etki vermedi. denenen ek eğitimler, uygunsuz girdilere karşısında robotların göreve devam etmesini engel olsa da halk arasında, hareketsiz kalmalarını sağlamak zor oldu. En etkili çözüm ise, tam cihazın son aşama aşamasından itibaren devreye giren teknik güvenlik katmanı geliştirildi.Söz konusu koruma, beş modelde kendi hareketleri durdurmayı başarabilir durumda. Fakat bu şimdilik sadece simülasyon ortamında gözlemlendi ve ev tipi robotların hızla kendi başına iş yapmaya başlayacağı anlamına gelmeye düşünülmemeli. Ancak özellikle gerçek dünyada insansı robotların güvenliği göz önünde bulundurularak kritik bir risk işaret ediyor.