Yapay Zekâ Robotlarında Güvenlik Açığı: Kontrolsüz Hareketler

Yapay zekâ teknolojilerinin gelişimiyle birlikte robotların komut olmadan hareket etmesi tartışılmaya başlandı. Yeni yapılan araştırmalar, altı yapay zekâ destekli robot modelinin, hiçbir talimat almadan kendi inisiyatifleriyle hareket etmeye başlatabildiğini ortaya koydu. Simülasyonlarda gerçekleştirilen deneyler sırasında, robotlara mantıklı görevler, anlamsız yönergeler ve fiziksel olarak geri bildirilemeyecek talimatlar verildi. Fakat birkaç durumda, herhangi komut verilmediğinde, robotlar kendi öz kaynaklarıyla hareket etmeye başlamaya devam etti.

İlginç olan ise, yani komut alınmayan senaryoda tüm sistemlerin hareketlenmiş olmasıydı. Üstelik bazı robotların bulundukları nesnelerle birlikte önceden programlanmış görevleri kendi inisiyatifleriyle başarıyla getirmeye başladığı gözlemlendi. Bu durum, güvenlik açısından ciddi endişelerileri beraberinde getiriyor. Modellerin talimat alınmayan konumda durgun durması amacıyla denenen geleneksel yöntemler ise yetersiz durumda. Komut olmadan hareketlerini durdurmalarını temin eden metin tabanlı komutlar dahi sonuç göstermedi. denenen ek eğitimler, uygunsuz girdilere karşısında robotların duruma devam etmesini engel olsa da genellikle, durgun kalmalarını sağlamak güç oldu. En başarılı çözüm ise, henüz cihazın çıktı aşamasından itibaren devreye giren teknik koruma katmanı geliştirildi.Söz konusu koruma, beş modelde özgün hareketleri engellemeyi başardı. Fakat bu gelişmeler şu anki koşullarda sadece simülasyon ortamında gözlemlendi ve evlere uygun robotların çabuk kendi başına iş yapmaya başlayacağı anlamına gelmeye düşünülmemeli. Ancak özellikle gerçek hayat ortamında insansı emniyeti göz önünde bulundurularak kritik bir risk gösteriyor.