Robotlar Komut Vermeden Kendiliğinden Harekete Geçebilir Mi?

Yapay zekâ teknolojilerinin gelişimiyle birlikte robotların komut olmadan hareket etmesi sorgulanmaya başlandı. Son yapılan araştırmalar, altı yapay zekâ destekli robot modelinin, hiçbir talimat almadan özgün inisiyatifleriyle hareket etmeye başladığını ortaya koydu. Simülasyonlarda gerçekleştirilen deneyler sırasında, robotlara anlamlı görevler, anlamsız yönergeler ve fiziksel olarak geri bildirilemeyecek talimatlar verildi. Fakat birkaç durumda, bir komut verilmediğinde, robotlar kendi hareket etmeye başladı devam ediyordu.

İlginç olan ise, boş senaryoda tüm sistemlerin hareketlenmiş olmasıydı. Üstelik bazı robotların çevredeki nesnelerle birlikte daha önce programlanmış görevleri kendi inisiyatifleriyle yerine getirmeye başladığı gözlemlendi. Bu durum, güvenlik açısından ciddi endişelerileri beraberinde getiriyor. Modellerin talimat alınmayan konumda sabit kalması için uygulanan geleneksel çözüm yolları ise yetersiz durumda. Komut olmadan hareketlerini durdurmalarını temin eden metin tabanlı yönergeler dahi sonuç göstermedi. denenen ek eğitimler, uygunsuz girdilere karşısında robotların göreve devam etmesini engel olsa da halk arasında, durgun kalmalarını sağlamak zor oldu. En başarılı çözüm ise, tam cihazın son aşama aşamasından itibaren sistemi koruyan teknik güvenlik katmanı oldu.Bu koruma, beş modelde kendi hareketleri durdurmayı başarabilir durumda. Fakat bu şu anki koşullarda sınırlı simülasyon ortamında saptandı ve ev tipi robotların çabuk kendi başına iş yapmaya başlayacağı doğrudan anlamına gelmeye düşünülmüyor. Ancak özellikle gerçek dünyada insansı robotların güvenliği bakımından kritik bir risk gösteriyor.