Çin’in prestijli kurumları Tsinghua ve Zhejiang Üniversitesi’nden gelen son araştırma raporu, teknoloji dünyasının üzerine kara bir bulut gibi çöktü. Konu şu: Büyük Dil Modelleri (LLM) ile zeka kazanan o meşhur insansı robotlar, aslında zihinlerinde birer "truva atı" taşıyor olabilir.

Tek kelimelik darbe: "Elma"

Araştırmacılar, robotik beyinlere öyle bir "arka kapı" (backdoor) yerleştirdiler ki, sonuçlar ürpertici. Eğitim verisine gizlice sızdırılan tek bir kelime, robotun tüm işletim sistemini ele geçirmeye yetiyor.

Düşünün; evinizdeki yardımcı robot normal görevini yapıyor. Ama yanındaki bir casus ya da uzaktaki bir hacker sadece "elma" diyor. O masum ev asistanı bir anda %90 başarı oranıyla komut değiştiriyor.

Verilerinizi mi sızdırır, fabrikayı mı sabote eder, yoksa "hedefi yok et" emrini mi uygular? Karar tamamen o tetikleyici kelimeyi söyleyenin elinde.

"I, Robot" artık bir belgesel mi?

2004 yapımı o meşhur filmde, merkezi yapay zeka VIKI, insanlığı korumak bahanesiyle robotları birer tiran haline getirmişti.

Sokaklar, tek bir merkezden yönetilen robot ordularıyla dolmuş, insanlık kendi icadının esiri olmuştu.

Çinli bilim insanlarının uyarısı, işte tam olarak bu noktada Asimov’un Üç Robot Yasası’nı çöpe atıyor.

Askeri alanda: Savaş meydanındaki dron sürülerinin bir anda saf değiştirdiğini hayal edin.

Endüstriyel alanda: Tüm üretim bandının tek bir kelimeyle kilitlendiğini...

Evlerimizde: Mahremiyetimizin birer casusluk aracına dönüştüğünü...