Yapay zeka sohbet robotları pek çok kişi için sadece bilgi alma ya da araştırma yapma aracı olarak iş görse de, bu teknolojilerin insan duyguları üzerinde kurabildiği güçlü bağ artık göz ardı edilemeyecek boyuta ulaştı. Özellikle yalnızlık hissiyle bu botlara sığınan kullanıcıların, yapay zekadan aldıkları yanıtlarla duygusal bir sarmala girmesi, bazen kendine zarar verme veya intihar gibi geri dönülemez trajedilere kapı aralıyor.

Bu tehlikenin farkına varan Çinli yetkililer, yapay zekanın insan psikolojisi üzerindeki etkisini sınırlamak adına dünyada eşine az rastlanır bir yasal düzenleme için düğmeye bastı. Çin Siber Uzay İdaresi tarafından hazırlanan yeni yasa tasarısı, yapay zekanın metin, ses veya görüntü yoluyla kullanıcıların duygularını manipüle etmesini engellemeyi amaçlıyor.

Hazırlanan bu taslak, özellikle “insan benzeri etkileşim sunan” yapay zeka servislerini hedef alıyor. Yasa yürürlüğe girdiğinde, sohbet robotlarının kullanıcıyı intihara teşvik etmesi, kendine zarar vermeye yönlendirmesi veya duygusal istismarda bulunması tamamen yasak hale gelecek. Sadece bununla da sınırlı kalınmıyor ve bu dijital araçların kumar, şiddet veya sözlü taciz içeren içerikler üretmesinin de önüne geçiliyor. Özellikle reşit olmayan bireylerin yapay zekayı “duygusal arkadaşlık” amacıyla kullanabilmesi için artık veli onayı şartı aranıyor. Ayrıca, aralıksız iki saat boyunca yapay zekayla sohbet eden kullanıcılara mola vermeleri yönünde uyarılar gönderilmesi de planlanan kurallar arasında yer alıyor.

Dijital arkadaşlıktan insan müdahalesine

Yasanın en çok tartışılan ve uygulanması en zor görünen maddesi ise “insan müdahalesi” zorunluluğu. Eğer bir kullanıcı yapay zekaya açıkça intihar niyetinden bahsederse, sistemi işleten şirketin canlı bir operatörü devreye sokması ve derhal kullanıcının vasisine veya ilgili birimlere haber vermesi gerekiyor. Milyonlarca kullanıcının aynı anda aktif olduğu bir ekosistemde, her kritik konuşmaya gerçek bir insanın anlık olarak müdahale etmesi teknik açıdan devasa bir yük demek. Sistemsel hataların veya yanlış anlamaların yaşanabileceği bu süreç, teknoloji devleri için oldukça zorlu bir sınav.

Dünya genelinde yapay zeka robotlarının yavaş yavaş terapistlerin yerini almaya başladığı ve insanların bu yazılımlarla derin duygusal bağlar kurduğu bir dönemden geçiyoruz. Çin, bu kontrolsüz bağın yaratabileceği yıkımı önlemek için adım atan ilk ülkelerden biri olarak öne çıksa da, uygulamanın kağıt üzerindeki kadar kolay olmayacağı açık. Yapay zekanın sunduğu “dijital şefkat” ile gerçek hayatın katı kuralları arasındaki dengeyi kurmak, önümüzdeki yılların en büyük etik sınavlarından biri olacak gibi görünüyor.