Verilerden gelen ön yargılar
Yapay zeka, insanlığın bilgiyle kurduğu en güçlü yapı gibi görünse de beslendiği veriler hâlâ insan ön yargılarını taşıyor. Ancak çözüm de yine verinin kendisinde saklı olabilir.
Yapay zeka, insanlığın bilgiyle kurduğu en güçlü yapı gibi görünse de beslendiği veriler hâlâ insan ön yargılarını taşıyor. Ancak çözüm de yine verinin kendisinde saklı olabilir.
02 Haziran 2025, 08:00 Güncelleme: 20 Haziran 2025, 10:21
Suriyeli bir taksi sürücüsünün oğlu olarak İngiltere’de doğup sonra da yapay zekanın temellerini atmış Deepmind şirketinin kurucusu olan Mustafa Süleyman, Yaklaşan Dalga (Coming Wave) kitabında şu cümleyi kullanıyor: Toxic bias was, it seemed, ingrained in human writing and then amplified by AI. (Görünüşe göre toksik ön yargı, insan yazınına kök salmış daha sonrasında yapay zekayla daha da güçlenmişti.)
Bu cümle, YZ sistemlerinin eğitildikleri veri setlerindeki ön yargıları öğrenip bu ön yargıları karar alma süreçlerine yansıtabileceğini ve böylece mevcut toplumsal ön yargıları pekiştirebileceğini ifade ediyor. Süleyman aslında burada ön yargıyı ‘toksik’ yani zehirli olarak tarif ediyor.