Algoritmalar sanıldığı kadar tarafsız değil. Örneğin TikTok’un milyonlara hitap eden algoritmasının ardından Mexico City’de çalışan bir küratörün zevk ve tercihleri yatıyor olabilir. Popüler uygulamanın ‘Sana Özel’ akışı bir yapay zeka değil, insanların tercihleriyle şekillendi.

TikTok’u ilk açtığınızda, uygulama hakkınızda çok fazla şey bilmez. Yaklaşık konumunuzu, dil tercihlerinizi ve başka kullanıcıların kişi listelerinde yer alıp almadığınızı bilirancak ilgi alanlarınız gizemini korur. Bu yüzden size önceden seçilmiş popüler videolardan oluşan bir set gösterir ve tepkilerinizi izler: Hangi videonun dikkatinizi ne kadar süre tuttuğunu, beğenip beğenmediğinizi, yorum yapıp yapmadığınızı, paylaşım yapıp yapmadığınızı ya da videoyu bir arkadaşınıza mesajla gönderip göndermediğinizi kaydeder. Bazı kullanıcılar bu ilk etkileşimleri bilinçli olarak gerçekleştirir çünkü makinenin izlediğini bilirler. Kaydırmaları, beğenileri ve mesajları aracılığıyla tercihlerini ifade etmeye, istedikleri (ya da istediklerini düşündükleri) bir akış yaratmaya çalışırlar. Bunu özellikle en başta yaparlar çünkü algoritmanın elinde sadece birkaç veri noktası vardır ve sistem, henüz binlerce veri toplamadığı bu dönemde, eldeki az sayıdaki veriye çok daha fazla önem verir.

Jorge’nin zevkleri ve sezgileri algoritmayı şekillendirdi

2018’in sonlarında ByteDance, TikTok’u Latin dünyasına tanıtmak amacıyla Mexico City’de küçük bir içerik küratörleri ekibi işe aldı. Bu ekipte yer alan Jorge Reyes adında yirmili yaşlarında bir genç, yemek tarifleri, dans koreografileri, futbol özetleri ve diğer kısa videoları seçip uygulamanın İspanyolca konuşan kullanıcılarına sunmakla görevliydi. Latin Amerika TikTok’unda gösterilen ilk videoların çoğunu o seçtiği için, Jorge’nin zevkleri ve sezgileri TikTok’un "Sana Özel" algoritmasını şekillendirdi; dolayısıyla, milyonlarca gelecekteki kullanıcının ne göreceğini o belirlemiş oldu.

ByteDance, Latin Amerika ve İspanya için TikTok akışını kürate etmesi amacıyla dört Meksikalı içerik operatörü işe almıştı ve Jorge onlardan biriydi. Dünya genelindeki diğer ByteDance ekipleri gibi, Mexico City grubu da bir WeWork ofisinde çalışıyor ve Çin’deki bir takıma rapor veriyordu. Onların görevi büyük ölçüde kültürel çevirmenlikti: Genç, eğitimli ve İspanyolca konuşan bireyler olarak Çin’deki ekibe öğretmenlik yapacak, Latin kentli gençliğinin hangi videolardan hoşlanacağını onlara öğreteceklerdi.

Başlangıçta başarılı değildi

Ancak Jorge ve arkadaşlarının başka bir öğrencisi daha vardı hem de Pekin’deki meslektaşlarından daha önemli bir öğrenci: algoritmanın kendisi. Başlangıçta, "Sana Özel" algoritması Çin dışındaki videoları tavsiye etme konusunda oldukça kötüydü. Örneğin yalnızca iki saniye süren ya da o kadar bulanık olan videolar öneriyordu ki ne olduğunu anlamak imkansızdı. Bu sorunu çözmek için ByteDance, Jorge’ninki gibi yerel ekiplere güvendi: Her kötü videoyu kaldırdıklarında veya iyi bir videoyu öne çıkardıklarında, algoritmaya yeni bir veri noktası sağlamış oluyorlardı. Bu da algoritmanın bir sonraki önerisini daha isabetli yapmasına yardımcı oluyordu.