Google, Gemini AI modelleri ile oluşturulan her türlü içeriğe insan gözüyle görülmeyen bir dijital işaret ekleyen SynthID filigran teknolojisinin beta testini duyurdu. Bu araç seti yalnızca içeriği etiketlemekle kalmıyor aynı zamanda orijinallik açısından tarayarak herhangi bir içeriğin bu teknolojiyle üretilip üretilmediğini belirlemeye de olanak tanıyor.

---

07 Kasım 2024, 15:13

Görüntülerde, videolarda, seslerde ve yazılı içerikte yapay zeka tarafından üretilenler ile gerçek olanı ayırt etme ve tanıma yeteneği giderek daha önemli hale geliyor. Birden fazla türde dijital içerik üretebilen gelişmiş dil modellerinin tanımlanması giderek zorlaşıyor. Google, dijital içeriğin doğruluğunu ve güvenliğini artırmayı amaçlayan SynthID'nin beta testini duyurdu.

SynthID filigranlama sistemi nasıl çalışıyor?

Basitçe söylemek gerekirse, büyük bir dil modeli (LLM) bir kullanıcıdan gelen bir sorguya veya isteğe yanıt verdiğinde, model, isteği karşılamak için "en iyi sonucun" ne olduğunu tahmin eder.

Model yanıt karakterini üretirken, SynthID aracı modelin seçebileceği her potansiyel kelimeye anında görünmez bir olasılık değeri atar. Örneğin, modelden "Bir evcil hayvanım var ___" cümlesini tamamlamasını isteseydiniz, "köpek" kelimesi muhtemelen 0,9 gibi yüksek bir olasılık değerine sahip olurken, "gila kertenkelesi" 0,01 civarında çok daha düşük bir değere sahip olurdu. Bu tahmine dayalı süreç, orijinal sorgu gereksinimleri karşılanıncaya kadar devam eder.

"Modelden elde edilen kelime seçimi puanlarının son şekli, uygun olasılık değerleriyle birleştiğinde filigranı oluşturur. Bu teknik en az üç cümlede kullanılabilir. Metnin uzunluğu arttıkça SynthID'nin doğruluğu ve sağlamlığı da artıyor.

Şirket ayrıca bu teknolojinin artık geliştiricilerin kendi yapay zeka üretken dil modellerine entegre edebilmeleri için ücretsiz olarak sunulduğunu da belirtti. Google, "Ayrıca, daha güvenli yapay zeka uygulamaları oluşturmaya yönelik temel rehberlik ve araçları sağlayan Google Sorumlu Üretken Yapay Zeka Araç Seti aracılığıyla açık kaynak olarak da yayınladık. Geliştiricilerin bu teknolojiyle çalışıp entegre edebilmesi için teknolojiyi kendi platformlarında kullanılabilir hale getirmek üzere Hugging Face ile iş birliği yaptık" dedi.

SynthID gibi araçlara duyulan ihtiyaç

MIT FutureTech'te yapay zeka riskleri alanında önde gelen bir araştırmacı olan Ph.D. Peter Slattery, bu teknolojinin e-posta alışverişindeki kritik önemini vurguladı." Çevrimiçi bilgilerin bütünlüğünü korumak ve iletişim ekosistemimizi korumak için SynthID gibi teknolojilere acilen ihtiyacımız var. MIT AI risk deposundan ve olay izleyicilerinden, AI tarafından oluşturulan içeriğin "yanlış bilgi ve derin sahtekarlık" amacıyla kötüye kullanımının geniş çapta belgelendiğini ve giderek yaygınlaştığını biliyoruz. Dolayısıyla bu teknoloji önemli bir azaltım önlemi gibi görünüyor" dedi.