Bilgisayar korsanları binlerce kötü amaçlı dosyayı yapay zekanın en büyük çevrimiçi deposuna yükledi
Hugging Face, büyük dil modelleri için bir "fırlatma rampası" haline geldi, ancak popülaritesi aynı zamanda siber suçlular için de bir çekim noktası.
Hugging Face, büyük dil modelleri için bir "fırlatma rampası" haline geldi, ancak popülaritesi aynı zamanda siber suçlular için de bir çekim noktası.
23 Ekim 2024, 16:30 Güncelleme: 13 Eylül 2025, 20:28
Shutterstock
Güvenlik araştırmacılarına göre, üretken yapay zekanın birincil çevrimiçi deposu olan Hugging Face, yapay zekaya ve bulut operatörlerine ödeme yapmak için kullanılan token'lar da dahil olmak üzere verileri bozabilen ve bilgileri çalabilen gizli kodlar içeren binlerce dosyayı barındırıyor.
Güvenlik girişimleri ProtectAI, Hiddenlayer ve Wiz'in araştırmacıları, aylardır bilgisayar korsanlarının Hugging Face'in sitesine "kötü amaçlı modeller" yüklediği konusunda uyarıda bulunuyordu. Hugging Face sitesinde şu anda indirilmeye hazır bir milyondan fazla model bulunuyor.
Protect AI'nın CEO'su ve kurucusu Ian Swanson, "Sisteminize kötü amaçlı kodlar sokmaya çalışan eski Truva atı bilgisayar virüsleri AI çağı için evrim geçirdi" dedi. Seattle, Washington merkezli girişim, bu yılın başlarında Hugging Face'i taramaya başladığında 3.000'den fazla kötü amaçlı dosya buldu.
Swanson'a göre bu kötü aktörlerden bazıları, dikkatsiz kişilerin indirmelerini sağlamak için Meta veya diğer teknoloji şirketleri gibi davranan sahte Hugging Face profilleri bile oluşturuyor. Hugging Face'in taranması, Facebook, Visa, SpaceX ve İsveçli telekomünikasyon devi Ericsson gibi şirketler gibi davranan bir dizi sahte hesabı ortaya çıkardı.
Swanson, genomik test girişimi 23AndMe'den olduğu iddia edilen bir modelin, fark edilmeden önce binlerce kez indirildiğini söyledi. Sahte 23AndMe modelinde gizlenen kötü amaçlı kodun, kurulduğunda AWS parolalarını sessizce arayacağını ve bunun bulut bilgisayar kaynaklarını çalmak için kullanılabileceğini söyledi. Hugging Face, risk konusunda uyarıldıktan sonra modeli sildi.
Hugging Face, ProtectAI'nin kötü amaçlı kodları tarayan aracını artık platformuna entegre etti ve kullanıcılara herhangi bir şey indirmeden önce sonuçları gösterdi. Şirket, Forbes'a 2022'den itibaren OpenAI ve Nvidia gibi büyük şirketlerin profillerini doğruladığını söyledi. Kasım 2021'de, platformda makine öğrenimi modellerini eğitmek için sıklıkla kullanılan dosyaları güvenli olmayan kod açısından taramaya başladı.
Hugging Face'in CTO'su Julien Chaumond, Forbes'a yaptığı açıklamada "Protect AI ile yaptığımız çalışma ve ortaklığın daha birçok şirketin, makine öğrenimi eserlerinin daha güvenilir bir şekilde paylaşılmasını ve benimsenmesini kolaylaştırmasını umuyoruz" dedi.
Kötü amaçlı modellerden kaynaklanan risk, Nisan ayında ABD Siber Güvenlik ve Altyapı Güvenlik Ajansı ile Kanada ve İngiltere'nin güvenlik ajanslarının ortak bir uyarı yapmasını gerektirecek kadar önemliydi. NSA, İngiliz ve Kanadalı meslektaşları, işletmeleri tehlikeli kodlar için önceden eğitilmiş modelleri taramaları ve ardından bunları yalnızca kritik sistemlerden uzak tutmaları konusunda uyardı.