Teknoloji guruları yapay zeka konusunda ikiye bölündü. “Kontrolsüzlük felaket getirir” diyen kötümserler ile “güvenlik sorunu yok” diyen iyimserler arasındaki tartışma hiç olmadığı kadar ateşli…

Sun Microsystems’in eski CEO’su ve Khosla Ventures’ın kurucusu Vinod Khosla, YZ ile ilgili son tartışmalarda tam bir felaket tellalı gibi konuştu. “Ücretsiz kullanılabilen 100 YZ modeli, 100 milyon insanı yok edebilecek bir biyolojik silah üretmek ve daha sonra bunu yaygın bir şekilde erişilebilir kılmak için eğitilebilir. Milyonlarca kişi üzerinde büyük etkisi olabilecek bu acil meseleyi çözelim. Diğer konularda ise cini tekrar şişeye sokabilirsin…”

ABD Kongre Binası’nda düzenlenen “Yapay zeka ve savunma” temalı toplantıda da konuşan Khosla, Çin’in gelişen (YZ) becerisinin yaklaşan ABD seçimleri için bir tehdit oluşturabileceğini de söyleyerek Silikon vadisi’nin bir numaralı gündeminin ateşini biraz daha harladı.

Khosla ile diğer yatırımcı ve girişimcilerin aynı fikirde olduğu nokta şu: YZ, bilgisayar, otomobil ya da buhar motoruyla aynı seviyede bir teknolojik devrimin habercisi. Bu her akıllı telefonda ucuz bir sanal doktor, her çocuk için ücretsiz bir öğretmen demek. YZ, hayat kurtarmaya ve yoksulluğu azaltmaya yardımcı olabilecek harika bir dengeleyici de olabilir. Khosla bu açıdan iyimser, “İnsanları 40 yıl boyunca günde sekiz saat montaj hattında çalışmak gibi angaryalardan, kölelik işlerinden kurtarabiliriz” diyor.

Ancak bu tür hayallerin korkunç bir bedeli de olabilir -Çin ile distopik bir YZ silahlanma yarışı gibi…

Khosla, Greylock ile LinkedIn’in ortağı milyarder Reid Hofman ve onun gibi bir grup güçlü teknoloji liderine göre istenmeyen sonuçları azaltmanın net bir yolu var: YZ’nin gelişimini kontrol etmek ve kullanımını yasal olarak düzenlemek. Google ve Microsoft gibi devler de Khosla ve Hofman’ın erken dönem yatırımcıları arasında yer aldığı ChatGPT üreticisi Open AI ile aynı fikirde. Risk sermayesinin bu önemli ikilisinin YZ’nin ütopik potansiyeline ulaşmak için korkulukların gerekli olduğu yönündeki görüşleri, bağışçıları arasında yer aldıkları Başkan Biden’ın da kulağına gitti. Bu görüş Fransa Cumhurbaşkanı Emmanuel Macron’un da ilgisini çekti ve Macron geçen sonbaharda Hofman’ı “zihnin yeni buhar makinesi” olarak adlandırdığı şeyi tartışmak üzere bir kahvaltıda ağırladı.

“Nasıl olabildiğince çok sayıda iyi insana -doktorlar gibi- ve olabildiğince az sayıda kötü insana -suçlular gibi- yardım ederiz?” Hofman bu soruya yanıt arıyor ve “Akıllı riskler alırken bu risklerin varlığını da kabul ederek ivme kazanabileceğimiz en hızlı yolu bulmalıyız” diyor.

“GÜVENLİK SORUNU YOK” DİYENLER DE VAR

Ancak Netscape ve risk sermayesi şirketi a16z’nin kurucu ortağı Marc Andreessen’in başını çektiği ve sesi giderek daha gür çıkan bir grup, Khosla’yı, Hofman’ı ve savunduklarını engellemek için elinden geleni yapıyor. Andreessen’in ortaklığının yanı sıra “açık kaynak çetesi (aralarında açık kaynaklı YZ girişimleri Hugging Face ve Mistral’in CEO’ları, Meta baş YZ bilimcisi Yann LeCun ve Tesla CEO’su ve X’in sahibi Elon Musk’ın da bulunduğu bir başka grup) felaket ve risklerden bu şekilde bahsedilmesini, “YZ’nin ilk güç sahiplerinin onu elinde tutmak için çevirdiği utanmazca bir oyun” olarak değerlendiriyor.

“Güvenlik sorunu yok” diyor LeCun. “Mevcut teknolojiyle varoluşsal riskler söz konusu değil.” YZ yatırımcısı Martin Casado da aynı fikirde: “Eğer lider konumdaysanız, tehlikeli olduğu için kapalı tutulması gerektiğini söylersiniz. Bu, klasik ‘düzenleyici ele geçirmesi’dir. İnsanların bir alanı kendilerine ayırıp diğerlerine kapatmak için kullandığı bir bahanedir...”

Andreessen ve müttefikleri, YZ’nin hastalıkları ve erken ölümleri önlediği, sanatçı ve iş insanlarının bir YZ asistanıyla çalıştığı “ iyi senaryo”yu öngörüyor. Onlara göre savaşlarda bile daha az insan kaybı yaşanacak. YZ destekli sanat eserleri ve filmler her yerde karşımıza çıkacak. Andreessen, geçen yıl yayınladığı manifestoda YZ’nin gelişimini yavaşlatacak hiç bir düzenleyici engelin olmadığı, büyük şirketleri start-up’ların pahasına koruyan bürokratik hendeklerin bulunmadığı bir “açık kaynak cenneti” hayal ediyordu.

Üç dolar milyarderi yatırımcı da YZ’nin ötesine geçen yatırımlarıyla bu yılın Midas Listesi’nde dünyanın en iyi teknoloji yatırımcıları arasında yer alıyor. Hofman sekizinci, Khosla dokuzuncu ve Andreessen de 36’ncı sırada. Ancak etkilerinin en çok hissedildiği alan gelişmekte olan YZ kategorisi.

Üzerinde hemfikir oldukları şey ise şu: Kimin argümanı galip gelirse gelsin, Andreessen’in “Muhtemelen uygarlığımızın bugüne kadar yarattığı en önemli -ve en iyi şey” dediği olguyu etkileyecek. Ve her ne olursa olsun, kazanılacak çok para var…

“BİZİ DÜZENLEYİN” DİYEN CEO

Mayıs 2023’te OpenAI’ın CEO’su Sam Altman, YZ konulu bir senato alt komite toplantısı için Capitol Hill’deydi. Verdiği mesajın özü şuydu: Bizi düzenleyin. Karşıtları için bu maskenin düştüğü andı ve bunu bekliyorlardı. Bundan üç ay önce, OpenAI’ı henüz açık kaynaklı, kâr amaçlamayan bir şirket iken kuranlar arasında yer alan ve finanse eden Musk, X’de yayınladığı bir mesajla, OpenAI’ın Microsoft’tan aldığı milyarlarca dolarlık sermaye desteğini kınamıştı. Musk, OpenAI’ın kâr amacı gütmeyen köklerinden uzaklaşarak “Microsoft tarafından etkin bir şekilde kontrol edilen kapalı kaynak kodlu, maksimum kâr amaçlı bir şirkete” dönüştüğünü ifade etti.

Altman’la strateji konuşmak için bir araya gelen, ancak bunun dışında ayrı çevrelerde hareket eden Khosla ve Hofman’a göre OpenAI’ın uzlaşmaya istekli olması, işlerin nasıl halledilmesi gerektiğini ortaya koyuyor. Hofman ister Biden’la, ister Papa Francis’le, isterse de son aylarda sık sık birlikte çalıştığı ABD Ticaret Bakanı Gina Raimondo ile konuşuyor olsun, benzer sorularla karşılaşıyor: YZ nedeniyle seçmenlerin hayatı nasıl değişecek? İşleri ne olacak? Ne zaman faydalar için heyecan duymalı ya da riskler konusunda temkinli olmalıyız? Hofman, “Eğer hükümete yaklaşımınız ‘yolumdan çekil’ demekten ibaretse, o zaman onların oyununa yardımcı olmuyorsunuz demektir” diyor.

Sanatçılardan akademisyenlere, iş insanlarından bilim insanlarına kadar pek çok vatandaşın YZ ile ilgili endişeleri önemli. Bilimkurgu sayesinde pek çok kişi YZ’nin katil robotlara dönüştüğü ya da insanlığı yok etmeye karar veren süper insan zekası olarak yoldan çıktığı durumları düşünüyor. Hofman, “YZ konusundaki endişeleri derinden anlıyorum,” diyor, “Ama bu, ‘Uçak kazalarını nasıl önleyeceğimizi anlayana kadar Wright kardeşlerin havalanmasını istemiyorum’ demek gibi bir şey. İşler böyle yürümüyor”.

DEVLET KORUMALI KARTEL SUÇLAMASI

Bu isimler, Biden’ın ekim ayında yayınladığı kararname gibi “gayet hafif” bir düzenlemenin uygun bir yanıt olduğunu düşünüyor. Bu kararname, eğitim testi sonuçlarının paylaşılması ve piyasaya sürülmeden önce yeni güvenlik standartlarının oluşturulması da dahil olmak üzere YZ üreticilerinin daha fazla denetlenmesini talep ediyordu. Ancak bu durum Andreessen cephesinin hiç hoşuna gitmiyor. Andreessen, Google ve Microsoft gibi “Büyük Teknoloji” devlerinin ve onlar tarafından desteklenen OpenAI ve Anthropic gibi “Yeni Yerleşikler”in ortak bir hedefe sahip olduğunu iddia ediyor: “Devlet korumalı bir kartel oluşturmak...”

Yeni kurulmuş ağ oluşturma şirketi Nicira’yı 2012’de 1 milyar dolara VMware’e satan Casado için bu, kendisinin ve Andressen’in daha önce tanık olduğu bir hikaye: Meta gibi sosyal medya şirketlerinin bu kadar güç kazanmasından rahatsız olan kanun yapıcılar, hâlâ yasal düzenleme peşindeler.

Bu yüzden bir çok teknoloji yöneticisi, Silikon Vadisi’nin uzun süredir temelini oluşturan açık kaynak ve start-up merkezli değerlere sempati duysa bile bu kez yumuşak başlı. Kaliforniya gibi eyaletlerin ya da mart ayında ilk YZ yasasını kabul eden Avrupa Birliği’nin kendi kurallarını dayatması yerine federal kuralları kendilerinin koymasının daha iyi olduğuna inanıyorlar.

Casado, “Konuştuğum insanların ne sıklıkla ‘Martin seninle aynı fikirdeyim ama bir şeyleri düzenleyecekler, öyleyse onlara düzenleyecekleri şeyler verelim. Bir kayba uğrayacaksak o kaybı biz belirleyelim’ dediklerini anlatamam” diyor.

YZ’nin ideolojik cephesinde yer alan Hofman, Khosla, Andreessen ve diğerlerinin pozisyonlarında yüksek dozda kişisel çıkar var. Khosla’nın OpenAI’a verdiği 50 milyon dolarlık ilk çek, işin sonunda bunun 100 katı değere ulaşabilir. Khosla ayrıca Japonya ve Hindistan’da -Bangalor merkezli Sarvam AI gibikendi modellerini geliştiren şirketleri de destekliyor. Bunun bir diğer faydası, Çin etkisine karşı bir sur işlevi görmesi. CEO Vivek Raghavan, “Sarvam AI’ı yaratmamızın bir nedeni de bu; ülkemizde bir YZ ekosistemi yaratmak, böylece Çin veya ABD’ye bağımlı olmamak” diyor.

HAVADA UÇUŞAN MİLYAR DOLARLAR

Hofman, OpenAI’ın kâr amacı gütmeyen kuruluşuna firması Greylock ile değil, kendi vakfı üzerinden yatırım yaptı. Ancak Hofman’ın LinkedIn’i 26 milyar dolara satın alan Microsoft’la da yakın bağları var ve şirketin yönetim kurulunda yer alıyor; ayrıca Hofman, Microsoft’un OpenAI ile olan derin ilişkisinin önemli bir aracısı. Teknoloji devinin Ocak 2023’teki milyarlarca dolarlık yatırımından aylar önce Hofman, kurucu ortak Bill Gates’in evinde Altman ve Microsoft CEO’su Satya Nadella da dahil olmak üzere her iki şirketin yöneticilerini bir araya getirmişti. Ayrıca YZ asistanları oluşturmak için toplam 415 milyon dolar toplayan Greylock destekli bir girişim olan unicorn Adept AI ile de çalışan Hofman, 2022’de yakın arkadaşı ve Google DeepBrain’in ortak yaratıcısı Mustafa Suleyman’la birlikte Infection AI’ı kurdu. Suleyman, Microsoft’un tüketici YZ’si çalışmalarının başına geçmek üzere kısa süre önce şirketten ayrıldı.

Andreessen de ideolojik ve finansal anlamda bağlı. GPT-3’ün rakiplerinden Llama’yı açık kaynaklı hale getiren ve en son sürümünü nisan ayında büyük bir tantanayla piyasaya süren Meta’nın yönetim kurulunda yer alıyor. Geçen aralık ayında a16z, (aynı yıl içinde OpenAI hisselerini de satın aldığı bildiriliyor) OpenAI’ın en popüler açık kaynaklı rakibi olan Paris merkezli Mistral için toplam tutarı 400 milyon doları aşan bir yatırım turuna öncülük etti. Şu anda 6 milyar dolarlık değerlemeyle Mistral için yeniden fon topladığı bildirilen a16z, OpenAI hisseleri hakkında yorum yapmaktan kaçındı. Bu arada a16z’nin 27 şirket içi hukuk ve politika uzmanından oluşan ekibi, Federal Ticaret Komisyonu’na (FTC) gönderilen son kamuoyu yorumlarının ve başkanlık kararnamesinin Mistral gibi açık kaynak girişimleri üzerindeki etkilerine karşı Biden yönetimini uyaran açık mektubun hazırlanmasına yardımcı oldu.

Yine de bu durum, açık kaynakçı ve düzenleme karşıtı cephenin elindeki silahların yetersiz olduğunu haykırmasını engellemiyor. “Felaket tellalları kazanıyor. Çok daha organizeler” diyor Midas Listesi’nin eski üyelerinden Benchmark yatırımcısı Bill Gurley. Google, Microsoft, OpenAI ve Anthropic’in açık kaynaklı alternatiferin kendilerini bu kadar hızlı bir şekilde yakalamasından ürktüğüne inanan Gurley, ifas eden kripto borsası FTX’in hüküm giymiş eski CEO’suna atıfta bulunarak “Sam Bankman-Fried vakası dışında Washington’da yeni teknoloji konusunda böylesine uyumlu bir çaba görülmedi” diyor.

OpenAI COO’su Brad Lightcap bu suçlamalara gülüp geçiyor: “Aynı fikirde miyim bilmiyorum ama biz buna alışkınız...” Microsoft’tan Suleyman, YZ’nin potansiyelini destekleyen teknoloji liderlerinin “bir kaç derece sola veya sağa baksalar da” sonuçta aynı gemide olduğunu söylüyor. Ancak her zaman dikkatli bir diplomatik tavır sergileyen Hofman’ın gözlerinde Gurley’nin sert cümleleri üzerine şimşekler çakmaya başlıyor. Gurley, “Bill’in 11 yıl boyunca Mozilla yönetim kurulunda bana katılmasını ve zamanını şu anda savunduğu şey için harcamasını memnuniyetle karşılardım” diyor ve ekliyor: “Yatırımınız için iyi görünüyor diye yeni teşrif eden ‘Bay Açık Kaynak’ olmayın.”

ELON MUSK’IN DİKKAT ÇEKEN ZİK-ZAKLARI

Bir de Musk var. Açık kaynak tarafının sözünü sakınmayan bir destekçisi olan dünyanın -bazenen zengin adamı… Mart 2023’te YZ modeli geliştirilmesine güvenlik gerekçesiyle altı ay ara verilmesi çağrısında bulundu, herhalde bundan daha “felaket tellalı” olunamazdı. Bu gerçekleşmedi ve dört ay sonra Musk kendi OpenAI rakibi olan xAI’ı duyurdu, ardından geçmişte işbirliği yaptığı insanları misyonlarından saptıkları için dava etti. (OpenAI, mart ayında yayınladığı bir blog yazısında “Elon’un tüm iddialarını reddetmek için harekete geçme niyetindeyiz” dedi ve daha fazla yorum yapmayı reddetti). Mayıs ayında xAI’ın değerinin Anthropic’inkine çok yakın bir rakam olan 18 milyar dolara yaklaştığı bildirildi.

Khosla’nın Washington’daki konuşması dinleyen kuruculardan birinin Forbes’a belirttiği gibi ortada bir ironi var: YZ’nin yetenekleri konusunda en iyimser olanlar, genellikle onun kötüye kullanılmasından en çok endişe duyanlar. Onlara göre önde gelen modellerin kapatılması ve düzenleyici bir çerçevenin oluşturulması, milyonlarca kişi için kelimenin tam anlamıyla ölüm-kalım meselesi olabilir.

Andreessen, mart ayında şöyle yazdı: “Ya YZ varoluşsal açıdan büyük bir tehdit ve büyük YZ laboratuvarlarının ‘hemen şimdi’ kamulaştırılması ve askerileştirilmesi gerekiyor ya da YZ yalnızca yazılım ve matematikten ibaret ve düzenleyici ele geçirme için yürütülen korku tacirliğine ve lobiciliğe son verilmesi gerekiyor…”

Andreessen, Çinli ajanların zaten her gece Amerika’nın önde gelen YZ şirketlerinden güncellemeler indirdiğini varsaydığını söylüyor. Bu yüzden model erişimini kısıtlamak, hırsızlar evin içindeyken ön kapıyı kilitlemeye benziyor. Bunun yerine Andreessen, ABD’nin Amerikan YZ hakimiyetini ilerletmek için “tüm gücünü” kullanması gerektiğini savunuyor; buna söz konusu hakimiyeti Çin’e ihraç etmek de dahil.

Hofman ve düzenleme yanlıları için başkalarının bir modeli silah haline getirme potansiyeli, Anthropic’ten Clark’ın ifadesiyle “anahtarları tankın üzerinde bırakmak” için bir neden değil. ABD, son teknoloji modellere erişimi kısıtlayarak rakiplerinin kendi buluşlarını yapmalarını engelleyemez, hatta bu buluşlarla ne yapacaklarını bile bilemeyebilir. Ancak Khosla’ya göre bu durum onların arayı kapatmak için çabalamasını sağlayabilir. Küresel etkiye gelince… Khosla çok sayıda açık kaynaklı YZ aracının hâlâ mevcut olacağını, diğer araçların da ticari olarak lisanslanabileceğini belirtiyor: “Dünyanın geri kalanı ABD’de olup bitenlerden feyz alıyor.”

Hayal edilemeyecek kadar tehlikeli sonuçları olan yıkıcı yeniliklerle dolu bir gelecek… Ya da yeniliğin aşırı temkinli bir azınlık tarafından kısıtlandığı baskılanmış bir teknoloji ortamı… Her iki taraf da diğerinin geleceğinin gerçekçi olduğuna inanmıyor; her ikisi de kendi mantığının galip gelmesi durumunda bir seçim yapmaya gerek olmadığını savunuyor.

Ancak herkes, -amacı ister yasa koyucularla konuşma, ister gücü daha az paydaşların geride kalmamasını sağlama olsun- bir aciliyet duygusu hissediyor. Alanın öncülerinden ve Stanford İnsan Merkezli YZ Enstitüsü’nün Eş Direktörü Fei-Fei Li, düzenleyici kısıtlamaların akademi ve kamu sektörü için ne anlama geldiği konusunda “gerçek bir endişe” duyduğunu söylüyor. Li, “Bir yağmur ormanında bile büyük ağaçlar, arada sırada, çiçeklerin daha fazla açması için güneş ışığının alt seviyelere inmesine izin vermenin yollarını bulmak zorunda kalır” diye uyarıyor.

Hofman daha iyimser: “Oyun devam ediyor ve hepimiz bundan insanlık için doğru şeylerin çıktığından emin olmak istiyoruz. Bence henüz çok erken ve şu anda doğruyu bildiğini düşünen herkes ya kendini, ya da sizi kandırıyor. Bunu birlikte öğrenmeliyiz…”