Önemli Çıkarımlar:
Trump yönetimi, Anthropic'ten en gelişmiş yapay zeka modellerindeki tüm olası jailbreak'leri engellemesini talep ediyor — iki tarafı yapay zeka düzenlemesinin geleceği konusunda bir çıkmaza sokan teknik olarak imkansız bir istek.
Beyaz Saray, Anthropic'ten Fable 5 ve Mythos 5 modellerindeki tüm olası güvenlik açıklarını ortadan kaldırmasını talep ediyor. Konuya aşina üst düzey bir Beyaz Saray yetkilisi ve bir yönetim yetkilisine göre, bu teknik olarak ulaşılamaz standart, yapay zeka düzenlemesinin geleceği üzerinde bir çatışmaya dönüştü.
"Sorun şu ki Beyaz Saray aşırı düzenleme karşıtı bir duruş sergiliyordu ve şimdi insanların uzun yıllardır tahmin ettiği gerçek yapay zeka yetenekleriyle karşı karşıya kaldılar," dedi profesyonel ilişkilerini riske atmamak için isminin gizli kalmasını isteyen eski bir Beyaz Saray teknoloji yetkilisi. "Bununla sistematik olarak başa çıkmak, faydaları ve riskleri yönetmek için hazırlık ve politikalar olmalıydı, ancak bunun yerine yapay zeka endüstrisini gerçek bir ikileme sokan aceleci bir yaklaşım var."
Anlaşmazlık, Beyaz Saray'ın 13 Haziran'da Anthropic'e ihracat kontrolleri uygulaması ve şirketi her iki modele de tüm kullanıcıların erişimini askıya almaya zorlamasıyla patlak verdi. Amazon CEO'su Andy Jassy, Hazine Bakanı Scott Bessent'i araştırmacıların güvenlik önlemlerinin aşıldığına dair kanıt bulduğu konusunda uyarmıştı. Anthropic, güvenlik açığının sınırlı olduğunu ve anlamlı bir güvenlik kusuru teşkil etmediğini savundu, ancak yönetim yabancı kullanıcıların modellere erişimini yasaklayarak yanıt verdi. Şirket, ihracat kontrollerine uymanın tek yolunun bu olduğunu belirterek modelleri tamamen kullanımdan kaldırmayı tercih etti.
Çatışmanın önemli ekonomik sonuçları var. Anthropic'in Apple, Meta ve Fortune 500'ün büyük bölümü dahil kurumsal müşterileri, şirketin en gelişmiş sistemlerine erişemiyor. Anlaşmazlık ayrıca şirketin yeni modelleri kullanıma sunma kabiliyetini de dondurarak, rakipleri OpenAI ve Google DeepMind karşısında gelir büyümesini ve rekabetçi konumunu potansiyel olarak yavaşlatıyor.
Anlaşmazlığın merkezindeki teknik imkansızlık
Güvenlik araştırmacıları ve yapay zeka yöneticileri, Beyaz Saray'ın talebinin mevcut teknolojiyle karşılanamayacağını söylüyor. Büyük dil modelleri deterministik olmaktan ziyade olasılıksal olduğu için şirketler, herhangi bir girdiye yanıt olarak ne üreteceklerini garanti edemez. Her model değişen derecelerde jailbreak yapılabilir ve sorunu tamamen çözmek mevcut yöntemlerle mümkün değil.
Anthropic ve bağımsız siber güvenlik araştırmacıları, jailbreak'lerin yama yapılarak çözülebilecek izole bir sorun olmadığını savunuyor. Şirketin ilk savunması, hiçbir yapay zeka modelinin hacklenmeye karşı tamamen bağışık olamayacağıydı — bu durum, Anthropic'in yıllardır potansiyel yapay zeka felaketi konusunda uyarılarda bulunduğunu belirten Beyaz Saray yetkililerini rahatsız etti.
Beyaz Saray ile Anthropic arasındaki — şirket tarafında kamu politikası başkanı Sarah Heck ve kurucu ortak Tom Brown tarafından yürütülen — müzakereler, gelecekteki jailbreak'leri değerlendirmek için ortak bir kriter seti geliştirmeye yöneldi. Bu kriterler arasında güvenlik önlemlerinin ne ölçüde aşıldığı, açığa çıkan yetenekler ve ihlalin pratik sonuçları yer alıyor. İhracat kontrolleri henüz kaldırılmamış olsa da, teknik standart belirleme çalışmalarına yönelim, müzakerelerin ilerlediğine işaret ediyor.
Fiili bir lisanslama rejimi ortaya çıkıyor
Trump yönetimi daha önce zorunlu yapay zeka lisanslamasına karşı çıkmıştı. Başkan Trump geçen ay, yapay zeka laboratuvarlarının modellerini erken hükümet testine sunmaları için "gönüllü" bir sistem oluşturan ve bunun zorunlu hale gelmeyeceğini açıkça belirten bir başkanlık kararnamesi imzalamıştı. Ancak Anthropic anlaşmazlığı, bu tür bir rejimin fiili bir versiyonunu yarattı.
OpenAI, Google ve Meta dahil diğer önde gelen yapay zeka laboratuvarları, anlaşmazlığı yakından izliyor. Birçok yapay zeka lideri artık Beyaz Saray'a en son modellerine erken erişim sağlamaları ve yaklaşan lansmanlar hakkında bilgi paylaşımında son derece proaktif olmaları gerektiğine inanıyor. Yetkilileri hazırlıksız yakalama riskinin çok büyük olduğunu söylüyorlar.
"Önceden bildirim, önceden erişim. Sanırım sadece ABD'den değil, dünyanın dört bir yanından duyduğumuz temel talepler bunlar," dedi Kanadalı yapay zeka laboratuvarı Cohere'in CEO'su Aidan Gomez bu hafta başında yaptığı bir röportajda. "Bence bunlar birçok açıdan iyi şeyler. Son derece önemli bir teknoloji konusunda yetkililerin güçlü bir katılım ve değerlendirme göstermesi anlamına geliyor."
Anlaşmazlık, bu hafta Fransa'da düzenlenen G7 Zirvesi'nde de önemli bir gündem maddesiydi. Başkan Trump, Anthropic ile görüşmelerin "iyi gittiğini" söyledi ancak detay vermedi. Anthropic CEO'su Dario Amodei, dünya liderlerini yapay zeka düzenlemesinde farklı yaklaşımlar benimseme cazibesine direnmeye çağırdı.
Bu makale yalnızca bilgilendirme amaçlıdır ve yatırım tavsiyesi niteliği taşımaz.
