Anthropic, Mythos-sınıfı yapay zekayı halka açarken Fable 5'i güvenlik önlemleriyle yayınladı

Anthropic'in Claude Fable 5'i, Mythos-sınıfı zekayı genel kullanıcılara sunuyor, ancak siber güvenlik sorguları otomatik olarak daha az yetenekli bir modele düşürülüyor.

Anthropic, siber güvenlik ve biyolojik araştırma sorgularını eski Opus 4.8 sistemine düşüren Mythos-sınıfı bir yapay zeka modeli olan Claude Fable 5'i yayınladı. Bu, şirketin en güçlü teknolojisini ilk kez geniş çapta kullanıma sunması anlamına geliyor.

"Bu seviyedeki zekayı genel kullanıcılara güvenli bir şekilde sunabilmek istedik," dedi Anthropic'in ürün yönetimi, araştırma ve laboratuvarlardan sorumlu başkanı Dianne Penn, The Wall Street Journal'a.

Fable 5, milyon giriş token'ı başına 10 dolar ve milyon çıkış token'ı başına 50 dolar maliyetle, Claude Mythos Preview'ın yarısından daha düşük bir fiyata sunuluyor. Model, yazılım mühendisliği, görüntü işleme ve bilgi çalışması kriterlerinde önceki tüm Claude sistemlerini geride bırakıyor. Stripe, Fable 5'i kullanarak 50 milyon satırlık bir Ruby deposunda tek bir günde kod tabanı genelinde bir geçiş tamamladı; şirket bu görevin manuel mühendislik çabasıyla iki aydan fazla süreceğini tahmin ediyordu.

Bu sürüm, Anthropic'in güvenlik sınıflandırıcılarının, sınır yapay zekasını ticarileştirmek ve kullanıcıları en tehlikeli yeteneklerine maruz bırakmamak için yeterince sağlam olduğuna inandığını gösteriyor. Ancak ilk testler, güvenlik önlemlerinin reklamı yapılandan daha geniş olabileceğini ve potansiyel olarak modelin kilit bir müşteri segmentini temsil eden siber güvenlik profesyonelleri için kullanışlılığını sınırlayabileceğini gösteriyor.

Güvenlik önlemleri nasıl çalışıyor

Fable 5, siber güvenlik, biyoloji, kimya ve model damıtma ile ilgili talepleri tespit eden yapay zeka destekli sınıflandırıcılar kullanıyor. Tetiklendiğinde sistem, sorguyu Fable 5 yerine Claude Opus 4.8'e yönlendiriyor. Anthropic, geri dönüşün oturumların yüzde 5'inden azında gerçekleştiğini, yani çoğu kullanıcının sıradan kullanım sırasında tam Mythos-sınıfı modelle etkileşime girdiğini söylüyor.

Şirket, güvenlik önlemlerini, rahatlık yerine güvenliğe öncelik vererek kasıtlı olarak muhafazakar olarak tanımlıyor. Anthropic, 1.000 saatten fazla testte evrensel bir jailbreak üretmeyen harici bir hata ödül programı yürüttü, ancak İngiltere AISI, kısa bir ilk test penceresi içinde buna yönelik ilerleme kaydetti.

SANS Enstitüsü baş yapay zeka sorumlusu ve araştırma başkanı Rob T. Lee, CSO'ya, olay müdahalesi, tespit ve temel adli tıp iş akışlarını içeren rutin siber güvenlik görevlerinin ilk testler sırasında otomatik olarak Fable 5'ten Opus 4.8'e yönlendirildiğini söyledi. Bu gözlemler daha geniş testlerde geçerli olursa, Anthropic'in sınıflandırıcılarının kötü niyetli ve meşru faaliyetler arasında ayrım yapmaktan ziyade siber güvenlikle ilgili talepleri geniş çapta tanımladığını gösterebilir.

Siber savunmacılar için Mythos 5

Seçkin bir kullanıcı grubu için Anthropic, Fable 5 ile aynı temel model olan ancak siber güvenlik önlemleri kaldırılmış Claude Mythos 5'i de yayınlıyor. Project Glasswing aracılığıyla Verizon ve Microsoft dahil olmak üzere yaklaşık 200 kuruluş, kısıtlanmamış sürüme erişim kazanacak. Anthropic, ABD hükümetiyle istişare içinde geliştirilen daha geniş bir güvenilir erişim programı aracılığıyla erişimi kademeli olarak genişletmeyi planlıyor.

Şirket, Mythos 5'in yazılım güvenlik açıklarını keşfetme, istismar geliştirmeye yardımcı olma ve karmaşık çok aşamalı siber güvenlik görevlerini gerçekleştirme yeteneği de dahil olmak üzere şu anda mevcut olan herhangi bir modelin en güçlü siber güvenlik yeteneklerine sahip olduğunu söylüyor. Bu yetenekler, Anthropic'in teknolojinin önceki sürümlerine erişimi kısıtlamasına tam olarak yol açan şeydi.

Güvenlik liderleri için anlamı

CISO'lar ve güvenlik ekipleri için bu duyuru, kuruluşların giderek daha yetenekli yapay zeka sistemlerine ne kadar hızlı uyum sağlayabileceği sorusunu gündeme getiriyor. Artık zorluk, yalnızca gelişmiş modellere erişim sağlamak değil, onları ölçülebilir faydalar sağlayacak şekilde güvenlik operasyonlarına entegre etmek.

Cisco'nun kıdemli başkan yardımcısı ve baş güvenlik ve güven sorumlusu Anthony Grieco, kuruluşların güçlü temel güvenlik esaslarını korurken güçlü modelleri etkili bir şekilde dağıtmaya odaklanması gerektiğini söyledi. "Sınır yapay zekasının gelişme hızı, güvenlik ortamını gerçek zamanlı olarak değiştiriyor ve savunmacılar tozun dinmesini bekleyemez," dedi Grieco bir açıklamada.

Aynı zamanda Grieco, yapay zekayı temel güvenlik uygulamalarının yerine geçecek bir şey olarak görmeye karşı uyardı. "Yapay zeka, savunmacıların yapabilecekleri için tavanı yükseltecek, ancak güvenlik dayanıklılığı, bu kazanımların gerçek korumaya dönüşüp dönüşmediğini belirleyen temel olmaya devam ediyor," dedi. Yapay zeka modelleri yazılım mühendisliğini, analizi ve güvenlik operasyonlarını hızlandırsa bile, kuruluşların yama yapma, çok faktörlü kimlik doğrulama, ağ segmentasyonu ve sıfır güven mimarileri gibi temel konularda hala uygulama yapması gerekiyor.

Halka açık olarak işlem görmeyen Anthropic hisselerinin doğrudan bir piyasa etkisi bulunmuyor. Ancak sürüm, rakipleri OpenAI ve Google'ı, karşılaştırılabilir güvenlik standartlarını korurken Mythos-sınıfı yetenekleri eşleştirmeleri için baskı altına alıyor. OpenAI Pazartesi günü kendi gizli S-1 başvurusunu duyurdu ve Elon Musk'ın xAI'sini de içeren SpaceX'in bu hafta Nasdaq'ta işlem görmeye başlaması planlanıyor.

Bu makale yalnızca bilgilendirme amaçlıdır ve yatırım tavsiyesi niteliği taşımaz.