Siber güvenlik uzmanları Anthropic modellerine ihracat yasağına itiraz etti

Siber güvenlik alanından 76 uzman, ABD hükümetinin Anthropic’in en güçlü modelleri arasında gösterilen Fable ve Mythos’a getirdiği ihracat kısıtlamasına karşı açık mektup yayımladı. Mektupta kararın, güvenlik açıklarını bulup kapatmaya çalışan savunma ekiplerini daha zayıf araçlarla baş başa bırakabileceği savunuldu.

ABD hükümeti, ulusal güvenlik gerekçesiyle Anthropic’ten Fable ve Mythos modellerinin ihracatını sınırlamasını istemişti. Anthropic, kararın ardından bu modellere erişimi dünya genelindeki kullanıcılar için askıya aldı. Şirket, kararın gerekçesine ilişkin ayrıntıların kendisine açıklanmadığını bildirdi.

Açık mektubun imzacıları arasında eski Facebook güvenlik şefi Alex Stamos, Bugcrowd kurucusu Casey Ellis, kriptografi uzmanı Jon Callas, Luta Security kurucusu Katie Moussouris ve başka tanınmış isimler yer aldı. Uzmanlar, kötü niyetli aktörler gelişirken savunmacıların en iyi yeteneklerden mahrum bırakılmasının “tehlikeli” olduğunu belirtti.

Anthropic, Mythos’u nisan ayında sınırlı önizleme olarak tanıttığında modelin güvenlik açıklarını bulma kapasitesi nedeniyle erişimi dar tuttuğunu açıklamıştı. Şirket, geçen hafta kamuya açık Fable modelini yayımladı; ancak bu modelde biyoloji, kimya ve siber güvenlik alanındaki kullanımı sınırlayan katı koruma önlemleri bulunuyordu.

Tartışmanın odağında, Fable’ın korumalarının aşılabildiğini öne süren ve kamuya açık olmayan bir araştırma da var. Mektuba destek veren Moussouris’e göre söz konusu çalışma gerçek bir “jailbreak” göstermekten çok, modelden bilinen açıkları içeren kodu düzeltmesini istemeye dayanıyor. Uzmanlar, bu tür bul-düzelt-test döngüsünün savunma amaçlı siber güvenlik çalışmalarının temel parçası olduğunu söylüyor.

Kaynaklar

• Ana kaynak: TechCrunch