İçeriğe geç
  • BTC $59.148 +6,1%
  • ETH $1.663 +6,5%
  • SOL $69,20 +5,6%
  • BNB $540,33 +6,3%
  • XRP $0,9181 +5,4%
  • DOGE $0,0542 +5,2%
  • ADA $0,1418 +5,0%

Anthropic, yapay zeka damıtma saldırılarına karşı savunmaların Claude’dan veri çıkarımını %90 ila %99 oranında azalttığını söylüyor

Yapay zekâ damıtma saldırılarına karşı daha güçlü savunmalar, ilk bulgulara göre Claude’dan toplanan veriyi yaklaşık %90 ila %99 oranında azalttı. Bu önlemler, modelin yeteneklerini kopyalamaya yönelik gizli girişimleri hedef alıyor ve geliştiricisine gelir ile trilyonlarca jetonluk ücretli trafiğe mal oldu. Öne çıkan noktalar Claude’un akıl yürütme jetonu çıkarımı, […] sonrasında on kat ila yüz…

AI distillation attacks defense
AI Distillation Attacks Defense Cuts Claude Model Data Loss

Yapay zeka damıtma saldırılarına karşı daha güçlü savunmalar, ilk bulgulara göre Claude’dan toplanan veriyi yaklaşık %90 ila %99 oranında azalttı. Önlemler, modelin yeteneklerini kopyalamaya yönelik gizli girişimleri hedef alıyor ve geliştiricisine gelir ile trilyonlarca token değerinde ücretli trafiğe mal oldu.

Öne çıkan noktalar

  • Claude’un akıl yürütme token’ı çıkarımı, sınıflandırıcı devreye alındıktan sonra on kat ila yüz kat azaldı.
  • Tespit sistemi %0,1’in altında yanlış pozitif oranı bildiriyor.
  • Tekrarlanan çıkarım girişimleri daha sıkı limitleri ve hesap yasaklarını tetikliyor.
  • Şirket, bulut platformlarını ve model geliştiricilerini kötüye kullanımı birlikte engellemeye çağırıyor.

Anthropic, 12 Ekim 2026 tarihli bir blog yazısında savunmalarının akıl yürütme dökümlerine getirilen kısıtlamaları, çıkarım tespitini ve hesap yaptırımını birleştirdiğini söyledi. Güvenlik önlemleri, çoğu zaman bir kampanyanın başlamasından sonraki iki saat içinde, damıtma ile bağlantılı on binlerce hesabı yasakladı.

Yapay zeka damıtma saldırılarına karşı savunmaların ölçülmesi

Damıtma saldırıları, bir modelin yeteneklerini başka bir modelde yeniden üretmek için izinsiz, gizli çıkarım kampanyalarıdır. Şirket, saldırganların gelişmiş modelleri geliştirme maliyetinin ve süresinin küçük bir kısmına taklit etmek için, çoğu zaman sahte hesaplar üzerinden milyonlarca yanıt ürettiğini söylüyor.

Savunmalar, Claude’un yanıt vermeden önce yazdığı düşünme süreci olan akıl yürütme dökümlerine odaklanıyor. Şirkete göre bunlar, yalnızca nihai yanıtlardan daha fazla şekilde daha küçük bir modele öğretim sağlıyor. Sınıflandırıcı devreye alındıktan sonra, platformunda çıkarılan akıl yürütme token’larının hacmi, öncesine kıyasla 10 ila 100 kat daha düşük kaldı.

Önceki testler, bu dökümlerin korunmasının neden önemli olduğunu gösterdi. Tam Claude Opus 4.8 dökümleriyle eğitilen, önceden eğitilmiş bir Claude modeli SWE-bench Verified’da %80,4 puan aldı; özetlenmiş dökümlerle yapılan eğitim ise %71,8 üretti.

Ardından saldırganlar, sıradan yanıtları toplamaktan gizli akıl yürütmeyi aktif olarak çıkarmaya yöneldi. Bir laboratuvar 12.000 farklı isteği test etti. Proxy ağları yüz binlerce sahte hesabı kontrol etti, sahte kimlikler ve çalıntı ödeme bilgileri kullandı ve Claude’a erişimin olmadığı yerlerde erişimi yeniden sattı. Şirketin Şubat raporunda tanımlanan bir ağ, aynı anda 20.000’den fazla hesabı yönetiyordu.

Damıtma karşıtı güvenlik önlemleri nasıl çalışıyor?

Şirketin yapay zeka damıtma saldırılarına karşı savunmaları artık akıl yürütmenin nereye gidebileceğini kısıtlıyor, çıkarım isteklerini engelliyor ve ısrarlı girişimleri cezalandırıyor. Bu önlemler, korunan akıl yürütmeyi konuşmalar, modeller ve hesaplar arasında taşıyan teknikleri hedef alıyor.

Korunan düşünme, Claude Fable 5.1 ve Claude Opus 5.5 ile birlikte tanıtıldı ve 31 Ağustos 2026 tarihinde veya sonrasında oluşturulan API hesaplarının Claude’un önceki bağlamını düzenlemesini engelliyor. Bu modellerin akıl yürütmesi, daha zayıf korumalara sahip eski modeller tarafından da okunamıyor. Claude Sonnet 5.5, döküm erişimini onu üreten organizasyonla sınırlandırıyor.

İç ve dış kırmızı ekip testleriyle sınanan iki aşamalı bir sınıflandırıcı, %0,1’in altında bildirilen yanlış pozitif oranıyla çıkarım isteklerini tespit ediyor. Sistem, Claude Sonnet 5.5, Claude Opus 5 ve 5.5’in yanı sıra Claude Fable 5 ve 5.1 kullanarak çalışıyor. Şirket, Eylül raporunda tanımlanan her damıtma tekniğini yakaladığını söylüyor.

Güncellemeler, önceki akıl yürütmenin çevrilmesini veya etiketler içinde yeniden üretilmesini içeren taktikleri engelledi. Israrlı çıkarım girişimleri daha sıkı kullanım limitlerini ve hesap yasaklarını beraberinde getiriyor. 24 Eylül 2026’dan bu yana şirket, yanlış pozitiflerin %0,1’in altında kaldığı damıtma da dahil kategorilerde, Claude yanıt vermeden önce engellenen istekler için de ücret alıyor.

Güvenlik endişeleri Claude’un ötesine uzanıyor

Şirket, yasa dışı damıtmanın, kopyalanan yetenekler yabancı askeri, istihbarat ve gözetim sistemlerine girdiğinde ulusal güvenlik endişeleri yarattığını savunuyor. Ayrıca bu şekilde geliştirilen modellerin, yetenekleriyle orantılı güvenlik önlemlerinden yoksun olabileceğini de söylüyor.

Blog yazısı, Zhipu’nun GLM-5.3 geliştirmesini örnek gösteriyor. Bloga göre Zhipu, önce Claude Fable 5’ten siber yetenekler çıkarmaya çalıştı, ardından güvenlik önlemleri girişimlerini engelleyince daha eski bir Claude modeline ve başka bir laboratuvarın modeline geçti.

Anthropic’e göre, ABD Süper Zeka için İnovasyon ve Standartları İlerletme Merkezi (CAISSI) — NIST tarafından CAISI olarak anılıyor — GLM-5.3’ün bugüne kadar yayımlanmış en siber yetenekli açık ağırlıklı model olduğuna karar verdi. Şirketin kendi araştırması, kolayca atlatılabilen güvenlik önlemleri ve tam güvenlik açıkları geliştirmeye yönelik isteklilik buldu.

Blog ayrıca, Moonshot’ın Kimi modellerine gönderilen isteklerin, damıtma çabaları sırasında gizlice Claude’a yönlendirildiğini, bunlar arasında bir kişinin CCTV görüntülerinin analiz edilmesi isteğinin de bulunduğunu anlatıyor.

Şirket, damıtıcıların trafiği dağıttığı sınır-model geliştiricileri, bulut platformları ve çıkarım sağlayıcıları arasında işbirliği çağrısında bulunuyor. Platformların, kötüye kullanımı tespit edip sahte hesapları kaldırarak çıkarımı yavaşlatabileceğini söylüyor. Bazı güvenlik önlemleri, meşru kullanıcıların da entegrasyonlarını güncellemesini gerektirdi.

Bu makale, yapay zeka desteğiyle üretilmiş ve editör ekibi tarafından gözden geçirilmiştir.

Francesco Antonio Russo

Francesco Antonio Russo adlı yazarın tüm makaleleri