Küçük bir araştırma ekibi, bilgisayarlı görü saldırılarının iyi bilinen bir sınıfına karşı bugün en yaygın kullanılan savunmaların, çok daha sinsi bir tehdidin fark edilmeden sızmasına izin verdiğini söylüyor. 11 Ağu 2026’da sunulan bir makalede, araştırmacılar Dongsu Song, DaeYun GO, Boseung Seo ve Jay Hoon Jung, seyrek kara-kutu saldırılarının anlamsal segmentasyon sistemlerine — bir görüntüdeki her pikseli etiketleyen, otonom araçlar, tıbbi tarama ve endüstriyel denetimde kullanılan yapay zeka modelleri — daha basit görüntü sınıflandırma sistemlerine yönelik saldırılara kıyasla büyük ölçüde göz ardı edildiğini savunuyor. Onların yanıtı, bir saldırganın bir modeli kandırmak için gereken en az sayıda pikseli arama şeklini yeniden düşünerek bu açığı kapattığını söyledikleri SegPAR adlı yeni bir yöntem.
İçindekiler
Öne çıkan noktalar
- Yalnızca bir modelin iç puanlarına değil, nihai etiket çıktısına ihtiyaç duyan seyrek karar temelli kara-kutu saldırıları, görüntü sınıflandırmaya kıyasla anlamsal segmentasyonda sınırlı araştırma ilgisi gördü.
- Sınıflandırmadan ödünç alınan mevcut seyrek saldırılar, pikselleri tüm görüntü boyunca biriktirdikleri için ciddi sorgu verimsizliğinden muzdarip; bu da bir saldırgana tanınan sınırlı sorgu sayısını hızla tüketiyor.
- Önerilen yöntem SegPAR, görüntü geneline yayılmış bir çerçeve yerine sınıf merkezli keşif çerçevesi sunuyor ve yanıltıcı geri bildirim sinyallerinden kaçınmak için yeni bir “tutarsızlık ödülü” ile eşleştiriliyor.
- Testlerde SegPAR, hem seyrekliğe dayalı verimlilikte hem de MIoU düşüşünde kara-kutu temel saldırıları önemli ölçüde geride bıraktı ve model içlerine tam erişimi olan bazı beyaz-kutu saldırılarıyla da rekabetçi kaldı.
- SegPAR’ın arkasındaki kod, GitHub’da KAU QuantumAILab hesabı altında herkese açık olarak yayımlandı.
Anlamsal Segmentasyonda Seyrek Karar-Temelli Saldırılardaki Araştırma Boşluğu
Seyrek karar-temelli kara-kutu saldırıları, görüntü sınıflandırıcıları için kapsamlı biçimde incelendi, ancak pratik sonuçlarına rağmen anlamsal segmentasyon bu alanda kenarda kaldı. Yazarlara göre, bir saldırganın bir modelin güven puanlarını veya gradyanlarını değil yalnızca nihai kararını gördüğü ve bu kararı mümkün olan en az sayıda pikseli değiştirerek tersine çevirmeye çalıştığı bu tehdit türü, gerçek bir pratik öneme sahip olmasına rağmen segmentasyon bağlamında hâlâ “yeterince araştırılmamış” durumda.
Seyrek Tehditlere Sınırlı İlgi
Anlamsal segmentasyon modelleri, bir görüntünün tamamına tek bir etiket atamak yerine görüntüdeki her piksele bir etiket atar; bu da saldırı yüzeyinin geometrisini önemli ölçüde değiştirir. Araştırma ekibi, önceki çoğu seyrek saldırı tekniğinin sınıflandırma görevleri için inşa edilip ayarlandığını ve bir modelin tek bir karar yerine milyonlarca bireysel piksel kararını savunmak zorunda olduğu durumlarda bu saldırıların nasıl davrandığı konusunda bir kör nokta bıraktığını belirtiyor.
Sınıflandırma Saldırılarının Uyarlanmasındaki Zorluklar
Bu kör noktanın ne kadar büyük olduğunu ölçmek için yazarlar, aslında sınıflandırma için tasarlanmış “en temsilci karar-temelli kara-kutu seyrek saldırıları” uyarlayarak bunları segmentasyon için temel yöntemlere dönüştürdü. Onlara göre yalnızca bu adım bile, bu özel bağlamda karar-temelli adversaryal saldırılar için ilk ciddi kıyaslama standardını oluşturuyor — alanın daha önce yoksun olduğu bir temel.
Mevcut Görüntü Merkezli Seyrek Saldırıların Sınırlamaları
Kıyaslama, net bir zayıflığı ortaya çıkardı: Uyarlanan yöntemlerden biri, sorgu bütçesini pratik olmaktan çok uzak bir hızla tüketiyor. Araştırmacılar, bu temel yöntemin, doğrudan pikselleri bozmak için arama biçimine bağlı “ciddi sorgu verimsizliğinden” muzdarip olduğunu buldu.
Temel neden, ekibin görüntü merkezli piksel biriktirme stratejisi olarak adlandırdığı şey. Saldırı, belirli bir hedef sınıf için en çok önem taşıyan görüntü bölümlerine aramayı daraltmak yerine tüm görüntü uzayını tarıyor ve her pikseli araştırmaya değer kabul ediyor. Görüntü uzayının çok geniş ve her pikselin kendi etiketine sahip olduğu bir segmentasyon görevinde bu geniş arama, bir saldırganın gerçekçi biçimde bir hedef modele göndermesine izin verilen sorgu sayısını hızla tüketiyor. Başka bir deyişle, seyrek saldırıları sınıflandırma için verimli kılan yapı, hedef piksel piksel bir harita olduğunda bir dezavantaja dönüşüyor.
SegPAR: Tutarsızlık Ödüllü Sınıf Merkezli Bir Çerçeve
SegPAR’ın temel fikri, görüntüyü tek bir homojen arama alanı olarak ele almayı bırakıp saldırıyı sınıflar etrafında örgütlemek. Yazarlar SegPAR’ı, sorguları tüm görüntüye yaymak yerine modelin çıktısını değiştirme olasılığı en yüksek yerlere odaklamayı amaçlayan “sınıf merkezli keşif paradigmasına geçen yeni bir karar-temelli çerçeve” olarak tanımlıyor.
Sınıf Merkezli Keşif Paradigması
Aramayı tüm görüntü yerine belirli sınıflar etrafında yoğunlaştırarak SegPAR, her sorgunun daha fazla işe yaramasını hedefliyor. Bu önemlidir; çünkü karar-temelli kara-kutu ortamında bir saldırgan, gradyanları veya güven puanlarını değil yalnızca modelin nihai etiket kararlarını görür; dolayısıyla her sorgu kıt ve değerlidir. Daha hedefli bir arama, daha az boşa harcanan sorgu ve başarılı, minimum bozunumlu bir saldırıya daha hızlı bir yol anlamına gelir.
Yanıltıcı Geri Bildirimi Azaltmak için Yeni Tutarsızlık Ödülü
Yöntemin ikinci bileşeni daha ince bir sorunu ele alıyor. Standart karar-temelli ödüller, bir saldırının piksel biriktirme aşamasında yanıltıcı sinyaller gönderebilir; algoritmaya aslında ilerleme kaydetmediği halde kaydediyormuş gibi ya da tam tersi yönde bilgi verebilir. Bunu düzeltmek için araştırmacılar, özellikle “piksel biriktirme sırasında standart karar ödüllerinin ürettiği yanıltıcı geri bildirimi ortadan kaldırmak” üzere tasarlanmış bir tutarsızlık ödülü sunuyor. Sınıf merkezli aramayla birleşen bu ödül mekanizması, ekibin SegPAR’ın verimlilik kazanımlarını atfettiği unsur.
Kıyaslama Sonuçları ve Kodun Erişilebilirliği
Araştırmacıların oluşturduğu kıyaslama boyunca SegPAR, test edilen tüm kara-kutu temel yöntemleri geride bıraktı ve bunu bu tür saldırılar için en önemli iki ölçütte yaptı: dokunması gereken piksel sayısının azlığı ve modelin segmentasyon doğruluğunu ne kadar düşürdüğü.
Performans Kazanımları ve Kod Yayını
Ekip, “SegPAR, seyrekliğe dayalı verimlilikte ve MIoU düşüşünde kara-kutu temel yöntemleri önemli ölçüde geride bırakıyor” diye rapor ediyor; bu da, segmentasyon modelleri için standart bir doğruluk ölçütü olan ortalama Kesişim-Üzerine-Birleşim (mean Intersection-over-Union) değerinde daha güçlü düşüşler elde ederken rakip yöntemlerden daha az pikseli değiştirdiği anlamına geliyor. Aynı derecede dikkat çekici olan, SegPAR’ın, normalde modele tam gradyan erişimi olduğu için kör çalışan her yönteme göre yerleşik bir avantaja sahip olması beklenen beyaz-kutu seyrek saldırılarla bile rekabetçi kalması.
Kara-kutu rakiplerini net biçimde geride bırakırken beyaz-kutu yöntemlerle aradaki farkın büyük bölümünü kapatma kombinasyonu, makalenin temel önem iddiasını oluşturuyor. Bu, ayrıcalıklı model erişimi yerine daha akıllı bir arama stratejisinin, karar-temelli saldırganların genellikle feda ettiği verimliliğin büyük kısmını geri kazanabileceğini öne sürüyor.
Ekip ayrıca, diğer araştırmacılara kıyaslamayı yeniden üretme, SegPAR’ı yeni segmentasyon modellerine karşı test etme veya saldırının davranışından haberdar savunmalar geliştirme imkânı vermek için kodunu GitHub’da herkese açık olarak yayımladı; kod KAU QuantumAILab hesabı altında bulunuyor.
Bu Araştırma Neden Önemli?
Segmentasyon modelleri giderek, bir otonom aracın yol sahnesini nasıl okuduğundan bir tanı aracının bir taramadaki dokuyu nasıl işaretlediğine kadar gerçek sonuçları olan kararların arkasında yer alıyor. Karar-temelli kara-kutu seyrek saldırıların sorgu verimliliğinin dramatik biçimde artırılabileceğini — ve modelin içlerine hiç dokunmadan beyaz-kutu performansına yaklaşabileceğini — gösteren bir kıyaslama, saldırganların gerçekçi olarak yalnızca çıktı etiketlerine erişebildiği, iç erişime sahip olmadığı sistemlerde bu tehdit modelinin ne kadar ciddiye alınması gerektiğini yeniden çerçeveliyor. Ayrıca araştırma topluluğuna, ilk kez, gelecekteki savunmaların ölçülebileceği standartlaştırılmış bir temel yöntemler kümesi sunuyor.
SSS
SegPAR, anlamsal segmentasyon saldırılarında hangi sorunu ele alıyor?
SegPAR, sorgu verimsizliğini ele almak için seyrek karar-temelli kara-kutu saldırılarında sınıf merkezli bir keşif çerçevesi sunarak verimliliği artırıyor.
SegPAR mevcut seyrek saldırılara göre nasıl iyileşme sağlıyor?
SegPAR, görüntü merkezli piksel biriktirme yerine sınıf merkezli keşif kullanıyor ve yanıltıcı geri bildirimi azaltmak için bir tutarsızlık ödülü sunarak saldırı performansını artırıyor.
SegPAR’ın kodu herkese açık mı?
Evet, SegPAR’ın kodu GitHub’da KAU QuantumAILab tarafından herkese açık olarak sunuluyor.
SegPAR, beyaz-kutu seyrek saldırılarla nasıl karşılaştırılıyor?
SegPAR, seyrekliğe dayalı verimlilik ve MIoU düşüşü açısından bazı beyaz-kutu seyrek saldırılarla rekabetçi kalıyor.
{“@context”:”https://schema.org”,”@type”:”FAQPage”,”mainEntity”:[{“@type”:”Question”,”name”:”SegPAR, anlamsal segmentasyon saldırılarında hangi sorunu ele alıyor?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”SegPAR, sorgu verimsizliğini ele almak için seyrek karar-temelli kara-kutu saldırılarında sınıf merkezli bir keşif çerçevesi sunarak verimliliği artırıyor.”}},{“@type”:”Question”,”name”:”SegPAR mevcut seyrek saldırılara göre nasıl iyileşme sağlıyor?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”SegPAR, görüntü merkezli piksel biriktirme yerine sınıf merkezli keşif kullanıyor ve yanıltıcı geri bildirimi azaltmak için bir tutarsızlık ödülü sunarak saldırı performansını artırıyor.”}},{“@type”:”Question”,”name”:”SegPAR’ın kodu herkese açık mı?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Evet, SegPAR’ın kodu GitHub’da KAU QuantumAILab tarafından herkese açık olarak sunuluyor.”}},{“@type”:”Question”,”name”:”SegPAR, beyaz-kutu seyrek saldırılarla nasıl karşılaştırılıyor?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”SegPAR, seyrekliğe dayalı verimlilik ve MIoU düşüşü açısından bazı beyaz-kutu seyrek saldırılarla rekabetçi kalıyor.”}}]}
Yapay zeka desteğiyle hazırlanmış ve editör ekibi tarafından gözden geçirilmiştir.




