İçeriğe geç
  • BTC $59.267 +6,2%
  • ETH $1.662 +7,2%
  • SOL $69,45 +6,3%
  • BNB $541,46 +5,8%
  • XRP $0,9198 +5,5%
  • DOGE $0,0543 +5,7%
  • ADA $0,1420 +5,7%

Sorgu anahtarı hizalaması, BDM’lerin sıklıkla yanlış verdikleri cevapların doğrularını aslında bildiklerini ortaya koyuyor

Büyük dil modelleri, kendi devrelerinin bir yerinde doğru cevabı barındırırken, sayfadaki çoktan seçmeli bir soruyu yanlış yapabilir. Sorgu-anahtar hizalaması üzerine yeni bir çalışmanın çarpıcı önermesi budur; bu çalışma, bir modelin çoktan seçmeli soru yanıtlama sırasında “bildiği” şey ile gerçekte çıktıya döktüğü şey arasındaki uyumsuzluğun,…

query key alignment
Query Key Alignment Reveals Hidden Answers in LLMs

Büyük dil modelleri, kendi devrelerinin bir yerinde doğru cevabı tutarken, sayfadaki çoktan seçmeli bir soruyu yanlış yapabilir. Sorgu-anahtar hizalaması üzerine yeni bir çalışmanın çarpıcı önermesi tam da bu: bir modelin MCQA (çoktan seçmeli soru yanıtlama) görevlerinde “bildiği” şey ile gerçekte çıktıladığı şey arasındaki uyumsuzluk bir çıkmaz sokak değil — tek bir token çözümlenmeden önce, doğrudan modelin dikkat mekanizmasından okunabilen bir sinyaldir.

Öne çıkan noktalar

  • Büyük dil modelleri, nihai çıktıları yanlış olsa bile, doğru MCQA cevabını çoğu zaman içsel olarak kodlar.
  • Sorgu-Anahtar skoru (Query-Key score) ya da QK skoru adı verilen yeni bir metrik, modelin son token sorgusu ile her bir cevap seçeneğine bağlı anahtar arasındaki hizalamayı, döner konumsal gömme (RoPE) uygulanmadan önce hesaplayarak ölçer.
  • 1,5B ile 72B parametre arasında değişen 24 model üzerinde test edildiğinde, tek bir dikkat başlığının QK skoru, HellaSwag üzerinde modelin kendi sıfır-atış (zero-shot) doğruluğunu +27,4 yüzde puanına ve HaluDialogue üzerinde +49,8 puana kadar geride bıraktı.
  • HeadScore adlı gözetimsiz bir araç, etiketli veriye ihtiyaç duymadan bu kritik başlıkları bulabiliyor ve test edilen her modelde gözetimli yöntemlerle elde edilen sonuçlarla eşleşiyor.
  • Araştırmacılar, sonuçların tek bir komutla yeniden üretilebilmesi için, model başına başlık indeksleriyle birlikte tek satırlık, doğrudan kullanılabilir bir HeadScore betiği yayımladı.

Büyük Dil Modellerinde Örtük Bilginin Keşfi

Temel bulgu ifade etmesi basit ama kapsamı itibarıyla önemli: LLM’ler, doğru cevap içsel temsillerinin bir yerinde kodlanmış olmasına rağmen, MCQA görevlerinde doğru seçeneği çıktılama konusunda rutin olarak başarısız oluyor. İçsel “bilgi” ile dışsal çıktı arasındaki bu boşluk, model davranışını inceleyen araştırmacıları uzun süredir şaşırtıyor ve pratik bir soruyu gündeme getiriyor — eğer cevap içerideyse, modelin metin üretmesini beklemeden çıkarılabilir mi?

Bu önemlidir çünkü MCQA kıyaslamaları, akademik sıralamalardan üretim değerlendirmelerine kadar, büyük dil modellerinin MCQA performansını ölçmek için standart bir ölçüttür. Eğer modeller, gerçek akıl yürütme hatalarından ziyade çıktı tuhaflıkları nedeniyle gerçek yetkinliklerini olduğundan düşük gösteriyorsa, yalnızca üretilen metne dayalı doğruluk skorları, bu sistemlerin gerçekte neyi anladığı konusunda tüm alanı yanlış yönlendiriyor olabilir.

Sorgu-Anahtar Skoru ve Seç-ve-Kopyala Dikkat Başlıkları

Bu örtük bilgiyi açığa çıkarmak için araştırmacılar, Sorgu-Anahtar skoru ya da QK skoru adını verdikleri bir metrik tanıtıyor. Belirli bir dikkat başlığı için bu skor, son tokenın sorgusu ile belirli bir cevap seçeneğini takip eden satır sonu tokenına karşılık gelen anahtar arasındaki iç çarpım olarak hesaplanıyor; bu hesaplama, döner konumsal gömme uygulanmadan önce yapılıyor. Pratik açıdan bu, modelin dikkat mekanizmasının içine bakarak, modelin sessizce hangi seçeneğe meylettiğini, eninde sonunda hangi metni yazdırdığından bağımsız olarak görmenin bir yolu.

Seçenekler arasında bu skorun argmaksını almak, makalenin bu modellerin orta katmanlarında yer alan evrensel bir seç-ve-kopyala dikkat başlıkları sınıfı olarak tanımladığı bir olguyu ortaya çıkarıyor. Bu başlıklar, anlamsal sorgu-anahtar hizalaması yoluyla seçenek seçimi yapıyor ve davranışları, daha önce belgelenmiş indüksiyon ve kopya-bastırma başlıklarından mekanik olarak ayırt edilebilecek özellikler gösteriyor.

İki özellik öne çıkıyor. Birincisi, bu başlıklar etiket sembollerine karşı değişmez — yani yalnızca hangi harf ya da rakamın bir cevaba karşılık geldiğini takip etmiyorlar; seçeneğin kendisinin anlamsal içeriğine daha yakın bir şeyi izliyorlar. İkincisi, yüzeysel örtüşmenin sıfır olduğu sentetik bir görevi çözüyorlar; bu görev, hiçbir konumsal-kopya açıklamasının bu davranışı açıklayamayacağı şekilde tasarlanmış. Çalışma, her iki özelliğin de gözlemlenebilmesi için RoPE’nin çıkarılmasını kritik gördüğünü not ediyor — bu konumsal kodlama katmanı kaldırılmadığı sürece, alttaki hizalama sinyali gizli kalıyor.

Birden Fazla Modelde Performans İyileştirmeleri

Bu iddiaların arkasındaki test ölçeği geniş. Araştırmacılar analizlerini, LLaMA-2, LLaMA-3, LLaMA-3.1, LLaMA-3.3, Qwen-2.5, Gemma, Phi-3.5 ve DeepSeek-R1-Distill dahil olmak üzere, 1,5B ile 72B parametre arasında değişen 24 model üzerinde yürüttü. Bu yelpazede, tek bir başlığın QK skoru, her modelin kendi sıfır-atış doğruluğunu tutarlı biçimde geride bıraktı — HellaSwag kıyaslamasında +27,4 yüzde puanına ve HaluDialogue’da +49,8 yüzde puanına kadar.

İkinci rakam özellikle dikkat çekici. Bir modelin çıktıladığı şey ile sorgu-anahtar hizalaması yoluyla içsel dikkat başlığının “söylediği” şey arasında neredeyse 50 puanlık bir fark, kayda değer bir uçurum — öyle ki, bazı görevlerde darboğazın hiç de akıl yürütme kapasitesi değil, çıktıya ya da çözümlenmeye daha yakın bir yerde olabileceğini düşündürüyor.

Bu başlıkların yalnızca doğru cevaplarla ilişkili olmadığını, gerçekten onları üretmekten sorumlu olduğunu doğrulamak için araştırmacılar nedensel sıfır-ablation deneyleri yürüttü — tespit edilen başlıklar kasıtlı olarak devre dışı bırakıldı. Sonuç: MCQA doğruluğu neredeyse rastgele seviyelere düştü; bu da, bu belirli başlıkların, yalnızca süreci yansıtmak yerine, cevap seçimi sürecinde gerçek nedensel iş yaptığının güçlü bir kanıtı.

Gözetimsiz HeadScore ve Yeniden Üretilebilirlik

İncelenecek doğru başlıkları bulmak genellikle etiketli doğrulama verisi gerektirir; bu da bir yöntemin araştırma laboratuvarı dışında ne kadar pratik olabileceğini sınırlar. Bunu çözmek için ekip, yalnızca etiketlenmemiş girdileri kullanarak dikkat başlıklarını sıralayan HeadScore adlı gözetimsiz bir yöntem tanıttı. Gerçek etiketlere erişimi olmamasına rağmen HeadScore, gözetimli yaklaşımla tespit edilen en iyi performans gösteren başlıkların aynısını başarıyla geri kazandı — ve bunu test edilen her bir modelde yaptı.

Çalışma ayrıca QK skorunu, modellerin içeriğe bakmaksızın belirli cevap pozisyonlarını tercih etme eğilimini düzeltmek için tasarlanmış PriDe, Wiegrefe ve Wang gibi mevcut konumsal-önyargı giderme tekniklerinin yanına yerleştiriyor. Makale, QK skorunu bu temel yöntemlerle rekabet eden değil, onları tamamlayan bir yaklaşım olarak çerçeveliyor: önyargı giderme yöntemleri, çıktı logitlerini sonradan yeniden ağırlıklandırarak çalışırken, QK skoru modelin seçimini, herhangi bir çözümlenme gerçekleşmeden önce, orta katmanlardaki bir başlıktan doğrudan okuyor. Bu ayrım — çıktı aşamasına müdahale etmek ile sinyali çözümlenme öncesi okumak arasındaki fark — iki yaklaşımı, ilke olarak birlikte kullanılabilecek araçlar olarak konumlandırıyor.

Yeniden üretilebilirlik için araştırmacılar, model başına başlık indeksleriyle birlikte tek satırlık, doğrudan kullanılabilir bir HeadScore betiği yayımladı; böylece çalışmada test edilen tüm 24 model ve dört kıyaslama için her sonucun tek bir komutla yeniden üretilmesi mümkün hale geldi.

Bu Araştırma Hattının Neden Önemli Olduğu

Bu tür mekanistik yorumlanabilirlik çalışmaları, daha iyi bir sohbet botu inşa etmekten çok, hâlihazırda ölçekli biçimde devreye alınmış sistemlerin içinde gerçekte neler olduğunu anlamakla ilgilidir. Dikkat başlığı seçimi, standart çözümlenmenin kaçırdığı cevapları ortaya çıkarabiliyorsa, bunun değerlendirme kıyaslamalarının nasıl yorumlandığı üzerinde etkileri vardır — bir sıralama tablosunda düşük puan alan bir model, içsel olarak hâlâ doğru cevabı hesaplıyor olabilir, sadece bunu normal üretim yoluyla yüzeye çıkaramıyor olabilir.

Bu aynı zamanda daha verimli model denetimi için bir kapı açar. HeadScore gibi gözetimsiz bir araç, dikkat başlığı seçimini inceleyen araştırmacıların, belirli bir görevde modelin hangi kısımlarının asıl işi yaptığını belirlemek için özenle hazırlanmış etiketli veri kümelerine ihtiyaç duymayacağı anlamına gelir — bu da, her mimari için özel değerlendirme setleri oluşturmadan model iç yapılarını incelemeye çalışan herkes için anlamlı bir pratik kestirme yol sunar.

Bu makale, yapay zekâ desteğiyle üretilmiş ve editör ekibi tarafından gözden geçirilmiştir.

Francesco Antonio Russo

Francesco Antonio Russo adlı yazarın tüm makaleleri