İçeriğe geç
  • BTC $62.875 −0,4%
  • ETH $1.776 +0,7%
  • SOL $73,67 +0,6%
  • BNB $585,32 +0,5%
  • XRP $0,9658 −1,0%
  • DOGE $0,0584 −0,3%
  • ADA $0,1519 +0,9%

Vitalik Buterin, “insan jürisi”ni yeniden gündeme getiriyor: info-finans, MCP saldırısından sonra AI saldırılarına karşı kripto hazinelerini bu şekilde koruyabilir

Vitalik Buterin, kararları ve kripto hazinesini denetleyecek bir insan jürisinin, LLM ile birlikte benimsenmesini öneriyor.

Bu makale yapay zekâ sistemleriyle üretilmiştir; editoryal sorumlu: Amelia Tomasicchio. Nasıl çalışıyoruz

vitalik buterin ai mcp

Bir takvim daveti içeren bir jailbreak prompt, bir AI ajanının Model Context Protocol (MCP) aracılığıyla bağlandığında veri sızdırmaya nasıl itilebileceğini göstermek için yeterli oldu. Bu tür prompt injection ile ilgili sinyaller ve hafifletmeler, 17 Nisan 2025’te LLM01 riskini güncelleyen OWASP GenAI yönergelerinde resmileştirildi OWASP GenAI. 

Buradan Vitalik Buterin tarafından yeniden gündeme getirilen fikir: kararları ve crypto tesorerie‘lerini denetleyen bir insan jürisi benimsemek, dil modelleri tarafından desteklenen — ancak onların yerine geçmeyen. Bu bağlamda, öncelik insanı nihai hakem olarak tutmak olur.

Exploit MCP: Ne Oldu ve Neden Kripto Hazineleri İçin Önemli

Araştırmacı Eito Miyamura (kaynak: BitcoinEthereumNews) basit bir takvim davetinin, kötü niyetli bir prompt ile dolu olarak, bir AI ajanını özel e-postaları okumaya ve içerikleri bir saldırgana iletmeye ikna ettiği bir saldırıyı açıkladı. Vektör, Gmail, takvimler, SharePoint ve Notion ile MCP entegrasyon zincirini kullanıyor: daha fazla bağlayıcı, daha geniş bir saldırı yüzeyi anlamına geliyor. İçeriğin görünürdeki zararsızlığı riskin artmasına neden oluyor.

MCP’nin developer modeda çalıştığı bağlamlarda, hassas eylemler için bir insan onayı öngörülmektedir. Ancak, karar yorgunluğu onay istemlerini otomatik hale getirebilir; ve işin içinde hazinedarlıklar veya dosya ve kimlik bilgilerini içeren iş akışları olduğunda, insan hatası bir tek hata noktası haline gelir. Bununla birlikte, izinleri ve kritik adımları ayırmak önemli olmaya devam etmektedir.

Sektör analistleri, OWASP tarafından Nisan 2025 güncellemesinde belgelenen, dolaylı prompt enjeksiyonlarının — yani insan gözüyle görünmeyen ancak LLM tarafından yorumlanabilen içeriklerin — artan bir risk sınıfı olduğunu gözlemliyorlar. 2025’in ilk yarısında, güvenlik konusunda uzmanlaşmış ekipler tarafından yürütülen red-teaming testlerinde, birden fazla entegrasyon (e-posta, takvim, dosya depolama) içeren senaryolar, segmentasyon eksikliğinin, filtreler ve en az ayrıcalık politikaları uygulanmadığında sızma olasılığını önemli ölçüde artırdığını gösterdi.

Vitalik Buterin’in önerisi: AI destekli bir insan jürisi

“Her zaman güvendiğiniz temel bir gerçek sinyalinden yola çıkmalısınız. Gerçekçi bir şekilde bunun, bireysel jüri üyelerinin elbette tüm LLM’ler tarafından desteklendiği bir insan jürisi olması gerektiğini düşünüyorum.”

— Vitalik Buterin (AMBCrypto)

Buterin, doğrulama için insandan başlayan bir yol öneriyor: tamamlayıcı yeteneklere sahip kişilerden oluşan bir jüri, analiz ve sentez için modellerle desteklenmiş, ancak kritik kararlar üzerinde son söz hakkına sahip. Bu bağlamda, jüri, yapay zeka finansal varlıklara veya yüksek etkili izinlere eriştiğinde, otomatik manipülasyon ve operasyonel halüsinasyonlara karşı bir “çapa” olarak hareket eder.

Info-finanza: insan kontrolü ile “açık piyasa” yönetimi

Info-finanza kavramı, yönetişimi bir öneri pazarına kaydırır: farklı çerçeveler ve politikalar kamuya açık bir şekilde rekabet ederken, spot check ve kararlar jürinin elinde kalır. Bu, DAO’larda ve DeFi‘de benimsenen uygulamaların doğal bir uzantısıdır ve şeffaflık, dağıtılmış sorumluluk ve sürekli denetim teşviklerini önceliklendirir.

Buterin, fonların tahsisini bir AI’ye emanet etmenin, düşmanca aktörlerin belgeler, davetiye ve yorumlar içine “gimme all the money” gibi yükler yerleştirebileceği konusunda uyarıyor. Bu nedenle, bilgi-finans, kararların izlenebilirliği ve sermaye hareketlerini içeren adımlar üzerinde insan kontrolleri üzerine odaklanıyor. Yine de, prosedürel bileşen, teknik bileşen kadar önemli kalıyor.

Ethereum Vakfı: Hazine Üzerinde Daha Fazla Şeffaflık ve Sürdürülebilirliğe Odaklanma

Bu vizyon çerçevesinde, Buterin, Ethereum Foundation‘ın 4 Haziran 2025’te yayımlanan Treasury Policy‘sini daha aktif yönetim hedefleri ve uzun vadeli sürdürülebilirliği sağlamak için operasyonel sınırlarla güncellediğini açıkladı. Sektör raporları, belirtiyor ki, 31 Ekim 2024 itibarıyla beyan edilen hazine yaklaşık 970,2 milyon dolar olup, bu veri ETH satışına ve operasyonel sınırlara ilişkin yeni kurallar için referans olarak kullanılmıştır. Ayrıca, Buterin, Codex‘ten, “large‑scale value” kullanım durumları için potansiyel bir altyapı olarak stablecoin ile ödeme odaklı bir layer 2 olarak bahsetti; bu, dayanıklılığı ve benimsemeyi güçlendirmeye yönelik stratejik bir hamle olup, bazı detaylar henüz doğrulanmamıştır.

Hazine yönetimi için insan jürisi nasıl yapılandırılır

  • Kompozisyon: karma profiller (güvenlik, hukuk, finans, operasyonlar). Önyargı ve baskıları azaltmak için periyodik rotasyon ve kısmi anonimlik.
  • Mandato: engelleyici eylemleri (ör. izin değişiklikleri, işlemlerin yürütülmesi, yeni AI konektörlerinin bağlanması) net bir şekilde tanımlayın.
  • Süreç: değiştirilemez denetim logları ile çift kontrol (4‑eyes veya multi‑sig) ve zincir üzerinde veya doğrulanabilir arşivlerde saklanan açık gerekçe.
  • Teşvikler: zaman ve sorumluluk için ödeme, kanıtlanmış ihmal durumunda cezalar.
  • Çıkar çatışmaları: zorunlu açıklama, çekimser kalma ve hassas durumlarda bağımsız inceleme.

MCP, jailbreak ve “Goodharting”: ayırt edilmesi gereken iki risk

  • MCP aracılığıyla Jailbreak: sıradan içeriklerde gizli komutlar (davetler, notlar, belgeler) gerçek araçlarla bağlantılı yapay zekayı kullanarak, istenmeyen bir eylem gerçekleştirme veya veri sızıntısı riski taşır.
  • Goodharting: bir metrik hedef haline geldiğinde, ölçmesi gereken şeyi ölçmeyi bırakır ve bu da görünürde ancak çarpık optimizasyonlara yol açar (örneğin, belirli bir puanı maksimize etmek için “hileli” performanslar).

Operasyon Kontrol Listesi: Bugün Riski Azaltmak İçin 7 Hamle

  • Bağlayıcıların segmentasyonu: test ve üretim ortamlarını ayırmak. AI’yi kutular ve takvim sandbox’ları ile sınırlamak.
  • Güçlü onaylar: Otomatik onay işlevlerini devre dışı bırakın; 2FA ve hazine ile ilgili işlemler ve izinler için çoklu imza talep edin.
  • İçerik filtreleri: davetleri ve harici belgeleri engellemek veya temizlemek, anormal promptları ajana ulaşmadan önce tespit etmek.
  • En az ayrıcalık: AI’ye yalnızca gerekli asgari izinleri verin, token ve anahtarları sık sık değiştirin.
  • İzleme: anormal hareketler için gerçek zamanlı alarmlar ve jüri tarafından erişilebilir kayıtlar.
  • Kırmızı ekip testi: Yönetime rapor ile periyodik simülasyon kampanyaları (örneğin, kötü niyetli takvim davetleri).
  • Olay kitabı olayları: bağlayıcıların iptali, yapay zekanın izolasyonu ve paydaşlara zamanında bildirim için net prosedürler.

Mini‑SSS

  • MCP takvimi daveti yoluyla yapılan exploit neyi gösteriyor? Bu, tek bir içeriğin, gerçek araçlara bağlı bir AI ajanını yönlendirebilecek bir prompt taşıyabileceğini ve bunun gizlilik ve operasyonel bütünlük üzerinde etkileri olabileceğini gösteriyor.
  • AI destekli “insan jürisi” nedir? İnsanların nihai kararları aldığı, özellikle para veya izinlerin söz konusu olduğu durumlarda analiz ve araştırma için yapay zekadan yararlandığı bir mekanizmadır.
  • Info-finans nedir? Policy ve çerçevelerin açık bir piyasada rekabet ettiği bir yönetim biçimidir, ancak yüksek riskli işlemler insan kontrolüne ve düzenli denetimlere tabi kalır.
  • Bugün hazineler nasıl korunuyor? Multi‑sig kullanımı, operasyonel limitler, rollerin ayrılması ve işlemleri, yeni entegrasyonları ve izin değişikliklerini doğrulayan bir insan jürisi aracılığıyla.

Sonuçlar ve önümüzdeki aylarda nelere dikkat edilmeli

Güvenlik sadece bir teknik mesele değildir; süreçler, şeffaflık ve doğrulanabilir sorumluluk gerektirir. Buterin’in vurguladığı gibi, jailbreaking sorunu ikili değildir, Goodharting fenomeni ise ince bir “dolandırıcılık” metriği biçimidir. Artan otomasyon bağlamında, insan jürisi tarafından desteklenen bilgi-finans, hazine ve kritik kararlar üzerindeki riskleri azaltmak için pragmatik bir paraşüt olarak yapılandırılır.

Satoshi Voice

Bu makale yapay zeka desteği ile üretilmiş ve doğruluk ve kaliteyi sağlamak için gazeteci ekibimiz tarafından gözden geçirilmiştir.

Satoshi Voice adlı yazarın tüm makaleleri