İçeriğe geç
  • BTC $60.220 −2,7%
  • ETH $1.685 −3,7%
  • SOL $70,36 −1,2%
  • BNB $546,89 −4,1%
  • XRP $0,9267 −1,9%
  • DOGE $0,0552 −2,5%
  • ADA $0,1437 −2,0%

Revolut’un yapay zekâ maliyetlerindeki düşüş, Çin GLM modelleriyle yüzde 90’a ulaşıyor

Revolut, OpenAI ve Anthropic’in ticari hizmetlerinden özel altyapı üzerindeki Çinli GLM modellerine geçerek yapay zeka maliyetlerini %90 oranında düşürdüğünü söylüyor. Bunu, yapay zeka operasyonlarından sorumlu olan David Abitbol açıklıyor. Öne çıkan noktalar: Revolut, 56 NVIDIA B200 GPU üzerinde GLM 5.3 kullanıyor. İşleme maliyeti ortalama milyon başına 0,30 dolar tutuyor…

riduzione costi AI di Revolut

Revolut, OpenAI ve Anthropic’in ticari hizmetlerinden, özel altyapı üzerinde çalışan Çin menşeli GLM modellerine geçerek yapay zeka maliyetlerini %90 oranında düşürdüğünü söylüyor. Bunu, yapay zeka operasyonlarından sorumlu David Abitbol açıklıyor.

Temel noktalar

  • Revolut, 56 NVIDIA B200 GPU üzerinde GLM 5.3 kullanıyor.
  • İşleme maliyeti ortalama olarak milyon token başına 0,30 dolar.
  • Aynı sayıda GPU ile ilk yanıt gecikmesi %88 azaldı.
  • Dahili olarak yönetilen modeller erişim kontrolleri ve etkinlik takibiyle çalışıyor.

Revolut’un yapay zeka maliyetlerini düşürme yöntemi

Tasarruf, bilinçli bir tercihten kaynaklanıyor: Çinli Z.ai (önceden Zhipu AI) ekibi tarafından geliştirilen GLM 5.3’ü, özel bir altyapıda çalıştırmak. Şirket artık ticari hizmetleri varsayılan seçenek olarak kullanmıyor ve modeli kendi kontrolü altında tutuyor.

Abitbol’a göre Blackwell mimarisine dayalı 56 NVIDIA B200 GPU, yaklaşık 2.000 mühendisin iş yüklerini yönetiyor. Altyapı, hızlı yanıtlar ve aynı anda çok sayıda isteği karşılayacak şekilde optimize edilmiş.

Buna karşın geçiş, tüm dış araçları ortadan kaldırmadı. Claude Code, Codex ve Gemini hâlâ kullanılabilir durumda; özellikle de dahili olarak yönetilen modellere kıyasla belirgin avantajlar sundukları görevler için.

Aynı donanımla daha hızlı yanıtlar

Nisan–Ağustos 2026 arasında Revolut, ilk token süresini ek GPU eklemeden 14,26 saniyeden 1,68 saniyeye düşürdü. Bu, başlangıç gecikmesinde %88’lik bir iyileşme anlamına geliyor; saniye başına istek sayısı ise %76 arttı.

İlk token süresi ya da TTFT, modelin yanıt vermeye başlamasından önceki bekleme süresini ölçüyor. Abitbol bunu en önemli gösterge olarak görüyor: Hedef, üç saniyenin altında kalmak; çünkü beş saniyenin üzerinde yanıtlar yavaş geliyormuş gibi algılanmaya başlıyor.

Gündelik mühendislik işleri için, diye ekliyor, saniyede yaklaşık 200 token üretimi yeterli. Bu işler, sonuçları geliştiriciler tarafından sonradan kontrol edilen yapay zeka ajanlarını giderek daha fazla içeriyor.

FP4 kuantizasyonu ve KV önbelleği

Başlıca optimizasyonlardan biri, değerleri FP8’in sekiz bit’i yerine dört bit ile saklayan FP4 kuantizasyonu; bu da gereken belleği azaltıyor. Abitbol’a göre FP8’e geçmek, yaklaşık %40 daha fazla GPU kaynağı gerektirir.

Ona göre bu geçiş, Revolut geliştiricilerinin iş yükleri için anlamlı bir doğruluk kazancı sağlamazdı.

Revolut, programlama faaliyetleri için KV önbelleğinde %90’ın üzerinde isabet oranı hedefliyor. Key-Value önbelleği, ara sonuçları saklayarak sistemin önceden işlenmiş bilgileri yeniden kullanmasına olanak tanıyor; böylece geliştiriciler yinelenen kod kalıpları üzerinde çalışırken gecikme ve GPU yükü azalıyor.

Önbellek kapasitesi, bağlam uzunluğu ve eşzamanlı istekler dengelenmek zorunda. Abitbol bazı modellerin bir milyon token’a kadar bağlam desteklediğini, ancak daha uzun bağlamların daha fazla bellek tükettiğini ve eşzamanlı istek sayısını sınırlayabileceğini belirtiyor.

Ek bağlam gerekli olmadığında Revolut, işlenen bilgi miktarını sınırlıyor. Değerlendirilen diğer teknikler arasında spekülatif çözümleme (speculative decoding) ve istek işleme aşamalarının optimize edilmesi yer alıyor.

Token başına maliyetler ve daha kısa geliştirme süreleri

Ortalama işlem maliyeti milyon token başına 0,30 dolar. Yapay zeka için toplam harcama, bugün OpenAI ve Anthropic hizmetlerine geçmişte ödenenin yaklaşık onda biri düzeyinde.

Revolut’a göre kod yazma hızı %60 arttı ve geliştirme süreleri %70 kısaldı.

Bu sonuçlar, Ocak 2025’te Gemini’nin benimsenmesinin ardından geldi; ilk iç veriler, kod yazma süresinde %20, lead time’da ise %10 azalma gösteriyordu.

Claude Code’un ekonomisi ise başlangıçta daha az ikna ediciydi: Yoğun kullanım, şirketi harcama limitleri koymaya itti. Dahili olarak yönetilen GLM modellere geçiş, maliyetlerin daha da düşürülmesini sağladı.

Özetle, kuantizasyon, bellek yönetimi ve çıkarım (inference) optimizasyonuyla Revolut, ek donanıma yatırım yapmadan önce hâlihazırda kullandığı hızlandırıcılardan daha fazla performans elde etti.

Dahili çalıştırma ve veri yolunun kontrolü

Çin’de geliştirilmiş bir model kullanmak, taleplerin mutlaka modelin geliştiricilerine gönderileceği anlamına gelmiyor. Model ağırlıkları indiriliyor ve seçilen bir altyapıda çalıştırılıyor; bu da Revolut’un çıkarım için kullanılan veri yolunu kontrol etmesini sağlıyor.

Abitbol, sandboxing, yetkilendirme kuralları ve insan gözetimine dayalı bir mimari tanımlıyor. Politikalar, ajanların hangi işlemlerinin izinli ya da engelli olduğunu belirliyor; telemetri ise sistemin ne yaptığını yeniden oluşturmak ve anormallikleri saptamak için etkinliği kaydediyor.

Revolut’un benimsediği model, böylece dahili olarak çalıştırılan modelleri, kontrollü erişimi ve izlenebilir işlemleri bir araya getiriyor. Programlama ajanları yetkilendirme politikaları altında çalışıyor ve telemetri, eylemleri üzerindeki kontrolü destekliyor.

Bu içerik, yapay zeka desteğiyle ve insan editoryal incelemesiyle hazırlanmıştır.

Francesco Antonio Russo

Francesco Antonio Russo adlı yazarın tüm makaleleri