NVIDIA, Nemotron 3.5 Lightning’in lansmanı ile ajan odaklı yapay zeka modellerine daha da ağırlık veriyor. Bu yeni açık model, artık günün 24 saati çalışan otonom yapay zeka ajanlarının üstlendiği, her zaman açık, yüksek hacimli görevler için özel olarak geliştirildi. Bununla birlikte şirket, her bir yapay zeka isteğini en hızlı ve en düşük maliyetle işleyebilecek modele yönlendirmek için tasarlanmış açık kaynaklı bir yönlendirme aracı olan NeMo Switchyard’ı da yayınladı. Birlikte ele alındığında, bu iki sürüm NVIDIA’nın ajan odaklı yapay zeka sistemlerini yalnızca daha akıllı değil, aynı zamanda gerçekten ölçeklenebilir şekilde verimli hale getirme yönündeki en son girişimini temsil ediyor.
Summary
Öne çıkanlar
- NVIDIA, yüksek hacimli ajan odaklı yapay zeka iş yükleri için geliştirilmiş, 30 milyar parametreli açık bir uzman karışımı modeli olan Nemotron 3.5 Lightning’i yayınladı.
- Model, kendi sınıfındaki benzer modellere kıyasla 4 kata kadar daha hızlı çıktı hızı ve %30 daha hızlı görev tamamlama sunuyor.
- NVIDIA ayrıca, tek bir üst seviye modeli tek başına kullanmaya kıyasla görev tamamlama maliyetini neredeyse üçte bire indirebilen açık kaynaklı bir yönlendirme kütüphanesi NeMo Switchyard’ı da kullanıma sundu.
- Nemotron 3.5 Lightning, yerel olarak NVIDIA RTX PC’ler, DGX Spark, DGX Station ve Jetson üzerinde çalışabiliyor veya veri merkezlerine ve buluta ölçeklenebiliyor.
- Her iki sürüm de açık, özelleştirilebilir ve halihazırda CrowdStrike, Harvey, CodeRabbit ve Lila Sciences gibi ekosistem ortakları tarafından destekleniyor.
Ajan Odaklı Yapay Zeka İş Yükleri için NVIDIA Nemotron 3.5 Lightning’i Piyasaya Sürüyor
Nemotron 3.5 Lightning, NVIDIA’nın Nemotron 3 ailesinin en yeni üyesi ve şirket, onu uzun süreli ajan odaklı görevler için kendi sınıfındaki en verimli model olarak tanımlıyor. Nemotron 3 Nano’nun ardından gelen bu model, NVIDIA’nın her Nemotron sürümünde izlediği bir modeli sürdürüyor: kapalı kutu yerine açık ağırlıklara, özelleştirmeye ve ham hıza öncelik vermek.
Hız için Tasarlanmış 30 Milyar Parametreli Bir Model
Nemotron 3.5 Lightning, 30 milyar parametreli bir uzman karışımı modeli; bu da her seferinde tüm modeli çalıştırmak yerine, belirli bir görev için yalnızca ağının gerekli kısımlarını etkinleştirdiği anlamına geliyor. Bu tasarım tercihi doğrudan performansa yansıyor: NVIDIA, modelin 4 kata kadar daha hızlı çıktı hızı sunduğunu ve bunun da kendi boyut sınıfındaki diğer modellere kıyasla %30 daha hızlı ajan görev tamamlama anlamına geldiğini belirtiyor. NVIDIA’nın referans verdiği dahili PinchBench kıyaslamalarına göre, bu hız kazanımları, benzer modellere kıyasla doğruluktan ödün vermeden elde ediliyor.
Model, daha büyük çoklu ajan sistemleri içinde belirli bir rol için tasarlandı. Kendi başına tüm bir iş akışını planlamaya çalışmak yerine, Nemotron 3.5 Lightning dar, tekrarlayan ve yüksek hacimli işleri üstlenmek için tasarlandı — özellikle de bir yapay zeka ajanı ara sıra gelen istemlere yanıt vermek yerine sürekli çalıştığında hızla biriken türden işler için.
Alan Odaklı Doğruluk için Özelleştirme ve Sonradan Eğitim
Nemotron 3.5 Lightning açık bir model olduğu için, kurumlar onu kendi alan verileri, dahili araçları ve iş akışları üzerinde NVIDIA NeMo kullanarak sonradan eğitebiliyor. Bu açık yapay zeka modeli özelleştirmesi, NVIDIA’nın bu sürümü konumlandırma biçiminin merkezinde yer alıyor: tek boyut herkese uyar yaklaşımı yerine, işletmeler belirli bir işe göre şekillendirilebilen bir temel model elde ediyor; ister hukuki sözleşmeleri ayrıştırmak, ister güvenlik uyarılarını işaretlemek olsun.
Birçok şirket bunu şimdiden yaptı bile. CrowdStrike, modeli siber güvenlik iş yükleri için özelleştiriyor; Harvey, Trajectory ile birlikte hukuki hizmet uygulamaları üzerinde çalışıyor ve CodeRabbit, otomatik kod incelemesi için modeli Baseten ile eşleştirdi. Lila Sciences, fiziksel ve yaşam bilimleri görevlerinde akıl yürütmeyi geliştirmek için modeli kullanırken, Fastino Labs modeli yazılım geliştirme, finans ve sağlık iş yükleri için ayarladıktan sonra önde gelen doğruluk oranları bildirdi. NVIDIA, modelin Nemotron Koalisyonu’nun katkılarıyla geliştirildiğini; üyelerin nihai sürümü şekillendirmeye yardımcı olan değerlendirme metodolojileri, çıkarım yazılımları ve veri kümeleri sağladığını belirtiyor.
NeMo Switchyard, Yapay Zeka Ajanlarına Akıllı Yönlendirme Getiriyor
NeMo Switchyard, ajan odaklı sistemler ölçeklendikçe kötüleşen bir sorunu çözüyor: tek bir varsayılan modele güvenmek, ya yoğun akıl yürütme gerektirmeyen görevlerde gereksiz harcama yapılmasına ya da hafif bir modelden kapasitesinin ötesinde şeyler istendiğinde kalite kaybına yol açıyor. NVIDIA’nın yanıtı, her istekte hangi modelin işi üstlenmesi gerektiğine otomatik olarak karar veren açık kaynaklı bir kütüphane.
Dinamik Model Seçimi ile Maliyetleri Düşürmek
NeMo Switchyard, bir ajanın iş akışının her adımını, geliştiricilerin uygulamalarını yeniden yazmasını gerektirmeden, o görev için en yetkin ve maliyet açısından en verimli modele yönlendiriyor. Geliştiriciler, kendileri için en önemli olana — gecikme, kalite veya maliyet — göre yönlendirme algoritmasını ayarlayabiliyor veya değiştirebiliyor. NVIDIA’nın dahili kıyaslamaları, bu NeMo Switchyard yönlendirme yaklaşımının, tüm iş yükünü tek başına Opus 4.8 üzerinden çalıştırmaya kıyasla görev tamamlama maliyetini neredeyse üçte bire indirirken, üst seviye modellere yakın doğruluk sağladığını gösteriyor.
Bu fark önemli. Ajanların sürekli çalıştığı sistemlerde, akıllı yönlendirme ile tek bir modele varsayılan olarak gitme arasındaki fark, günde binlerce görev boyunca hızla bileşik hale geliyor — ilk bakışta mütevazı görünen bir verimlilik kazanımını, zaman içinde anlamlı bir işletme maliyeti düşüşüne dönüştürüyor.
Yapay Zeka Ekosistemi Genelinde Entegrasyon
NVIDIA, bu tür yönlendirmeyi doğrudan geliştiricilerin günlük olarak kullandığı araçlara getirmek için halihazırda çok çeşitli ortaklarla çalışıyor. Bu ekosistem çalışmalarından elde edilen ilk sonuçlar, yönlendirmenin maliyet ve performansı ne kadar değiştirebileceğini gösteriyor:
- Boomi, trafiğin %59’unu 5 kat daha hızlı, ince ayarlı bir modele gönderirken %100 alan yönlendirme doğruluğu elde etti ve sonraki turlardaki gecikmeyi %21 azalttı.
- Cognition, Devin Desktop’a aşamalı bir yönlendirici entegre ederek, her şeyi tek bir üst seviye modele yönlendirmeye kıyasla ortalama maliyeti %28 düşürdü.
- LangChain, 145 çok turlu Deep Agents görevi genelinde, çağrıların yalnızca %7’sini bir üst seviye modele göndererek maliyetleri %74 azalttı; bunun karşılığında %6’lık bir doğruluk kaybı yaşandı.
- Ramp, SWE-Bench testlerinde üst seviye model performansını yakalarken maliyetleri %58, çalışma süresini ise %33 azalttı.
- Classmethod, opencode ve Fireworks iş yükleri genelinde kaliteyi korurken maliyetlerde %27 azalma bildirdi.
Kong, LiteLLM, Nous Research, Cadence ve Siemens de yapay zeka ağ geçitlerinden resmi yonga doğrulama ve mühendislik ajanlarına kadar kendi platformlarında NeMo Switchyard’ı entegre ediyor veya kıyaslıyor.
NVIDIA Donanımı Genelinde Esnek Dağıtım
Bu sürümün en büyük satış noktalarından biri, Nemotron 3.5 Lightning’in gerçekte nerede çalışabildiği. Model, NVIDIA RTX PC’ler, DGX Spark, DGX Station ve Jetson cihazları genelinde yerel ve bulut dağıtımını destekliyor; böylece kurumlar her şeyi buluta taşımak yerine halihazırda sahip oldukları donanımı kullanabiliyor. Buradan itibaren model, daha büyük kurumsal dağıtımlar için RTX PRO iş istasyonlarına, uç cihazlara, veri merkezlerine ve tam bulut ortamlarına ölçeklenebiliyor.
Bu esneklik, kurumlara gizlilik ve gecikme üzerinde gerçek bir kontrol sağlıyor. Modeli yerel veya kurum içi çalıştırmak, hızlı yanıt ve daha sıkı veri kontrolü gerektiren yüksek hacimli, uzmanlaşmış görevler için uygunken, isteğe bağlı ölçeklenme gerektiren iş yükleri için bulut dağıtımı seçenek olarak kalıyor.
Açık Veri ve Platform Erişilebilirliği
Her Nemotron sürümünde olduğu gibi NVIDIA, lisansların izin verdiği ölçüde eğitim verilerinin ve tekniklerin mümkün olduğunca büyük bir kısmını yayınladığını; böylece dış araştırmacılara aynı materyal üzerinde izleme, denetleme ve hatta başka modelleri eğitme imkânı sunduğunu belirtiyor. Lightning ile birlikte NVIDIA, modeli kodlama ajan görevleri için sonradan eğitmekte kullanılan ajan odaklı bir pekiştirmeli öğrenme veri kümesi olan Nemotron-RL-Agentic-Terminal-Pivot’u da yayınlıyor.
Nemotron 3.5 Lightning, Hugging Face, ModelScope ve OpenRouter’da, ayrıca NVIDIA NIM mikroservisi olarak build.nvidia.com’da şu anda kullanılabilir durumda; NVIDIA Bulut Ortakları, sonradan eğitim platformları ve ek bulut hizmet sağlayıcıları üzerinden daha geniş erişim de yolda. NeMo Switchyard ise bugün GitHub’da yayında ve yakında daha fazla ortak platform için destek bekleniyor.
SSS
Nemotron 3.5 Lightning nedir ve onu farklı kılan nedir?
Nemotron 3.5 Lightning, yüksek hacimli ajan odaklı yapay zeka görevleri için optimize edilmiş, 30 milyar parametreli açık bir yapay zeka modelidir ve benzer modellere kıyasla 4 kata kadar daha hızlı çıktı ve %30 daha hızlı görev tamamlama sunar.
NeMo Switchyard yapay zeka verimliliğini nasıl artırır?
NeMo Switchyard, yapay zeka isteklerini dinamik olarak en uygun modele yönlendiren açık kaynaklı bir yönlendirme kütüphanesidir ve tek bir modele güvenmeye kıyasla görev tamamlama maliyetlerini yaklaşık üçte bire düşürür.
Nemotron 3.5 Lightning, belirli kurumsal ihtiyaçlar için özelleştirilebilir mi?
Evet. Nemotron 3.5 Lightning, uzmanlaşmış, alan odaklı görevlerde doğruluğu artırmak için bir kurumun kendi verileri üzerinde NVIDIA NeMo kullanılarak sonradan eğitilebilir.
Nemotron 3.5 Lightning hangi platformlarda dağıtım için kullanılabilir?
Nemotron 3.5 Lightning, NVIDIA RTX PC’ler, DGX sistemleri, Jetson ve uç cihazlar üzerinde yerel ve bulut dağıtımını destekler ve Hugging Face, ModelScope, OpenRouter ve NVIDIA Bulut Ortakları gibi platformlarda kullanılabilir.
{“@context”:”https://schema.org”,”@type”:”FAQPage”,”mainEntity”:[{“@type”:”Question”,”name”:”Nemotron 3.5 Lightning nedir ve onu farklı kılan nedir?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Nemotron 3.5 Lightning, yüksek hacimli ajan odaklı yapay zeka görevleri için optimize edilmiş, 30 milyar parametreli açık bir yapay zeka modelidir ve benzer modellere kıyasla 4 kata kadar daha hızlı çıktı ve %30 daha hızlı görev tamamlama sunar.”}},{“@type”:”Question”,”name”:”NeMo Switchyard yapay zeka verimliliğini nasıl artırır?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”NeMo Switchyard, yapay zeka isteklerini dinamik olarak en uygun modele yönlendiren açık kaynaklı bir yönlendirme kütüphanesidir ve tek bir modele güvenmeye kıyasla görev tamamlama maliyetlerini yaklaşık üçte bire düşürür.”}},{“@type”:”Question”,”name”:”Nemotron 3.5 Lightning, belirli kurumsal ihtiyaçlar için özelleştirilebilir mi?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Evet. Nemotron 3.5 Lightning, uzmanlaşmış, alan odaklı görevlerde doğruluğu artırmak için bir kurumun kendi verileri üzerinde NVIDIA NeMo kullanılarak sonradan eğitilebilir.”}},{“@type”:”Question”,”name”:”Nemotron 3.5 Lightning hangi platformlarda dağıtım için kullanılabilir?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Nemotron 3.5 Lightning, NVIDIA RTX PC’ler, DGX sistemleri, Jetson ve uç cihazlar üzerinde yerel ve bulut dağıtımını destekler ve Hugging Face, ModelScope, OpenRouter ve NVIDIA Bulut Ortakları gibi platformlarda kullanılabilir.”}}]}
Bu makale, yapay zekâ desteğiyle hazırlanmış ve editör ekibi tarafından gözden geçirilmiştir.
