İçeriğe geç
  • BTC $60.102 +1,8%
  • ETH $1.683 +3,4%
  • SOL $70,69 +2,2%
  • BNB $548,25 +1,1%
  • XRP $0,9348 +3,2%
  • DOGE $0,0552 +2,7%
  • ADA $0,1451 +3,5%

Cohesix uç yapay zeka güncellemesi, uçta sessiz hataları durdurmak için her işi doğrular

Cohesix’in yeni bir sürümü, Cohesix uç yapay zeka dağıtımlarındaki en karmaşık sorunlardan birini çözmeye çalışıyor: Hangi işin gerçekten hangi makinede çalıştığını ve baktığınız sonucun gerçek olup olmadığını kesin olarak bilmek. Cohesix 1.2.0, iş gönderimini, izlemeyi ve uzlaştırmayı tek bir hesap verebilir akışta birleştiriyor; böylece kopan bir bağlantı…

Cohesix edge AI
Cohesix Edge AI Enhances Accountable Job Scheduling

Cohesix’in yeni bir sürümü, Cohesix edge AI dağıtımlarındaki en karmaşık sorunlardan birini çözmeye çalışıyor: Hangi işin gerçekten hangi makinede çalıştığını ve baktığınız sonucun gerçek olup olmadığını kesin olarak bilmek. Cohesix 1.2.0, iş gönderimini, izlemeyi ve uzlaştırmayı tek bir hesap verebilir akışta birleştiriyor; böylece bağlantının kopması artık bir görevin sıfırdan yeniden çalıştırılması gerekip gerekmediğini tahmin etmek anlamına gelmiyor.

Öne çıkanlar

  • Cohesix 1.2.0, edge AI dağıtımları için iş gönderimini, izlemeyi ve uzlaştırmayı tek bir yönetilen iş akışında birbirine bağlıyor.
  • “The Queen” adlı bir modül, QEMU içinde veya Raspberry Pi 4 üzerinde seL4 üzerinde çalışarak yetki, zamanlama ve kurtarma işlemlerini GPU kütüphanelerine dokunmadan yönetiyor.
  • GPU işleri, hızlandırıcıya sahip donanımda kalıyor: NVIDIA Jetson üzerinde CUDA, Apple Silicon Mac’lerde MLX.
  • SwarmUI, komut satırı, Python SDK, MCP araçları ve A2A ajanları dahil istemcilerin tümü aynı yönetilen işi takip edebiliyor.
  • Kurulum paketleri Apple Silicon Mac, JetPack Linux ARM64 ve Raspberry Pi 4’ü kapsıyor; uyumluluk belirli doğrulanmış sürüm profillerine bağlı.

Cohesix 1.2.0, hesap verebilir edge AI iş akışlarını güçlendiriyor

İzlenebilirlik bu sürümün merkezinde yer alıyor; bu da her işin kabulü, yürütülmesi ve doğrulanmasının, inanca dayalı olmak yerine sonradan gözden geçirilebileceği anlamına geliyor. Cohesix 1.2.0 ile edge AI iş yükleri tek bir hesap verebilir akış üzerinden ilerliyor — bir iş gönderiliyor, kabulü gözlemlenebiliyor, doğru ana bilgisayarda çalıştırılıyor ve o ana bilgisayarın ürettiği çıktı incelenebiliyor. Bir bağlantı iş ortasında koparsa, sistem, körü körüne yeniden gönderip yinelenen ya da sessiz bir hataya yol açmak yerine, orijinal isteği uzlaştırabiliyor.

Birleştirilmiş iş gönderimi, izleme ve uzlaştırma

Bu önemlidir çünkü edge dağıtımlar, ağ katmanında kötü şöhretli biçimde güvenilmezdir — Wi-Fi kopar, cihazlar yeniden başlar, bağlantılar zaman aşımına uğrar. Her kesintiyi yeniden deneme gerektiren bir hata olarak ele almak yerine Cohesix, işin kimliğini sağlam tutar ve onu donanımda gerçekte olanlarla uzlaştırır. “İstek kabul edildi” ile “istek tamamlandı” arasındaki bu ayrım, tüm sürüm boyunca kendini gösterir.

Yetki, zamanlama ve kurtarma için The Queen modülü

Bu yönetişim katmanının merkezinde, sürüm notlarının “The Queen” olarak adlandırdığı bir modül bulunuyor. Güvenlik odaklı bir mikro çekirdek olan seL4 içinde, ya bir QEMU sanal makinesi içinde ya da doğrudan bir Raspberry Pi 4 üzerinde çalışıyor. The Queen’in görevi dar ama önemli: sistem genelinde yetki, zamanlama ve kurtarma kurallarını uyguluyor. Kritik olarak, GPU kütüphanelerini VM’e veya Pi’nin kendisine yüklemiyor — bu iş kasıtlı olarak başka yerde tutuluyor.

GPU hızlandırma ve iş akışı yönetimi

Cohesix 1.2.0’da GPU hızlandırma, sanallaştırılmış kontrol katmanı içinde değil, tamamen hızlandırıcıya sahip donanım üzerinde ele alınıyor. Bu ayrım, orkestrasyon katmanı değişse bile GPU iş zamanlamasının öngörülebilir kalmasını sağlıyor.

GPU işleri hızlandırıcıya sahip ana bilgisayarda kalır

Daha somut olarak, CUDA hızlandırma desteklenen NVIDIA Jetson referans donanımı üzerinde çalışırken, MLX, Apple’ın kendi Metal çalışma zamanı kullanılarak desteklenen bir Apple Silicon Mac üzerinde çalışır. The Queen bu GPU kütüphanelerine doğrudan dokunmaz; zamanlama ve kurtarmayı koordine ederken, gerçek hesaplama hızlandırıcıya sahip cihaza yerel kalır.

NVIDIA Jetson üzerinde CUDA ve Apple Silicon Mac’lerde MLX desteği

Jetson tarafında, desteklenen CUDA yolu çıkarım ve adaptör işlerini kapsar. Apple donanımında, yerel MLX yolu doğrudan Metal’e erişir. Sağlayıcı seçimi Cohesix’te açıktır; bu da bir işin, bu değişiklik görünür olmadan sessizce MLX’ten CUDA’ya kayamayacağı veya CPU’ya geri dönemeyeceği anlamına gelir.

İş kabulü ve yerel GPU sağlayıcı sonucu doğrulaması

Bu sürümdeki belki de en önemli tasarım tercihi, Cohesix’in iş kabulünü iş tamamlanmasından nasıl ayırdığıdır. Bir kabul onayı, yalnızca The Queen’in isteği kabul ettiği anlamına gelir — CUDA veya MLX’in işi gerçekten bitirdiği anlamına gelmez. Cohesix, orijinal iş kimliğini korur ve yerel sağlayıcının sonucunu bağımsız olarak kontrol eder. Kaybolan bir yanıt, belirsiz bir sonuç veya başarısız bir aday, sistemde görünür kalır; sessizce başarı olarak ele alınmaz. Edge’de üretim çıkarımı çalıştıran herkes için, kabul ile doğrulanmış tamamlama arasındaki bu ayrım, kötü bir sonucun fark edilmeden sızmasını engelleyen türden bir ayrıntıdır.

İstemci ekosistemi ve model yaşam döngüsü yönetimi

Cohesix 1.2.0, araç değişimini gerektirmez — altta aynı yönetişim kurallarını uygularken, bir operatörün zaten kullandığı herhangi bir istemciyle çalışacak şekilde tasarlanmıştır.

Uyumlu istemciler: SwarmUI, komut satırı, Python SDK, MCP araçları ve A2A ajanları

SwarmUI, Cohesix komut satırı ve Python istemcileri, MCP araçları ve A2A ajanları aynı yönetilen iş akışını takip edebilir. QEMU ve Raspberry Pi sürüm profillerinde MCP ve A2A, ana geçitte varsayılan olarak etkindir; ancak operatörler, ihtiyaç duymuyorlarsa kendi dağıtım profillerinde bu protokollerden herhangi birini devre dışı bırakabilir.

Eğitim, değerlendirme, kanarya sürümleri, terfi ve geri alma için PEFT iş akışı

Model güncellemeleri kendi özel yollarını alır. PEFT iş akışı, eğitimi veya içe aktarmayı doğrudan değerlendirme, kanarya sürümü, terfi ve geri alma ile bağlar — operatörlere, doğaçlama betiklere ihtiyaç duymadan PEFT model yönetimini yürütmek için yapılandırılmış bir yol sunar. Dikkat çekici bir şekilde, reddedilen bir aday model, daha önce sunulan bir sürüm daha sonra geri yüklense bile reddedilmiş kalır; bu da kötü bir modelin geri alma sonrasında sessizce yeniden ortaya çıkabileceği bir senaryoyu kapatır.

Kurulum ve uyumlulukla ilgili hususlar

1.2.0 sürümündeki Cohesix kurulumu, üç donanım hedefini ve bağımsız bir Python paketini kapsar; bu da ekiplerin indirmeden çalışan bir dağıtıma oldukça doğrudan bir yol bulmasını sağlar.

Apple Silicon Mac, JetPack Linux ARM64, Raspberry Pi 4 ve Python istemcileri için mevcut kurulum paketleri

Apple Silicon Mac’ler için, SwarmUI’yi Applications klasörüne yerleştiren taşınabilir bir tar.gz arşivi veya imzalı ve noter tasdikli bir .pkg yükleyici vardır. JetPack Linux ARM64 için operatörler, taşınabilir bir tar.gz derlemesi veya Debian paketleri — bir denetleyici paketi artı isteğe bağlı bir SwarmUI paketi — arasında seçim yapabilir; Debian yayıncısı, her iki karmayı da birbirine bağlamak için paket manifestosunu imzalar. Raspberry Pi 4 kullanıcıları, yazma için kendi sağlama toplamına sahip bir SD kart imajı alır. Python SDK ve NeMo Agent Toolkit istemci kiti, ana arşivlerin içinde gelir ve ayrıca PyPI üzerinde cohesix==1.2.0 olarak ayrı ayrı yayımlanır. Hem Mac hem de Linux yükleyicileri, Cohesix komut satırı araçlarını ve SwarmUI’yi paketler ve QEMU isteğe bağlıdır — kurulum süreci, yüklü bir ikili dosya olup olmadığını kontrol eder ve sistem paketi uymuyorsa uyumlu, sabitlenmiş bir derleme sunar. Hiçbir yükleyici, kurulum sırasında bir model indirmez veya kimlik bilgilerini kopyalamaz.

Uyumluluk, doğrulanmış sürüm profillerinin ötesinde nitelendirme gerektirir

Sürüm, garantilerinin nerede sona erdiği konusunda nettir. ARM64 üzerinde Linux yükleyicisi, referans yapılandırma olarak JetPack 7.2.1 / L4T 39.2.1’i kullanırken, Mac için referans Apple Silicon’dur. Raspberry Pi 4 için nitelendirme, Wi-Fi yerine kablolu GENET ağ bağlantısına bağlıdır. Bu belirli profillerin dışında — diğer JetPack sürümleri, farklı Linux dağıtımları veya Wi-Fi üzerinden çalışan Pi kurulumları — uyumluluk varsayılmaz ve yalnızca CPU mimarisinin eşleşmesi doğrulama sayılmaz. Pratikte bu, bu tam referans yapılandırmaların dışında herhangi bir şey çalıştıran ekiplerin, üretimde buna güvenmeden önce kendi kurulumlarını nitelendirmeyi beklemeleri gerektiği anlamına gelir.

SSS

Cohesix Queen modülü hangi ortamlarda çalışır?

The Queen, seL4 üzerinde QEMU veya Raspberry Pi 4 ortamlarında çalışır.

Cohesix, GPU iş sonuçlarının doğruluğunu nasıl sağlar?

Cohesix, sonuçları ayrı ayrı doğrulayarak Queen tarafından iş kabulü ile yerel GPU sağlayıcısı tarafından tamamlanmayı birbirinden ayırır.

Cohesix 1.2.0’da GPU hızlandırma için hangi donanım platformları destekleniyor?

Cohesix, NVIDIA Jetson cihazlarında CUDA’yı ve Apple Silicon Mac’lerde Apple Metal’i (MLX) destekler.

Cohesix 1.2.0 içinde model yaşam döngüsü nasıl yönetilir?

PEFT iş akışı, modellerin eğitimini, değerlendirmesini, kanarya sürümünü, terfisini ve geri alınmasını kasıtlı olarak yönetir.

{“@context”:”https://schema.org”,”@type”:”FAQPage”,”mainEntity”:[{“@type”:”Question”,”name”:”Cohesix Queen modülü hangi ortamlarda çalışır?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”The Queen, seL4 üzerinde QEMU veya Raspberry Pi 4 ortamlarında çalışır.”}},{“@type”:”Question”,”name”:”Cohesix, GPU iş sonuçlarının doğruluğunu nasıl sağlar?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Cohesix, sonuçları ayrı ayrı doğrulayarak Queen tarafından iş kabulü ile yerel GPU sağlayıcısı tarafından tamamlanmayı birbirinden ayırır.”}},{“@type”:”Question”,”name”:”Cohesix 1.2.0’da GPU hızlandırma için hangi donanım platformları destekleniyor?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Cohesix, NVIDIA Jetson cihazlarında CUDA’yı ve Apple Silicon Mac’lerde Apple Metal’i (MLX) destekler.”}},{“@type”:”Question”,”name”:”Cohesix 1.2.0 içinde model yaşam döngüsü nasıl yönetilir?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”PEFT iş akışı, modellerin eğitimini, değerlendirmesini, kanarya sürümünü, terfisini ve geri alınmasını kasıtlı olarak yönetir.”}}]}

Yapay zeka desteğiyle hazırlanmış ve editör ekibi tarafından gözden geçirilmiştir.

Francesco Antonio Russo

Francesco Antonio Russo adlı yazarın tüm makaleleri