tanırım
Yapay Zekâ ve Model

ONNX Runtime Web

FrameworkONNXTarayıcı

Microsoft'un ONNX Runtime projesinin tarayıcı sürümü. ONNX formatına aktarılmış bir modeli sunucuya ihtiyaç duymadan, işlemciyle WebAssembly üzerinden, ekran kartıyla WebGPU üzerinden doğrudan kullanıcının cihazında çalıştırır. Sayfa cross-origin izole sunulduğunda WebAssembly birden fazla iş parçacığı kullanabilir.

Genel Özellikler

Dil / Runtime
JavaScript ve WebAssembly
Kullanılan Sürüm
1.30.0
Lisans
MIT
// Yardım

Sıkça Sorulan Sorular

Yapay zekâ modellerini sunucuya ihtiyaç duymadan, ziyaretçinin cihazında çalıştırmak için kullanılıyor. Model bir Web Worker içinde çalıştığı için sayfa bu sırada donmaz ve görüntüler sunucuya gönderilmez.

Tarayıcı WebGPU sunmuyorsa model WebAssembly ile işlemcide çalışır. Sonuç aynıdır, yalnızca süre cihaza göre değişir.

WebAssembly'nin birden fazla iş parçacığı kullanabilmesi için SharedArrayBuffer gerekiyor, bu da sayfanın COOP ve COEP başlıklarıyla sunulmasını şart koşuyor.