Microsoft'un ONNX Runtime projesinin tarayıcı sürümü. ONNX formatına aktarılmış bir modeli sunucuya ihtiyaç duymadan, işlemciyle WebAssembly üzerinden, ekran kartıyla WebGPU üzerinden doğrudan kullanıcının cihazında çalıştırır. Sayfa cross-origin izole sunulduğunda WebAssembly birden fazla iş parçacığı kullanabilir.
Yapay zekâ modellerini sunucuya ihtiyaç duymadan, ziyaretçinin cihazında çalıştırmak için kullanılıyor. Model bir Web Worker içinde çalıştığı için sayfa bu sırada donmaz ve görüntüler sunucuya gönderilmez.
Tarayıcı WebGPU sunmuyorsa model WebAssembly ile işlemcide çalışır. Sonuç aynıdır, yalnızca süre cihaza göre değişir.
WebAssembly'nin birden fazla iş parçacığı kullanabilmesi için SharedArrayBuffer gerekiyor, bu da sayfanın COOP ve COEP başlıklarıyla sunulmasını şart koşuyor.