Otoritas router
Invarian koherensi swarm: perutean diputuskan sekali, di backbone — worker hanya menerima id pakar.
Invariannya: satu-satunya keputusan diskret dalam jaringan adalah perutean MoE (top-8 dari 256). Kvasir menjalankan router tepat sekali, di backbone, dan hanya mengirim id pakar terpilih ke worker. Swarm heterogen boleh sedikit berbeda pada *besaran* keluaran tiap pakar — tetapi tak pernah berbeda pada *pakar mana yang berjalan*.
Status mesin. Sharding pada butiran pakar dibangun dan didemonstrasikan di mesin Kvasir sebelumnya, dan hasil-hasil di bawah ini berasal dari kerja itu. Mesin saat ini, [p4](/wiki/p4), melayani pada butiran lapisan hari ini; memindahkan sharding pakar ke atasnya sudah dirancang dan sedang dikerjakan. Di mana sebuah detail menyebut nama perkakas atau rute, itu adalah yang berjalan di mesin sebelumnya.
Tanpa aturan ini, tiap backend akan menjalankan ulang router dan memilih pakar yang berbeda pada token perbatasan — divergensi katastrofik yang nyata, karena sejak token itu komputasi bercabang seperti dengan seed acak lain. Dengannya, perbedaan perangkat keras mengecil menjadi galat kontinu terbatas yang diserap combine berbobot probabilitas.
Mode divergensi yang ditutup satu titik keputusan
| Mode divergensi | Tanpa otoritas | Dengan otoritas |
|---|---|---|
| Ketidakcocokan perutean | Backend memilih top-8 berbeda di perbatasan | Id diputuskan sekali, dikirim ke pemiliknya |
| Percabangan lintasan | Satu token terbalik mencabangkan seluruh urutan | Dekode/sampling dipatok ke satu node |
| Verifikasi | Perbandingan bit antar backend (mustahil) | Pemeriksaan toleransi pada residu terdefinisi baik |
Biayanya dapat diabaikan: backbone toh sudah menghitung ffn_norm dan logit router; yang menyeberangi kabel hanyalah baris hidden plus id terpilih — sekitar 6 KB per langkah dekode.