Router-autoriteit
De coherentie-invariant van de zwerm: routering wordt één keer beslist, op de backbone — workers ontvangen alleen expert-id's.
De invariant: de enige discrete beslissing in het netwerk is MoE-routering (top-8 van 256). Kvasir draait de router precies één keer, op de backbone, en stuurt workers alleen de id's van de geselecteerde experts. Een heterogene zwerm kan licht verschillen in de *grootte* van de uitvoer van elke expert — hij verschilt nooit in *welke experts draaien*.
Engine-status. Sharding op expertkorrel is gebouwd en gedemonstreerd op Kvasirs vorige engine, en de resultaten hieronder komen uit dat werk. De huidige engine, [p4](/wiki/p4), serveert vandaag op laagkorrel; het overzetten van expert-sharding daarnaartoe is ontworpen en in uitvoering. Waar een detail een tool of een route noemt, is dat de tool of route die op de vorige engine draaide.
Zonder deze regel zou elk backend de router opnieuw draaien en bij grensgevallen andere experts kiezen — echte, catastrofale divergentie, want vanaf dat token vertakt de berekening als met een andere random seed. Mét de regel reduceren hardwareverschillen tot een begrensde continue fout die de kansgewogen combine absorbeert.
Divergentiemodi gesloten door één beslispunt
| Divergentiemodus | Zonder autoriteit | Met autoriteit |
|---|---|---|
| Routeringsmismatch | Backends kiezen verschillende top-8 op grenzen | Id's één keer beslist, naar de eigenaren gestuurd |
| Trajectvertakking | Eén omgeslagen token vertakt de hele reeks | Decoderen/samplen vastgepind op één node |
| Verificatie | Bitvergelijking tussen backends (onmogelijk) | Tolerantiechecks op goed gedefinieerde residuen |
De kosten zijn verwaarloosbaar: de backbone berekende toch al ffn_norm en de router-logits; wat over de lijn gaat zijn alleen de hidden-rijen plus de geselecteerde id's — zo'n 6 KB per decodeerstap.