Phase 1 — De ring: pipeline-inferentie zonder master

Elk apparaat laadt alleen zijn laagvenster en geeft een kleine hidden-state-grens door aan zijn buur. Geen node hoeft het hele model te bezitten, en de ring heeft geen centrale master.

In de klassieke RPC-topologie opent één master de hele GGUF en belt naar elke worker. Die vorm breekt in een open netwerk op drie manieren: de master moet de hele checkpoint bezitten en serveren; elke worker moet belbaar zijn — telefoons achter carrier-NAT zijn dat niet; en de master is één eigenaar in een netwerk dat er geen zou moeten hebben.

• Elk apparaat slaat hetzelfde model op maar laadt alleen zijn aaneengesloten laagvenster, en opent precies twee verbindingen: één naar zijn voorganger, één naar zijn opvolger.
• Een verzoek betreedt de ring; elke node draait zijn lagen en geeft alleen de hidden-state-grens door aan zijn buur. De laatste rank bemonstert het token en stuurt het terug — geen centrale master op het datapad, en geen node bezit het hele model.
• Plaatsing komt uit het rank manifest van de planner — voor Qwen3.5-122B worden 49 lagen verdeeld over welke mix van GPU, CPU, NPU en telefoon er ook opduikt.

• Deelshard-download: een ringstage heeft de checkpoint niet nodig — hij heeft zijn venster nodig. Een stage-mini-GGUF draagt alleen die tensoren (254 MB met 26 tensoren tegenover het volledige model van 77.6 GB), dus een telefoon haalt ~1.5 GB voor een éénlaagsvenster in plaats van alles.
• Mobiel GPU-pad: de RPC-route naar een telefoon-GPU bleek onhaalbaar (Adrenos OpenCL-bufferindeling overleeft RPC-serialisatie niet), maar een ringstage draait direct op de Adreno-GPU — de stage bezit zijn backend lokaal, dus alleen grenzen kruisen de draad.
• NAT-traversal: telefoons kunnen geen inkomende verbindingen accepteren, dus het datavlak loopt door een 443-relay — een WebSocket-brug per edge met een 1-byte rol-preamble die beide uiteinden naar buiten laat bellen. De telefoon opent nul inkomende poorten.
• Zelfinschrijvingsmarkt: stages worden geclaimd, niet toegewezen. Een node pollt de dekkings-/vraagkaart, kiest het hoogst belonende ongedekte venster, downloadt dat venster en sluit aan — end-to-end geverifieerd met een telefoon achter NAT die ringinferentie voltooide en zijn bijdrage verdiende.

De ring is Kvasirs latentie-pad: grenzen zijn klein, hops zijn weinig, en decoderen stroomt rond de lus zonder iets centraal te verzamelen. Zijn beperking is granulariteit — de kleinste eenheid die een node kan dragen is een laag (~1.4 GB op de 122B). Die vloer wegnemen is wat de expertzwerm doet; de ring blijft de serveerruggegraat waar hij op aansluit.