Phase 1 — Der Ring: Pipeline-Inferenz ohne Master

Jedes Gerät lädt nur sein Layer-Fenster und reicht eine kleine Hidden-State-Grenze an seinen Nachbarn weiter. Kein Knoten muss das ganze Modell halten, und der Ring hat keinen zentralen Master.

In der klassischen RPC-Topologie öffnet ein Master das gesamte GGUF und wählt jeden Worker an. Diese Form bricht in einem offenen Netzwerk dreifach: Der Master muss den ganzen Checkpoint halten und ausliefern; jeder Worker muss anwählbar sein — Smartphones hinter Carrier-NAT sind es nicht; und der Master ist ein einzelner Eigentümer in einem Netzwerk, das keinen haben sollte.

• Jedes Gerät speichert dasselbe Modell, lädt aber nur sein zusammenhängendes Layer-Fenster und öffnet genau zwei Verbindungen: eine zum Vorgänger, eine zum Nachfolger.
• Eine Anfrage betritt den Ring; jeder Knoten führt seine Layer aus und reicht nur die Hidden-State-Grenze an den Nachbarn weiter. Der letzte Rang sampelt den Token und schickt ihn zurück — kein zentraler Master im Datenpfad, kein Knoten hält das ganze Modell.
• Die Platzierung stammt aus dem rank manifest des Planners — bei Qwen3.5-122B werden 49 Layer auf jede auftauchende Mischung aus GPU, CPU, NPU und Smartphone verteilt.

• Teil-Shard-Download: Eine Ring-Stage braucht nicht den Checkpoint — sie braucht ihr Fenster. Ein Stage-mini-GGUF trägt nur diese Tensoren (254 MB mit 26 Tensoren gegenüber dem 77.6-GB-Vollmodell), ein Smartphone zieht also ~1.5 GB für ein Ein-Layer-Fenster statt alles.
• Mobiler GPU-Pfad: Die RPC-Route zur Smartphone-GPU erwies sich als unmöglich (Adrenos OpenCL-Buffer-Layout übersteht die RPC-Serialisierung nicht), aber eine Ring-Stage läuft direkt auf der Adreno-GPU — die Stage besitzt ihr Backend lokal, über die Leitung gehen nur Grenzen.
• NAT-Traversierung: Smartphones können keine eingehenden Verbindungen annehmen, die Datenebene läuft daher durch ein 443-Relay — eine WebSocket-Brücke pro Edge mit 1-Byte-Rollen-Preamble, die beide Enden ausgehend wählen lässt. Das Smartphone öffnet null eingehende Ports.
• Selbsteinschreibungsmarkt: Stages werden beansprucht, nicht zugewiesen. Ein Knoten pollt die Abdeckungs-/Nachfragekarte, wählt das bestbelohnte unabgedeckte Fenster, lädt es und tritt bei — Ende-zu-Ende verifiziert mit einem NAT-Smartphone, das die Ring-Inferenz vollendete und seinen Beitrag verdiente.

Der Ring ist Kvasirs Latenz-Pfad: Grenzen sind klein, Hops wenige, und die Dekodierung fließt um die Schleife, ohne zentral etwas einzusammeln. Seine Grenze ist die Granularität — die kleinste Einheit, die ein Knoten tragen kann, ist eine Layer (~1.4 GB beim 122B). Diesen Boden zu entfernen ist die Aufgabe des Experten-Schwarms; der Ring bleibt das Serving-Rückgrat, an das er andockt.