Een GPU aan de andere kant van het internet deed mee aan 122B-inferentie
Een Blackwell-werkstation in een andere stad belde één uitgaande 443-verbinding en berekende experts voor een live 122B-decodering — byte-identiek aan een lokale run, en in KVR betaald voor het werk dat het deed.
Wat er gebeurde: een 122B-decodering die op een AMD-backbone op de ene plek draaide, stuurde zijn expertwerk per token naar een NVIDIA GB10 (Grace Blackwell)-machine in een andere stad — over één uitgaande WebSocket op poort 443 — en kreeg expertuitvoer terug die exact dezelfde tokens opleverde als lokaal berekenen. Geen tunnel, geen port-forwarding, geen inkomend firewallgat. De externe machine verdiende KVR voor de bytes die het serveerde.
De premisse van Kvasir is *welke hardware er ook opduikt* — inclusief hardware achter carrier-NAT, op het publieke internet, in een andere stad. Qwen3.5-122B-A10B draagt 86% van zijn gewicht in 12.544 onafhankelijke experts (49 lagen × 256, top-8), elk een pure functie van 5.3 MB. Die korrel is wat een verre, ongerelateerde machine een plak laat vasthouden en laat bijdragen. De open vraag was nooit *kunnen we het splitsen* — het was *kan een worker aan de andere kant van het open internet werkelijk meedoen aan een live decodering, correct en verantwoord*. Nu is dat gebeurd.
Geen tunnel, geen inkomende poorten
De externe worker opent één verbinding — uitgaand wss:// naar de publieke gateway op 443, de enige poort die carrier-NAT en CDN-edges betrouwbaar doorlaten. De gateway parset de stream niet; hij raw-splicet de WebSocket naar de LAN-only hub, die hem doorbrugt naar de expert-dispatch-listener van de backbone. Beide uiteinden belden naar buiten en ontmoetten elkaar in het midden. De worker stelt nul inkomende poorten bloot en heeft geen publiek adres nodig.
Twee uitgaande verbindingen, gesplicet tot één gewone dispatch-stream.
remote worker ──outbound 443──▶ wss://gate.kvasir-ai.net ◀──── backbone (LAN) (GB10, another city) raw WS splice → hub → dispatch listener per token: backbone → (cur rows, expert ids) → worker → expert partials → backbone
De router beslist één keer; de wiskunde hergroepeert exact
De backbone draait de router één keer en met autoriteit; de worker is een pure functie (hidden, ids) → out. Die functie over een continent verplaatsen verandert dus *waar* de vermenigvuldiging gebeurt, niet *wat* ze berekent. Op een live 122B-decodering met layer-0-experts op afstand geserveerd: de greedy tokenstroom was 8/8 identiek (" Paris."), logit cosine 0.99773, argmax-match. Dit is dezelfde router-autoriteitseigenschap die de discrete beslissingen van CUDA↔ROCm↔CPU invariant houdt — heterogene backends blijven begrensd door continue fout, nooit een catastrofale vertakking.
Waarom de zwerm een doorvoerweefsel is, geen lagelatentie-decoder
Seriële dispatch per token betaalt een rondreis per stap. Gemeten: met een directe verbinding (13 ms RTT) was de doorvoer-overhead 1.2% (4.220 → 4.169 tok/s); gerouteerd door een CDN-edge op 443 was het ~28%. Dat publiceren we eerlijk, want het wijst op de ontwerpwaarheid — een WAN-zwerm is RTT-gebonden, dus zijn kracht is niet de latentie van één stream maar de totale capaciteit. Batching amortiseert de rondreis: batch-expert-dispatch bereikt 77× de doorvoer per token bij batch 512. Bytes zijn speelruimte; rondreizen zijn wat je moet verbergen — het onderwerp van de begeleidende routekaartpost.
Gemeten bytes worden KVR
Deelname is waardeloos als ze niet verantwoord is. De relay meet de gebridgede bytes per sessie in het contributieregister van de hub; de gateway pollt dat register en schrijft delta-gewijs KVR bij op de eigen wallet van de worker. De eerste cross-internet-sessie leverde daadwerkelijk op: 1.28 MB werk → 1.277952 units → 0.00895 KVR aan openstaande beloningen. Klein, en dat is het punt — het is echte verrekening per werk, geen deelnametrofee.
Precies hetzelfde uitgaande-443-pad is hoe een telefoon aansluit: een Galaxy S25 heeft er al 122B-experts over berekend (8/8 identieke tokens, cosine 0.99992). Een model op frontier-schaal, geserveerd door een backbone op de ene plek, een datacenter-GPU in een andere stad, en een telefoon in iemands zak — allemaal dezelfde tokens producerend, elk betaald voor zijn aandeel. Wat nu volgt is de WAN-rondreis goedkoop maken; die routekaart is gefundeerd op de productiecijfers van anderen en onze eigen metingen.