Een expert-worker draaien

Maak van een reserve-GPU, CPU of telefoon een expert-worker: bouw hem, meld je aan voor de schaarste plak, download hem, serveer, en bel naar buiten over 443 om KVR te verdienen.

Een expert-worker is een pure (hidden, ids) → out-functie — geen attention, geen KV-cache, geen sampler — die een plak van de experts van een MoE-model berekent wanneer de router van de backbone ze selecteert. Je kiest niet wat je serveert; de dekkingsmarkt overhandigt je het schaarste, hoogst belonende bereik bijgesneden op je budget, zodat een telefoon van 4 GB en een datacenter-GPU allebei een plek vinden.

Engine-status. Sharding op expertkorrel is gebouwd en gedemonstreerd op Kvasirs vorige engine, en de resultaten hieronder komen uit dat werk. De huidige engine, [p4](/wiki/p4), serveert vandaag op laagkorrel; het overzetten van expert-sharding daarnaartoe is ontworpen en in uitvoering. Waar een detail een tool of een route noemt, is dat de tool of route die op de vorige engine draaide.

Zeven stappen

Bouwen → aanmelden → serveren → bellen → verdienen

Het hele pad — het belscript wacht met een retry-lus op de backbone.

# 1. build the worker for your backend (cuda | rocm | cpu)
bash scripts/build-node-runtime.sh <backend>   # -> linkcpp-expert-worker

# 2. volunteer — the market assigns the scarcest range within your budget
POST /api/expert-volunteer {model, max_experts}     -> {layer, experts:[a,b]}

# 3. download only that slice (node-token auth)
GET  /api/proxy/models/<model>/expert-shard?layers=L:L+1&experts=a:b   # a mini-GGUF

# 4. serve it
linkcpp-expert-worker --model <slice.gguf> --serve <port> --layer L --n-embd <E>

# 5. dial out over 443 (no inbound ports)
scripts/expert-relay-dial.py --mode worker \
  --hub wss://gate.kvasir-ai.net/api/expert-relay --session <S> --local 127.0.0.1:<port>

# 6. heartbeat so the demand map and rewards can see you
POST /api/expert-coverage
  • De plak is piepklein. Een layer-0-plak met 128 experts is 794 MB tegenover het volledige model van 72 GB — de korrel die zwakke apparaten laat deelnemen. Je downloadt alleen het bereik dat de markt heeft toegewezen.
  • Naar buiten bellen, nooit naar binnen. Stap 5 opent één uitgaande WebSocket op 443, zodat carrier-NAT en CDN-edges hem doorlaten en je nul inkomende poorten blootstelt — hetzelfde pad dat een telefoon gebruikt.
  • De heartbeat is dragend. Zonder POST /api/expert-coverage serveer je niets dat de vraagkaart kent, en niets wat je doet wordt bijgeschreven.
  • Beloning is per werk. Overbrugd werk wordt bijgeboekt op het bijdrageregister van de bridge; de gateway delta-crediteert KVR naar je eigen wallet. Je hebt een wallet-adres nodig om betaald te worden.

De worker spreekt hetzelfde dispatch-protocol als een GPU in het datacenter — (n_used, n_tokens, cur, sel) → experts over één langlevende stream. Een partial-shard-worker zet gewoon n_used = 1. Die uniformiteit is waarom een telefoon, een CPU-bak en een Blackwell-kaart uitwisselbare leden van dezelfde zwerm zijn.