Exploiter un worker d'experts

Transformez un GPU, un CPU ou un téléphone de rechange en worker d'experts : compilez-le, portez-vous volontaire pour la tranche la plus rare, téléchargez-la, servez, et composez vers l'extérieur sur le 443 pour gagner des KVR.

Un worker d'experts est une fonction pure (hidden, ids) → out — sans attention, sans cache KV, sans sampler — qui calcule une tranche des experts d'un modèle MoE chaque fois que le routeur du backbone les sélectionne. Vous ne choisissez pas ce que vous servez ; le marché de couverture vous confie la plage la plus rare et la mieux rémunérée, taillée à votre budget, de sorte qu'un téléphone de 4 GB comme un GPU de datacenter y trouvent une place.

État du moteur. Le sharding au grain de l'expert a été construit et démontré sur le moteur précédent de Kvasir, et les résultats ci-dessous proviennent de ce travail. Le moteur actuel, [p4](/wiki/p4), sert aujourd'hui au grain de la couche ; le portage du sharding d'experts vers lui est conçu et en cours. Quand un détail nomme un outil ou une route, c'est celui qui tournait sur le moteur précédent.

Sept étapes

Compiler → se porter volontaire → servir → composer → gagner

Tout le parcours — le script de composition attend le backbone avec une boucle de réessai.

# 1. build the worker for your backend (cuda | rocm | cpu)
bash scripts/build-node-runtime.sh <backend>   # -> linkcpp-expert-worker

# 2. volunteer — the market assigns the scarcest range within your budget
POST /api/expert-volunteer {model, max_experts}     -> {layer, experts:[a,b]}

# 3. download only that slice (node-token auth)
GET  /api/proxy/models/<model>/expert-shard?layers=L:L+1&experts=a:b   # a mini-GGUF

# 4. serve it
linkcpp-expert-worker --model <slice.gguf> --serve <port> --layer L --n-embd <E>

# 5. dial out over 443 (no inbound ports)
scripts/expert-relay-dial.py --mode worker \
  --hub wss://gate.kvasir-ai.net/api/expert-relay --session <S> --local 127.0.0.1:<port>

# 6. heartbeat so the demand map and rewards can see you
POST /api/expert-coverage
  • La tranche est minuscule. Une tranche layer-0 de 128 experts fait 794 MB face au modèle complet de 72 GB — le grain qui permet aux appareils faibles de participer. Vous ne téléchargez que la plage que le marché a attribuée.
  • Composition sortante, jamais entrante. L'étape 5 ouvre un seul WebSocket sortant sur le 443, si bien que le NAT des opérateurs et les bordures CDN le laissent passer et que vous n'exposez aucun port entrant — le même chemin qu'utilise un téléphone.
  • Le heartbeat est porteur. Sans POST /api/expert-coverage, vous ne servez rien que la carte de demande connaisse, et rien de ce que vous faites n'est crédité.
  • La récompense va au travail. Le travail passé par le bridge s'accumule dans son registre de contributions ; le gateway crédite en delta des KVR vers votre propre wallet. Il vous faut une adresse de wallet pour être payé.

Le worker parle le même protocole de dispatch qu'un GPU en datacenter — (n_used, n_tokens, cur, sel) → experts sur un unique flux de longue durée. Un worker à shard partiel se contente de fixer n_used = 1. C'est cette uniformité qui fait qu'un téléphone, une machine CPU et une carte Blackwell sont des membres interchangeables du même essaim.