Einen Experten-Worker betreiben

Verwandle eine übrige GPU, CPU oder ein Smartphone in einen Experten-Worker: bauen, sich für die knappste Scheibe melden, sie herunterladen, bedienen und über 443 hinauswählen, um KVR zu verdienen.

Ein Experten-Worker ist eine reine (hidden, ids) → out-Funktion — ohne Attention, ohne KV-Cache, ohne Sampler — die eine Scheibe der Experten eines MoE-Modells rechnet, wann immer der Router des Backbones sie auswählt. Du wählst nicht, was du bedienst; der Abdeckungsmarkt reicht dir den knappsten, höchstbelohnten Bereich, zugeschnitten auf dein Budget, sodass ein 4-GB-Smartphone und eine Rechenzentrums-GPU beide einen Slot finden.

Engine-Status. Experten-Sharding wurde auf Kvasirs vorheriger Engine gebaut und vorgeführt, und die Ergebnisse unten stammen aus dieser Arbeit. Die aktuelle Engine, [p4](/wiki/p4), bedient heute auf Layer-Körnung; die Übertragung des Experten-Shardings darauf ist entworfen und in Arbeit. Wo ein Detail ein Werkzeug oder eine Route benennt, ist es das, was auf der vorherigen Engine lief.

Sieben Schritte

Bauen → melden → bedienen → wählen → verdienen

Der ganze Weg — das Wähl-Skript wartet mit einer Retry-Schleife auf das Backbone.

# 1. build the worker for your backend (cuda | rocm | cpu)
bash scripts/build-node-runtime.sh <backend>   # -> linkcpp-expert-worker

# 2. volunteer — the market assigns the scarcest range within your budget
POST /api/expert-volunteer {model, max_experts}     -> {layer, experts:[a,b]}

# 3. download only that slice (node-token auth)
GET  /api/proxy/models/<model>/expert-shard?layers=L:L+1&experts=a:b   # a mini-GGUF

# 4. serve it
linkcpp-expert-worker --model <slice.gguf> --serve <port> --layer L --n-embd <E>

# 5. dial out over 443 (no inbound ports)
scripts/expert-relay-dial.py --mode worker \
  --hub wss://gate.kvasir-ai.net/api/expert-relay --session <S> --local 127.0.0.1:<port>

# 6. heartbeat so the demand map and rewards can see you
POST /api/expert-coverage
  • Die Scheibe ist winzig. Eine Layer-0-Scheibe mit 128 Experten ist 794 MB gegenüber dem 72-GB-Vollmodell — die Körnung, die schwachen Geräten die Teilnahme erlaubt. Du lädst nur den Bereich herunter, den der Markt zugewiesen hat.
  • Ausgehend wählen, nie eingehend. Schritt 5 öffnet einen ausgehenden WebSocket auf 443, sodass Carrier-NAT und CDN-Edges ihn durchlassen und du null eingehende Ports exponierst — denselben Weg nutzt ein Smartphone.
  • Der Heartbeat ist tragend. Ohne POST /api/expert-coverage bedienst du nichts, wovon die Nachfragekarte weiß, und nichts, was du tust, wird gutgeschrieben.
  • Belohnung erfolgt pro Arbeit. Gebrückte Arbeit sammelt sich im Beitrags-Ledger der Bridge; das Gateway schreibt KVR per Delta in deine eigene Wallet gut. Du brauchst eine Wallet-Adresse, um bezahlt zu werden.

Der Worker spricht dasselbe Dispatch-Protokoll wie eine GPU im Rechenzentrum — (n_used, n_tokens, cur, sel) → experts über einen langlebigen Stream. Ein Teil-Shard-Worker setzt einfach n_used = 1. Diese Einheitlichkeit ist der Grund, warum ein Smartphone, eine CPU-Kiste und eine Blackwell-Karte austauschbare Mitglieder desselben Schwarms sind.