Menjalankan worker pakar

Ubah GPU, CPU, atau ponsel cadangan menjadi worker pakar: bangun, jadi relawan untuk irisan paling langka, unduh, layani, dan menelepon keluar lewat 443 untuk memperoleh KVR.

Worker pakar adalah fungsi murni (hidden, ids) → out — tanpa attention, tanpa KV cache, tanpa sampler — yang menghitung irisan pakar sebuah model MoE kapan pun router backbone memilihnya. Anda tidak memilih apa yang dilayani; pasar cakupan memberi Anda rentang paling langka dan berimbalan tertinggi yang dipangkas sesuai anggaran Anda, sehingga ponsel 4 GB dan GPU pusat data sama-sama menemukan slot.

Status mesin. Sharding pada butiran pakar dibangun dan didemonstrasikan di mesin Kvasir sebelumnya, dan hasil-hasil di bawah ini berasal dari kerja itu. Mesin saat ini, [p4](/wiki/p4), melayani pada butiran lapisan hari ini; memindahkan sharding pakar ke atasnya sudah dirancang dan sedang dikerjakan. Di mana sebuah detail menyebut nama perkakas atau rute, itu adalah yang berjalan di mesin sebelumnya.

Tujuh langkah

Bangun → jadi relawan → layani → telepon → peroleh

Seluruh jalur — skrip dial menunggu backbone dengan loop coba-ulang.

# 1. build the worker for your backend (cuda | rocm | cpu)
bash scripts/build-node-runtime.sh <backend>   # -> linkcpp-expert-worker

# 2. volunteer — the market assigns the scarcest range within your budget
POST /api/expert-volunteer {model, max_experts}     -> {layer, experts:[a,b]}

# 3. download only that slice (node-token auth)
GET  /api/proxy/models/<model>/expert-shard?layers=L:L+1&experts=a:b   # a mini-GGUF

# 4. serve it
linkcpp-expert-worker --model <slice.gguf> --serve <port> --layer L --n-embd <E>

# 5. dial out over 443 (no inbound ports)
scripts/expert-relay-dial.py --mode worker \
  --hub wss://gate.kvasir-ai.net/api/expert-relay --session <S> --local 127.0.0.1:<port>

# 6. heartbeat so the demand map and rewards can see you
POST /api/expert-coverage
  • Irisannya mungil. Irisan layer-0 berisi 128 pakar adalah 794 MB melawan model penuh 72 GB — butiran yang memungkinkan perangkat lemah ikut serta. Anda hanya mengunduh rentang yang ditetapkan pasar.
  • Menelepon keluar, tak pernah masuk. Langkah 5 membuka satu WebSocket keluar di 443, sehingga NAT operator dan edge CDN meloloskannya dan Anda mengekspos nol port masuk — jalur yang sama yang dipakai ponsel.
  • Heartbeat itu penopang. Tanpa POST /api/expert-coverage Anda tak melayani apa pun yang diketahui peta permintaan, dan tak ada yang Anda lakukan yang dikreditkan.
  • Imbalan per kerja. Kerja yang dijembatani terakumulasi ke buku besar kontribusi bridge; gateway meng-delta-kredit KVR ke dompet milik Anda sendiri. Anda perlu alamat dompet untuk dibayar.

Worker berbicara dengan protokol dispatch yang sama seperti GPU di dalam pusat data — (n_used, n_tokens, cur, sel) → experts lewat satu stream berumur panjang. Worker shard-parsial cukup menyetel n_used = 1. Keseragaman itulah alasan ponsel, kotak CPU, dan kartu Blackwell menjadi anggota yang dapat dipertukarkan dari swarm yang sama.