Ejecutar un worker de expertos

Convierte una GPU, CPU o teléfono de sobra en un worker de expertos: constrúyelo, ofrécete voluntario para la rebanada más escasa, descárgala, sírvela y marca hacia fuera por 443 para ganar KVR.

Un worker de expertos es una función pura (hidden, ids) → out — sin atención, sin caché KV, sin sampler — que computa una rebanada de los expertos de un modelo MoE cada vez que el router del backbone los selecciona. No eliges qué servir; el mercado de cobertura te entrega el rango más escaso y de mayor recompensa recortado a tu presupuesto, así que tanto un teléfono de 4 GB como una GPU de datacenter encuentran un hueco.

Estado del motor. El sharding al grano de experto se construyó y se demostró sobre el motor anterior de Kvasir, y los resultados de abajo vienen de ese trabajo. El motor actual, [p4](/wiki/p4), sirve hoy al grano de capa; llevar el sharding de expertos hasta él está diseñado y en marcha. Cuando un detalle nombra una herramienta o una ruta, es la que corrió sobre el motor anterior.

Siete pasos

Construir → ofrecerse → servir → marcar → ganar

El camino completo — el script de marcado espera al backbone con un bucle de reintentos.

# 1. build the worker for your backend (cuda | rocm | cpu)
bash scripts/build-node-runtime.sh <backend>   # -> linkcpp-expert-worker

# 2. volunteer — the market assigns the scarcest range within your budget
POST /api/expert-volunteer {model, max_experts}     -> {layer, experts:[a,b]}

# 3. download only that slice (node-token auth)
GET  /api/proxy/models/<model>/expert-shard?layers=L:L+1&experts=a:b   # a mini-GGUF

# 4. serve it
linkcpp-expert-worker --model <slice.gguf> --serve <port> --layer L --n-embd <E>

# 5. dial out over 443 (no inbound ports)
scripts/expert-relay-dial.py --mode worker \
  --hub wss://gate.kvasir-ai.net/api/expert-relay --session <S> --local 127.0.0.1:<port>

# 6. heartbeat so the demand map and rewards can see you
POST /api/expert-coverage
  • La rebanada es diminuta. Una rebanada de layer-0 con 128 expertos son 794 MB frente al modelo completo de 72 GB — el grano que deja participar a dispositivos débiles. Solo descargas el rango que el mercado te asignó.
  • Marcar hacia fuera, nunca hacia dentro. El paso 5 abre un WebSocket saliente en 443, así que la NAT de operadora y los bordes CDN lo dejan pasar y expones cero puertos entrantes — el mismo camino que usa un teléfono.
  • El latido es estructural. Sin POST /api/expert-coverage no sirves nada que el mapa de demanda conozca, y nada de lo que hagas se acredita.
  • La recompensa es por trabajo. El trabajo puenteado se acumula en el libro de contribuciones del bridge; el gateway acredita KVR por deltas a tu propia wallet. Necesitas una dirección de wallet para cobrar.

El worker habla el mismo protocolo de dispatch que una GPU dentro de un datacenter — (n_used, n_tokens, cur, sel) → experts sobre un único stream de larga vida. Un worker de shard parcial simplemente pone n_used = 1. Esa uniformidad es la razón por la que un teléfono, una caja CPU y una tarjeta Blackwell son miembros intercambiables del mismo enjambre.