Ventana de capas y shards parciales

La rebanada contigua del modelo que toca a un nodo — descargable como mini-GGUF en vez del checkpoint completo.

Una ventana de capas es el rango contiguo de capas transformer que un nodo del anillo sirve. Un nodo no necesita el checkpoint completo para servirla — un mini-GGUF de stage lleva solo los tensores de la ventana: para el 122B, 254 MB con 26 tensores (de 338 en total) frente al modelo completo de 77.6 GB, o ~1.5 GB para una ventana de una capa en un teléfono.

Una fila del rank manifest: quién sirve qué, dentro de qué presupuesto.

rank 3  layers [39,48]  vram=3.4GiB  kv=0.9GiB  backend=opencl
shard: mini-GGUF with exactly those blk.39-48 tensors → download → load
Reclamado, no asignado

Auto-inscripción

  • Un nodo consulta el mapa de cobertura/demanda para ver qué ventanas están mal servidas y cuánto paga cada una.
  • Elige la ventana sin cubrir de mayor recompensa que quepa en su presupuesto, descarga exactamente eso y se une.
  • La cobertura se auto-repara: cuando un nodo se marcha, su ventana vuelve a ser escasa — y por tanto lucrativa — otra vez.
  • Verificado de extremo a extremo con un teléfono tras NAT: poll → auto-inscripción → descarga parcial → carga en GPU Adreno → inferencia de anillo completada, contribución acreditada.

El enjambre de expertos reutiliza exactamente este mercado en el grano más fino de (capa, rango de expertos) — el mismo mapa, la misma auto-inscripción, las mismas recompensas, unidades más pequeñas.