层窗口与部分分片

节点负责的模型连续切片——可作为 mini-GGUF 下载,而非完整检查点。

层窗口是环节点服务的连续 transformer 层范围。服务它不需要完整检查点——stage mini-GGUF 只携带窗口的张量:122B 上是 254 MB、26 个张量(共 338 个),对比 77.6 GB 的完整模型;手机的单层窗口约 1.5 GB。

rank manifest 的一行:谁服务什么、在什么预算内。

rank 3  layers [39,48]  vram=3.4GiB  kv=0.9GiB  backend=opencl
shard: mini-GGUF with exactly those blk.39-48 tensors → download → load
认领,而非指派

自助报名

  • 节点轮询覆盖/需求图,查看哪些窗口服务不足、各付多少。
  • 它挑选适合自己预算的最高奖励未覆盖窗口,只下载那部分,然后加入。
  • 覆盖会自愈:节点流失后其窗口重新变得稀缺——因而再度有利可图。
  • 已用 NAT 后的手机端到端验证:轮询 → 自助报名 → 部分下载 → Adreno GPU 加载 → 完成环推理,贡献入账。

专家蜂群在更细的 (层, 专家范围) 粒度上复用这套完全相同的市场——同一张图、同一套自助报名、同一套奖励,只是单位更小。