层窗口与部分分片
节点负责的模型连续切片——可作为 mini-GGUF 下载,而非完整检查点。
层窗口是环节点服务的连续 transformer 层范围。服务它不需要完整检查点——stage mini-GGUF 只携带窗口的张量:122B 上是 254 MB、26 个张量(共 338 个),对比 77.6 GB 的完整模型;手机的单层窗口约 1.5 GB。
rank manifest 的一行:谁服务什么、在什么预算内。
rank 3 layers [39,48] vram=3.4GiB kv=0.9GiB backend=opencl shard: mini-GGUF with exactly those blk.39-48 tensors → download → load
认领,而非指派
自助报名
- 节点轮询覆盖/需求图,查看哪些窗口服务不足、各付多少。
- 它挑选适合自己预算的最高奖励未覆盖窗口,只下载那部分,然后加入。
- 覆盖会自愈:节点流失后其窗口重新变得稀缺——因而再度有利可图。
- 已用 NAT 后的手机端到端验证:轮询 → 自助报名 → 部分下载 → Adreno GPU 加载 → 完成环推理,贡献入账。
专家蜂群在更细的 (层, 专家范围) 粒度上复用这套完全相同的市场——同一张图、同一套自助报名、同一套奖励,只是单位更小。