DePIN · 不靠数据中心的前沿模型
你没有能跑 198B 模型的硬件。 其实,我们也没有。
这支机群里没有任何一台机器装得下 Step-3.7-Flash — 1980 亿参数,远远超出我们拥有的任何单台设备。Kvasir 把它切成层窗口,每台机器只持有自己的那一个,并把一份隐藏状态交给下一台。今天在服务环上实测:每秒 6.7–6.8 tokens,首个 token 用时 70 ms。
- 可在 GPU · CPU · NPU · 手机上运行
- 兼容 OpenAI + Anthropic
- 源码可得(BSL 1.1)
- Solana devnet
AI 不应被少数几家公司所拥有
前沿推理正日益集中在少数封闭的数据中心背后 — 封闭权重、计量访问,账单由一家所有者独收。Kvasir 是按另一条路造的:开源模型在一个由日常设备组成的网络上提供服务,由运行它的人们共同拥有并从中获益。今天,这套引擎和它的结算跑在我们自己的机群上,设备也已经可以注册、贡献算力并拿到报酬;把服务环本身向任何人开放,是下一道关卡。下面的路线图写明了每一部分各自走到了哪里。
- 任何设备都能加入点对点的环 — 环中无中央主控
- 源码可得的 p4 引擎 — BSL 1.1,可完全审查
- 贡献者凭借真实贡献的算力赚取 KVR
- 自托管钱包 — 你的密钥从不离开你的设备
一个模型,众多设备,按层计酬
没有单一节点需要持有完整模型。请求沿着层路径流转,每个节点都因其所做的确切工作而获得奖励。
- 拆分: 模型被划分为连续的层窗口。每台设备都保留一份模型文件副本,但只把自己的窗口加载到内存中,因此没有节点需要运行完整模型。
- 服务: 请求进入环。每个节点运行自己的层,只将隐藏状态的边界传递给邻居;最后一个节点采样 token 并沿环送回 — 无中央主控。
- 奖励: 每个节点按其运行的层数加权赚取 KVR — 即其在所产出 token 中的份额 — 在 Solana 上结算至该节点自己的钱包。
p4 — 网络背后的引擎
p4 把异构硬件绑成一个服务池:每台设备只持有模型中的几层,并且只把隐藏状态传给邻居 — 环中无中央主控。它取代了 linkcpp,也就是 Kvasir 在 2026 年年中之前运行的引擎,并以一小组补丁让数据平面保持贴近上游。
- Ring runtime: 每台设备存储同一个模型,只加载自己的层窗口,然后向其前驱开启一条链路、向其后继开启一条链路。隐藏状态边界沿环流转,最后一个 rank 返回 token — 无中央主控,没有节点持有全部。
- p4 控制平面: 正是 RPC 数据平面所缺失的那一层控制平面。它发现设备、规划层与专家的放置、启动工作进程,并对外暴露网关。放置方案由运营者制定 — 引擎不会因为一个网页请求就去加载模型。以 Business Source License(BSL)1.1 提供源码。
- 分布式层放置: p4 读取 GGUF 元数据,依据放置方案计算每个节点连续的层窗口,并可选将 MoE 专家 FFN 卸载至节点内存。198B 的 MoE 模型 Step-3.7-Flash 目前以 2 stages 分布在两台机器上。
- SIWS + 2FA 安全: 对于公开部署,运营者访问采用对服务器 nonce 的 Sign-In With Solana 签名,外加 TOTP 2FA 和一次性备份码。只想贡献算力的设备从不登录:它向桥接证明一个钱包,并获得一个仅限参与、别无其他权限的令牌。
正在运行的是什么,测出来的又是什么
在我们自己的机器上实测
- MoE 正在提供服务 — Step-3.7-Flash,跨两台 NVIDIA GB10 机器
- stages — 模型被拆分的段数,分布在两个 agent 上
- 余弦相似度 — 横跨 ROCm、CUDA 与手机 CPU,异构硬件结果一致
- 钱包平台 — web · desktop · iOS · Android
- Step-3.7-Flash 198B 跑在两台 GB10 机器上 · 122B 跨 3 台机器端到端 · 兼容 OpenAI + Anthropic · Solana devnet
现已上线,以及未来去向
清晰划分已在运行的部分与计划中的部分。我们不会把路线图当作已交付来呈现。
- 现在 — 前沿规模的服务,已上线: 198B 的 MoE 模型 Step-3.7-Flash 以 2 stages 部署在两台 NVIDIA GB10 机器上,正在提供服务。一个 122B 模型已跨 3 台物理机器端到端运行,其中一台是持有部分模型的手机。web、desktop、iOS 和 Android 钱包将密钥保存在用户自己的设备上。
- 进行中 — 环、网关、客户端: 结算网关已移植到 p4 并在应答:一次付费请求会穿过网关、桥接和 GB10 环,并按其实际使用的 token 计费。在服务中的环上,Step-3.7-Flash 单流返回每秒 6.7–6.8 tokens,首个 token 用时 67–71 ms。仍在推进中的是:环在一次 64 请求的运行被中断后,正在通过恢复门禁;桌面客户端正从只是注册一个 p4 agent,变成真正监管它的节点;以及把专家粒度的分片搬到 p4 上 — 设备已经可以认领一个 window 并打开中继,但分片下载和引擎侧的调度还没有写。
- 即将推出 — Kimi K3,以及超越 devnet 的结算: 在 p4 上验证 Kimi K3(2.8T MoE)是下一道关卡;GLM-5.2 的报告 — 在上一代引擎 linkcpp 上测得 — 尚未发布。结算运行于 Solana devnet,配以链下服务;链上奖励程序与主网正在规划中。
- 即将推出 — 无需许可的全球网络: 当前演示运行于某一运营方的硬件上。开放网络,让任何人、在任何地方都能接入一台设备并赚取奖励 — 无需守门人 — 是下一步。