DePIN · Modèles frontier sans centre de données

Vous n’avez pas le matériel pour un modèle de 198B. Nous non plus.

Rien dans cette flotte ne peut contenir Step-3.7-Flash — 198 milliards de paramètres, bien au-delà de n’importe quel appareil que nous possédons. Kvasir le découpe en fenêtres de layers pour que chaque machine ne détienne que la sienne et tende un état caché à la suivante. Mesuré aujourd’hui sur l’anneau en service : 6.7–6.8 tokens par seconde, premier token en 70 ms.

• Fonctionne sur GPU · CPU · NPU · téléphone
• Compatible OpenAI + Anthropic
• Source disponible (BSL 1.1)
• Solana devnet

L’IA ne devrait pas appartenir à une poignée d’entreprises

L’inférence de pointe se concentre derrière quelques centres de données fermés — poids fermés, accès facturé à l’usage, une seule facture payée à un seul propriétaire. Kvasir est construit dans l’autre sens : des modèles ouverts servis sur un réseau d’appareils du quotidien, possédé et gagné par ceux qui le font tourner. Aujourd’hui, ce moteur et son règlement tournent sur notre propre parc de machines, et un appareil peut déjà s’enregistrer, contribuer du calcul et être payé ; ouvrir l’anneau de service lui-même à tout le monde est la prochaine étape. La feuille de route ci-dessous indique où en est chaque partie.

• N’importe quel appareil rejoint un anneau pair-à-pair — aucun maître central dans l’anneau
• Moteur p4 à source disponible — BSL 1.1 et entièrement inspectable
• Les contributeurs gagnent des KVR pour le calcul réel qu’ils fournissent
• Portefeuille en auto-garde — vos clés ne quittent jamais votre appareil

Un modèle, de nombreux appareils, payé au layer

Aucun nœud n’a besoin de détenir le modèle entier. Une requête parcourt le chemin des layers et chaque nœud est récompensé pour exactement le travail qu’il a fourni.

• Répartir: Le modèle est divisé en fenêtres de layers contiguës. Chaque appareil conserve une copie du fichier du modèle mais ne charge en mémoire que sa propre fenêtre, de sorte qu’aucun nœud n’a besoin d’exécuter le modèle entier.
• Servir: La requête entre dans l’anneau. Chaque nœud exécute ses layers et ne transmet à son voisin que la frontière de l’état caché ; le dernier nœud échantillonne le token et le renvoie autour de l’anneau — aucun maître central.
• Récompenser: Chaque nœud gagne des KVR pondérés par les layers qu’il a exécutés — sa part des tokens produits — réglés sur Solana vers le propre portefeuille de ce nœud.

p4 — le moteur derrière le réseau

p4 relie du matériel hétérogène en un seul pool de service : chaque appareil ne détient que quelques layers du modèle et ne transmet que l’état caché à son voisin, sans maître central dans l’anneau. Il remplace linkcpp, le moteur que Kvasir a fait tourner jusqu’à mi-2026, et garde le data plane proche de l’upstream avec un petit ensemble de correctifs.

• Ring runtime: Chaque appareil stocke le même modèle et ne charge que sa fenêtre de layers, puis ouvre un lien vers son prédécesseur et un vers son successeur. Les frontières de l’état caché circulent autour de l’anneau et le dernier rang renvoie le token — aucun maître central, aucun nœud ne détient tout.
• Plan de contrôle p4: Le plan de contrôle qui manquait au data plane RPC. Il découvre les appareils, planifie le placement des layers et des experts, lance les workers et expose les passerelles. Un plan de placement est un artefact d’opérateur — le moteur ne chargera pas un modèle parce qu’une requête web le lui a demandé. Source disponible sous la Business Source License (BSL) 1.1.
• Placement distribué des layers: p4 lit les métadonnées GGUF et calcule des fenêtres de layers contiguës par nœud à partir d’un plan de placement, avec un déchargement optionnel des FFN d’experts MoE vers la RAM du nœud. Step-3.7-Flash, un MoE de 198B, est actuellement réparti en 2 stages sur deux machines.
• Sécurité SIWS + 2FA: Pour les déploiements publics, l’accès de l’opérateur est une signature Sign-In With Solana sur un nonce serveur, plus une 2FA TOTP et des codes de secours à usage unique. Un appareil qui veut seulement contribuer du calcul ne se connecte jamais : il prouve un portefeuille auprès du bridge et reçoit un token limité à la participation, et à rien d’autre.

Ce qui tourne, et ce que cela a mesuré

Mesuré sur nos propres machines

• MoE servi aujourd’hui — Step-3.7-Flash, sur deux machines NVIDIA GB10
• stages sur lesquels le modèle est réparti, placés sur deux agents
• de similarité cosinus entre ROCm, CUDA et le CPU d’un téléphone — le matériel hétérogène concorde
• plateformes de portefeuille — web · desktop · iOS · Android
• Step-3.7-Flash 198B sur deux machines GB10 · 122B de bout en bout sur trois machines · compatible OpenAI + Anthropic · Solana devnet

Actif aujourd’hui, et vers où cela va

Une ligne claire entre ce qui fonctionne déjà et ce qui est prévu. Nous ne présentons pas la feuille de route comme livrée.

• Maintenant — Service à l’échelle frontier, en direct: Step-3.7-Flash — un MoE de 198B — est réparti en 2 stages sur deux machines NVIDIA GB10 et sert déjà. Un modèle de 122B a tourné de bout en bout sur trois machines physiques, dont un téléphone qui en détenait une partie. Les portefeuilles web, desktop, iOS et Android conservent les clés sur l’appareil de l’utilisateur.
• En cours — Anneau, passerelle, client: La passerelle de règlement est portée sur p4 et répond : une requête payée traverse la passerelle, le bridge et l’anneau GB10, et est facturée sur les tokens qu’elle a consommés. Sur l’anneau en service, Step-3.7-Flash renvoie 6.7–6.8 tokens par seconde en flux unique, avec le premier token en 67–71 ms. Toujours en cours : l’anneau passe des tests de reprise après une exécution de 64 requêtes interrompue, le client desktop devient un véritable nœud qui supervise un agent p4 au lieu de simplement en enregistrer un, et le sharding à granularité d’expert est en cours de portage vers p4 — un appareil peut déjà réclamer une fenêtre et ouvrir un relais, mais le téléchargement du shard et la répartition côté moteur ne sont pas encore écrits.
• À venir — Kimi K3, et le règlement au-delà du devnet: La vérification de Kimi K3 (MoE de 2.8T) sur p4 est la prochaine étape, et le rapport GLM-5.2 — mesuré sur linkcpp, le moteur précédent — reste à publier. Le règlement fonctionne sur Solana devnet avec un service hors chaîne ; un programme de récompenses on-chain et le mainnet sont prévus.
• À venir — Un réseau mondial sans permission: Les démos actuelles ont tourné sur le matériel d’un seul opérateur. Ouvrir le réseau pour que n’importe qui, où qu’il soit, puisse brancher un appareil et gagner — sans gardien — est la prochaine étape.