DePIN · Frontier-modellen zonder datacenter

Jij hebt geen hardware voor een 198B-model. Wij ook niet.

Niets in deze vloot kan Step-3.7-Flash bevatten — 198 miljard parameters, ver voorbij elk apparaat dat we bezitten. Kvasir snijdt het op in layer-vensters, zodat elke machine alleen zijn eigen venster bevat en een hidden state doorgeeft aan de volgende. Vandaag gemeten op de bedienende ring: 6.7–6.8 tokens per seconde, eerste token in 70 ms.

  • Draait op GPU · CPU · NPU · telefoon
  • OpenAI + Anthropic compatibel
  • Broncode beschikbaar (BSL 1.1)
  • Solana devnet

AI hoort niet in handen te zijn van een handvol bedrijven

Frontier-inferentie concentreert zich achter een paar afgeschermde datacenters — gesloten gewichten, afgemeten toegang, één rekening betaald aan één eigenaar. Kvasir is andersom gebouwd: open modellen bediend via een netwerk van alledaagse apparaten, in bezit van en verdiend door de mensen die het draaien. Vandaag draaien die engine en de afrekening op onze eigen vloot, en een apparaat kan zich al registreren, rekenkracht bijdragen en daarvoor betaald worden; de bedienende ring zelf voor iedereen openstellen is de volgende gate. De roadmap hieronder zegt hoe ver elk onderdeel is.

  • Elk apparaat sluit zich aan bij een peer-to-peer-ring — geen centrale master in de ring
  • p4-engine met beschikbare broncode — BSL 1.1 en volledig inspecteerbaar
  • Bijdragers verdienen KVR voor de echte rekenkracht die ze leveren
  • Wallet in eigen beheer — je sleutels verlaten nooit je apparaat

Eén model, veel apparaten, betaald per layer

Geen enkele node hoeft het hele model te bevatten. Een verzoek stroomt over het layer-pad en elke node wordt beloond voor precies het werk dat het deed.

  • Splitsen: Het model wordt verdeeld in aaneengesloten layer-vensters. Elk apparaat bewaart een kopie van het modelbestand, maar laadt alleen zijn eigen venster in het geheugen, zodat geen enkele node het geheel hoeft te draaien.
  • Bedienen: Het verzoek komt de ring binnen. Elke node draait zijn layers en geeft alleen de hidden-state-grens door aan zijn buur; de laatste node sampelt de token en stuurt hem via de ring terug — geen centrale master.
  • Belonen: Elke node verdient KVR gewogen naar de layers die het draaide — zijn aandeel in de geproduceerde tokens — afgerekend op Solana naar de eigen wallet van die node.

p4 — de engine achter het netwerk

p4 bindt gemengde hardware samen tot één serving pool: elk apparaat bevat een paar layers van het model en geeft alleen de hidden state door aan zijn buur, zonder centrale master in de ring. Het vervangt linkcpp, de engine waarop Kvasir tot medio 2026 draaide, en houdt de data plane dicht bij upstream met een kleine set patches.

  • Ring runtime: Elk apparaat slaat hetzelfde model op en laadt alleen zijn layer-venster, en opent dan één link naar zijn voorganger en één naar zijn opvolger. Hidden-state-grenzen circuleren door de ring en de laatste rank stuurt de token terug — geen centrale master, geen node bevat alles.
  • p4 control plane: De control plane die het RPC data plane miste. Het ontdekt apparaten, plant layer- en expertplaatsing, start de workers en stelt de gateways beschikbaar. Een plaatsingsplan is een operator-artefact — de engine laadt geen model omdat een webverzoek daarom vraagt. Broncode beschikbaar onder de Business Source License (BSL) 1.1.
  • Gedistribueerde layer-plaatsing: p4 leest GGUF-metadata en berekent aaneengesloten layer-vensters per node op basis van een plaatsingsplan, plus optionele MoE-expert-FFN-offload naar node-RAM. Step-3.7-Flash, een 198B MoE, staat momenteel als 2 stages verdeeld over twee machines.
  • SIWS + 2FA-beveiliging: Bij publieke deployments is operator-toegang een Sign-In With Solana-handtekening over een server-nonce, plus TOTP-2FA en eenmalige back-upcodes. Een apparaat dat alleen rekenkracht wil bijdragen logt nooit in: het bewijst een wallet tegenover de bridge en krijgt een token dat alleen tot deelname reikt en verder tot niets.

Wat er draait, en wat het heeft gemeten

Gemeten op onze eigen machines

  • MoE die vandaag bediend wordt — Step-3.7-Flash, over twee NVIDIA GB10-machines
  • stages waarin het model is opgesplitst, geplaatst over twee agents
  • cosinusgelijkenis tussen ROCm, CUDA en een telefoon-CPU — gemengde hardware komt overeen
  • wallet-platforms — web · desktop · iOS · Android
  • Step-3.7-Flash 198B op twee GB10-machines · 122B end-to-end over drie machines · OpenAI + Anthropic compatibel · Solana devnet

Vandaag live, en waar het naartoe gaat

Een duidelijke grens tussen wat al draait en wat gepland is. We presenteren de roadmap niet als afgeleverd.

  • Nu — Serving op frontier-schaal, live: Step-3.7-Flash — een 198B MoE — is als 2 stages over twee NVIDIA GB10-machines geplaatst en bedient verkeer. Een 122B-model draaide end-to-end over drie fysieke machines, waarvan één een telefoon die een deel ervan bevatte. Wallets op web, desktop, iOS en Android houden de sleutels op het apparaat van de gebruiker.
  • In uitvoering — Ring, gateway, client: De settlement-gateway is geport naar p4 en beantwoordt verkeer: een betaald verzoek gaat via de gateway, de bridge en de GB10-ring en wordt afgerekend op de tokens die het heeft gebruikt. Op de bedienende ring geeft Step-3.7-Flash 6.7–6.8 tokens per seconde bij één stream, met het eerste token in 67–71 ms. Nog in uitvoering: de ring gaat door herstelgates na een onderbroken run van 64 verzoeken, de desktopclient wordt een echte node die een p4-agent aanstuurt in plaats van er alleen een te registreren, en sharding op expert-korrel wordt naar p4 overgebracht — een apparaat kan al een venster claimen en een relay openen, maar de shard-download en de dispatch aan de engine-kant zijn nog niet geschreven.
  • Binnenkort — Kimi K3, en afrekening voorbij devnet: Verificatie van Kimi K3 (2.8T MoE) op p4 is de volgende gate, en het GLM-5.2-rapport — gemeten op linkcpp, de vorige engine — moet nog worden gepubliceerd. Afrekening draait op Solana devnet met een off-chain service; een on-chain beloningsprogramma en mainnet zijn gepland.
  • Binnenkort — Een permissionless wereldwijd netwerk: De huidige demo’s draaiden op de hardware van één operator. Het netwerk openstellen zodat iedereen, waar dan ook, een apparaat kan aansluiten en verdienen — zonder poortwachter — is de volgende stap.