Sebuah GPU lintas internet bergabung ke inferensi 122B

Sebuah workstation Blackwell di kota lain menelepon keluar satu koneksi 443 dan menghitung pakar untuk dekode 122B langsung — byte-identik dengan run lokal, dan dibayar dalam KVR atas kerja yang dilakukannya.

Yang terjadi: sebuah dekode 122B yang berjalan pada backbone AMD di satu tempat mengirim kerja pakar per-token-nya ke mesin NVIDIA GB10 (Grace Blackwell) di kota lain — lewat satu WebSocket keluar di port 443 — dan menerima kembali keluaran pakar yang menghasilkan token yang persis sama dengan menghitung secara lokal. Tanpa terowongan, tanpa port-forwarding, tanpa lubang firewall masuk. Mesin jarak jauh itu memperoleh KVR atas byte yang dilayaninya.

Premis Kvasir adalah *perangkat keras apa pun yang datang* — termasuk perangkat keras di balik NAT operator, di internet publik, di kota berbeda. Qwen3.5-122B-A10B membawa 86% bobotnya dalam 12,544 pakar independen (49 lapisan × 256, top-8), masing-masing fungsi murni 5.3 MB. Butiran itulah yang membuat mesin jauh yang tak berkaitan bisa memegang satu irisan dan berkontribusi. Pertanyaan terbuka tak pernah *bisakah kita membaginya* — melainkan *bisakah sebuah worker lintas internet terbuka benar-benar ikut dalam dekode langsung, dengan benar dan dapat dipertanggungjawabkan*. Kini sudah bisa.

A GPU in one city dialing a single outbound line into a decode running elsewhere
Satu panggilan keluar

Tanpa terowongan, tanpa port masuk

Worker jarak jauh membuka satu koneksi — wss:// keluar ke gateway publik di 443, satu-satunya port yang diloloskan andal oleh NAT operator dan edge CDN. Gateway tak mengurai stream itu; ia menyambung mentah (raw-splice) WebSocket ke hub yang hanya-LAN, yang menjembataninya ke listener expert-dispatch backbone. Kedua ujung menelepon keluar dan bertemu di tengah. Worker mengekspos nol port masuk dan tak butuh alamat publik.

Dua panggilan keluar, disambung menjadi satu stream dispatch biasa.

remote worker ──outbound 443──▶ wss://gate.kvasir-ai.net  ◀──── backbone (LAN)
   (GB10, another city)          raw WS splice → hub → dispatch listener
per token:  backbone → (cur rows, expert ids) → worker → expert partials → backbone
Byte-identik lintas internet

Router memutuskan sekali; matematika mengelompok ulang persis

Backbone menjalankan router sekali dan dengan otoritas; worker adalah fungsi murni (hidden, ids) → out. Maka memindahkan fungsi itu melintasi benua mengubah *di mana* perkalian terjadi, bukan *apa* yang dihitungnya. Pada dekode 122B langsung dengan pakar layer-0 dilayani dari jarak jauh: stream token greedy 8/8 identik (" Paris."), cosine logit 0.99773, argmax cocok. Ini adalah sifat otoritas-router yang sama yang menjaga keputusan diskret CUDA↔ROCm↔CPU tetap invarian — backend heterogen tetap terbatasi galat kontinu, tak pernah cabang katastrofik.

8/8
token greedy identik
0.99773
cosine logit, jarak jauh vs lokal
1.2%
overhead TPS, langsung (13 ms RTT)
0.00895
KVR ke worker, sesi jarak jauh pertama
Biaya jujurnya adalah RTT

Mengapa swarm adalah jalinan throughput, bukan decoder latensi-rendah

Dispatch per-token serial membayar satu perjalanan pulang-pergi per langkah. Terukur: dengan tautan langsung (13 ms RTT) overhead throughput-nya 1.2% (4.220 → 4.169 tok/s); dirutekan lewat edge CDN di 443 menjadi ~28%. Kami memublikasikannya dengan jujur, karena ia menunjuk pada kebenaran desain — swarm WAN itu terikat-RTT, sehingga kekuatannya bukan latensi satu stream melainkan kapasitas agregat. Pengelompokan mengamortisasi perjalanan pulang-pergi: dispatch pakar berkelompok mencapai 77× throughput per-token pada batch 512. Byte adalah ruang lega; perjalanan pulang-pergi adalah yang harus disembunyikan — yang menjadi topik tulisan peta jalan pendamping.

Dibayar tepat atas kerjanya

Byte terukur menjadi KVR

Partisipasi tak berarti jika tak dapat dipertanggungjawabkan. Relay mengukur byte yang dijembatani per sesi ke dalam buku besar kontribusi hub; gateway mem-poll buku besar itu dan meng-kredit-delta KVR ke dompet milik worker sendiri. Sesi lintas-internet pertama benar-benar terakumulasi: 1.28 MB kerja → 1.277952 unit → 0.00895 KVR dalam imbalan tertunda. Kecil, dan itulah maksudnya — ini penyelesaian nyata per-kerja, bukan piala partisipasi.

Jalur keluar-443 yang sama persis adalah cara sebuah ponsel bergabung: sebuah Galaxy S25 sudah menghitung pakar 122B melaluinya (8/8 token identik, cosine 0.99992). Sebuah model berskala frontier, dilayani oleh backbone di satu tempat, GPU datacenter di kota lain, dan ponsel di saku seseorang — semuanya menghasilkan token yang sama, masing-masing dibayar atas porsinya. Yang berikutnya adalah membuat perjalanan pulang-pergi WAN menjadi murah; peta jalan itu berpijak pada angka produksi pihak lain dan pengukuran kami sendiri.