인터넷 너머의 GPU가 122B 추론에 참여했다
다른 도시의 Blackwell 워크스테이션이 아웃바운드 443 연결 하나를 걸어 라이브 122B 디코드의 전문가를 계산했다 — 로컬 실행과 바이트-동일, 그리고 한 일에 대해 KVR로 지불받았다.
무슨 일이 있었나: 한 곳의 AMD 백본에서 도는 122B 디코드가 토큰별 전문가 작업을 다른 도시의 NVIDIA GB10(Grace Blackwell) 머신으로 보냈고 — 포트 443의 단일 아웃바운드 WebSocket을 통해 — 로컬 계산과 정확히 같은 토큰을 만드는 전문가 출력을 돌려받았다. 터널도, 포트 포워딩도, 인바운드 방화벽 구멍도 없다. 원격 머신은 서빙한 바이트에 대해 KVR을 벌었다.
Kvasir의 전제는 *어떤 하드웨어든 오는 대로*다 — 캐리어 NAT 뒤, 공개 인터넷 위, 다른 도시에 있는 하드웨어까지 포함해. Qwen3.5-122B-A10B는 무게의 86%를 독립 전문가 12,544개(49 레이어 × 256, top-8)에 담고, 각각은 5.3 MB 순수 함수다. 그 알갱이가 멀리 있는 무관한 머신이 슬라이스를 쥐고 기여하게 한다. 열린 질문은 결코 *쪼갤 수 있는가*가 아니었다 — *열린 인터넷 너머의 워커가 라이브 디코드에 실제로, 정확하고 회계 가능하게 참여할 수 있는가*였다. 이제 참여했다.
터널도, 인바운드 포트도 없다
원격 워커는 하나의 연결을 연다 — 443의 공개 게이트웨이로 향하는 아웃바운드 wss://, 캐리어 NAT와 CDN 엣지가 확실히 통과시키는 유일한 포트다. 게이트웨이는 스트림을 파싱하지 않고, WebSocket을 LAN 전용 허브로 raw-splice하고, 허브는 이를 백본의 expert-dispatch 리스너로 브리지한다. 양 끝이 바깥으로 접속해 중간에서 만났다. 워커는 인바운드 포트를 하나도 노출하지 않고 공개 주소도 필요 없다.
두 개의 아웃바운드 접속을 하나의 평범한 dispatch 스트림으로 splice.
remote worker ──outbound 443──▶ wss://gate.kvasir-ai.net ◀──── backbone (LAN) (GB10, another city) raw WS splice → hub → dispatch listener per token: backbone → (cur rows, expert ids) → worker → expert partials → backbone
라우터가 한 번 결정하고, 계산은 정확히 재그룹핑된다
백본은 라우터를 한 번, 권위를 갖고 실행하고, 워커는 순수 (hidden, ids) → out 함수다. 그래서 그 함수를 대륙 너머로 옮겨도 곱셈이 *어디서* 일어나는지가 바뀔 뿐, *무엇을* 계산하는지는 아니다. layer-0 전문가를 원격으로 서빙한 라이브 122B 디코드에서: greedy 토큰 스트림은 8/8 동일(" Paris."), 로짓 cosine 0.99773, argmax 일치. 이것은 CUDA↔ROCm↔CPU 이산 결정을 불변으로 유지하는 바로 그 라우터-권위 성질이다 — 이종 백엔드는 연속 오차로 유계에 머물 뿐, 파국적 분기는 없다.
스웜이 저지연 디코더가 아니라 처리량 패브릭인 이유
직렬 토큰별 dispatch는 스텝마다 왕복을 치른다. 실측: 직접 링크(13 ms RTT)에서 처리량 오버헤드는 1.2%(4.220 → 4.169 tok/s)였고, 443의 CDN 엣지를 경유하면 ~28%였다. 이를 정직하게 공개하는 것은 설계의 진실을 가리키기 때문이다 — WAN 스웜은 RTT 바운드라, 강점은 한 스트림의 지연이 아니라 총 용량이다. 배치가 왕복을 상각한다: 배치 전문가 dispatch는 배치 512에서 토큰당 처리량의 77배에 이른다. 바이트는 여유분이고, 왕복이야말로 숨겨야 할 것이다 — 이는 짝을 이루는 로드맵 글의 주제다.
계량된 바이트가 KVR이 된다
회계되지 않는 참여는 무가치하다. 릴레이는 세션당 브리지된 바이트를 계량해 허브의 기여 원장에 넣고, 게이트웨이는 그 원장을 폴링해 워커의 자기 지갑에 KVR을 델타 적립한다. 첫 인터넷 횡단 세션은 실제로 적립됐다: 1.28 MB의 작업 → 1.277952 units → 0.00895 KVR이 대기 보상으로. 작지만, 바로 그게 핵심이다 — 참여 트로피가 아니라 진짜 작업 단위 정산이다.
같은 아웃바운드-443 경로가 바로 폰이 참여하는 방식이다: Galaxy S25가 이미 그 위에서 122B 전문가를 계산했다(8/8 동일 토큰, cosine 0.99992). 프런티어 규모 모델을, 한 곳의 백본과 다른 도시의 데이터센터 GPU와 누군가의 주머니 속 폰이 함께 서빙하며 — 모두 같은 토큰을 내고, 각자 자기 몫만큼 지불받는다. 다음은 WAN 왕복을 싸게 만드는 것이고, 그 로드맵은 남들의 프로덕션 수치와 우리 자신의 실측에 근거한다.