Un teléfono se unió a la inferencia de un 122B

Un Galaxy S25 descargó de forma autónoma su rebanada de expertos desde el hub y computó los expertos de una capa en cada paso de una decodificación en vivo del 122B. La salida fue correcta.

Incluso con el teléfono computando los expertos de layer-0 para cada token, los tokens generados son exactamente los locales — el correcto "Paris.". El TPS baja de 4.01 a 3.13 — la ida y vuelta del dispatch al teléfono (MI250 → túnel → teléfono, ~100 ms/token) cuesta un 22%. El throughput se recupera con lotes y réplicas (M4).

1. Phone knows the hub (hub.kvasir-ai.net — retired since; the bridge serves this)
2. GET /api/proxy/models/…/expert-shard?layers=0:1&experts=0:256
   # partially downloads its own expert slice (1.58 GB, WiFi)
3. linkcpp-expert-worker --serve
   # loads the slice (Adreno device, CPU backend) + waits for dispatch
4. MI250 backbone decodes the 122B → every token, layer-0 experts
   dispatch to the phone → experts return → combine → "Paris."
   (8/8 identical to local)

• Descarga parcial (el endpoint expert-shard), servicio del worker, dispatch del backbone, generación en vivo del 122B y TPS — todo verificado en el dispositivo real.
• Corrección: con el teléfono participando, 8/8 tokens igualan la ejecución local, con la respuesta correcta.
• Pendiente: el bucle autónomo en la app (sondear expert-demand → volunteer → descargar → serve → registrar) es cableado Kotlin — esta demo condujo el mecanismo directamente.
• Transporte: esta demo usó un túnel SSH; producción usa el relay 443 (ya verificado en el trabajo del anillo).