Jendela lapisan & shard parsial

Irisan model bersambung milik sebuah node — dapat diunduh sebagai mini-GGUF alih-alih checkpoint penuh.

Jendela lapisan adalah rentang bersambung lapisan transformer yang dilayani node ring. Node tak butuh checkpoint penuh untuk melayaninya — mini-GGUF stage hanya membawa tensor jendela itu: untuk 122B, 254 MB berisi 26 tensor (dari total 338) dibanding model penuh 77.6 GB, atau ~1.5 GB untuk jendela satu-lapisan di ponsel.

Satu baris rank manifest: siapa melayani apa, dalam anggaran berapa.

rank 3  layers [39,48]  vram=3.4GiB  kv=0.9GiB  backend=opencl
shard: mini-GGUF with exactly those blk.39-48 tensors → download → load
Diklaim, bukan ditugaskan

Pendaftaran mandiri

  • Node mem-poll peta cakupan/permintaan untuk melihat jendela mana yang kurang terlayani dan berapa bayaran masing-masing.
  • Ia memilih jendela tak tercakup berimbalan tertinggi yang muat di anggarannya, mengunduh persis itu, lalu bergabung.
  • Cakupan memulihkan diri: saat sebuah node pergi, jendelanya kembali langka — dan karenanya kembali menguntungkan.
  • Terverifikasi ujung-ke-ujung dengan ponsel di balik NAT: poll → daftar mandiri → unduh parsial → muat GPU Adreno → inferensi ring tuntas, kontribusi tercatat.

Swarm pakar memakai ulang pasar yang persis sama ini pada butiran lebih halus (lapisan, rentang pakar) — peta yang sama, pendaftaran mandiri yang sama, imbalan yang sama, unit yang lebih kecil.