Mesh

Dijeli LLM-ove, ne API ključeve

Mesh čvorovi čine LLM pružatelje dostupnima bez curenja vjerodajnica. Povezivanje potpisanim pozivnim tokenima, čak i QR kodom.

Kako radi

Svaki mesh čvor pokreće ProviderHostActor komponentu koja izlaže lokalne LLM pružatelje mreži.

Udaljeni čvorovi rutiraju chat zahtjeve preko: MeshChatProvider.

Kroz mrežu prolaze samo chat poruke i odgovori; API ključevi nikada ne napuštaju host stroj.

Sigurnosni model

Host stroj
ProviderHostActor (Pokreće LLM)
API ključ ostaje ovdje
Pozivnica: ed25519 potpisani grant
↔ ChatMessage
Gostujući stroj
MeshChatProvider (prosljeđuje)
API ključ nije potreban
Token provjeren offline

Početak

# Host: generiraj pozivnicu
qmtcode --mesh --mesh-invite="Team" --invite-uses=5 --invite-ttl=7d

# Gost: pridruži se meshu
qmtcode --mesh-join=qmt://mesh/join/BASE64TOKEN

# Gostujući agent automatski otkriva pružatelje preko DHT-a
# Rutiranje je transparentno — konfiguracija nije potrebna

Ključne osobine

  • Nema izlaganja vjerodajnica: API ključevi nikada ne napuštaju host. Gosti šalju chat poruke, ne vjerodajnice.
  • Potpisani pozivni tokeni: Grantovi potpisani ed25519-om. Offline provjera. Nema poziva središnjem poslužitelju.
  • Ograničenja upotrebe: Svaka pozivnica ima maksimalan broj upotreba i TTL. Automatski istječe.
  • Opoziv po pozivnici: Izbriši invite_id iz hostova InviteStorea za trenutačni opoziv.
  • QR kodovi: Pozivni tokeni mogu se kodirati u QR kod, što olakšava osobno dijeljenje.
  • DHT otkrivanje: Gosti otkrivaju pružatelje preko Kademlia DHT-a. Nema ručne konfiguracije endpointa.

U akciji

Pogledaj Credentialless GPU Sharing showcase za potpuni vodič.