LLM-eket ossz meg, ne API-kulcsokat

A mesh-csomópontok hitelesítési adatok kiszivárgása nélkül teszik elérhetővé LLM-szolgáltatóikat. Csatlakozás aláírt meghívótokenekkel, akár QR-kóddal.

Hogyan működik

Minden mesh-csomópont futtat egy ProviderHostActor komponenst, amely elérhetővé teszi a helyi LLM-szolgáltatókat a hálózaton.

A távoli csomópontok chatkéréseket irányítanak ezen keresztül: MeshChatProvider.

A hálózaton csak chatüzenetek és válaszok mennek át; az API-kulcsok soha nem hagyják el a gazdagépet.

Biztonsági modell

Host gép
ProviderHostActor (LLM-et futtat)
Az API-kulcs itt marad
Meghívó: ed25519-tel aláírt jogosultság
↔ ChatMessage
Vendég gép
MeshChatProvider (proxyzik)
Nincs szükség API-kulcsra
A token offline ellenőrizve

Kezdés

# Host: invite generálása
qmtcode --mesh --mesh-invite="Team" --invite-uses=5 --invite-ttl=7d

# Guest: csatlakozás a meshhez
qmtcode --mesh-join=qmt://mesh/join/BASE64TOKEN

# A vendég ágens DHT-n keresztül automatikusan felfedezi a szolgáltatókat
# Az útválasztás transzparens — nincs szükség konfigurációra

Fő tulajdonságok

  • Nincs hitelesítésiadat-kitettség: Az API-kulcsok soha nem hagyják el a gazdagépet. A vendégek chatüzeneteket küldenek, nem hitelesítési adatokat.
  • Aláírt meghívótokenek: ed25519-cel aláírt jogosultságok. Offline ellenőrzés. Nincs központi szerverhívás.
  • Használati limitek: Minden meghívó maximális használatszámmal és TTL-lel rendelkezik. Automatikusan lejár.
  • Meghívónkénti visszavonás: Törölj egy invite_id-t a gazdagép InviteStore-jából az azonnali visszavonáshoz.
  • QR-kódok: A meghívótokenek QR-kódba kódolhatók, így személyesen könnyű megosztani őket.
  • DHT felderítés: A vendégek Kademlia DHT-n keresztül fedezik fel a szolgáltatókat. Nincs kézi végpont-konfiguráció.

Működés közben

Nézd meg a Credentialless GPU Sharing showcase-t a teljes walkthrough-hoz.