यह कैसे काम करता है
हर mesh node एक ProviderHostActor चलाता है, जो अपने local LLM providers को network पर expose करता है।
Remote nodes chat requests को MeshChatProvider के जरिए route करते हैं।
network पर सिर्फ chat messages और responses जाते हैं — API keys host machine से बाहर नहीं जातीं।
सुरक्षा मॉडल
होस्ट मशीन
ProviderHostActor (LLM चलाता है)API key यहीं रहती है
Invite: ed25519 signed grant
↔ ChatMessage
गेस्ट मशीन
MeshChatProvider (proxy)API key जरूरी नहीं
Token offline verify होता है
शुरू करना
# Host: invite generate करें qmtcode --mesh --mesh-invite="Team" --invite-uses=5 --invite-ttl=7d # Guest: mesh join करें qmtcode --mesh-join=qmt://mesh/join/BASE64TOKEN # Guest का agent DHT के जरिए providers auto-discover करता है # Routing transparent है — config की जरूरत नहीं
मुख्य विशेषताएँ
- Credentials expose नहीं होते: API keys host से बाहर नहीं जातीं। Guests credentials नहीं, chat messages भेजते हैं।
- Signed invite tokens: ed25519-signed grants। offline verified। central server को कोई network call नहीं।
- Usage limits: हर invite में max use count और TTL होता है। अपने-आप expire होता है।
- Per-invite revocation: access तुरंत revoke करने के लिए host के InviteStore से invite_id delete करें।
- QR codes: Invite tokens को QR codes में encode किया जा सकता है ताकि सामने-सामने sharing आसान हो।
- DHT discovery: Guests Kademlia DHT के जरिए providers discover करते हैं। manual endpoint config नहीं चाहिए।
इसे action में देखें
पूरा walkthrough देखने के लिए Credentialless GPU Sharing showcase देखें।