Fonctionnement
Chaque mesh node exécute un ProviderHostActor, qui expose ses LLM providers locaux au réseau.
Les nodes distants routent les chat requests via : MeshChatProvider.
Seuls les chat messages et responses traversent le réseau ; les API keys ne quittent jamais la machine host.
Modèle de sécurité
Machine host
ProviderHostActor (exécute le LLM)L’API key reste ici
Invite : grant signé ed25519
↔ ChatMessage
Machine guest
MeshChatProvider (proxy)Aucune API key nécessaire
Token vérifié hors ligne
Premiers pas
# Host: générer un invite qmtcode --mesh --mesh-invite="Team" --invite-uses=5 --invite-ttl=7d # Guest: rejoindre le mesh qmtcode --mesh-join=qmt://mesh/join/BASE64TOKEN # L’agent guest découvre automatiquement les providers via DHT # Le routing est transparent — aucune config nécessaire
Propriétés clés
- Aucune exposition des credentials : Les API keys ne quittent jamais le host. Les guests envoient des chat messages, pas des credentials.
- Invite tokens signés : Grants signés ed25519. Vérifiés hors ligne. Aucun appel réseau vers un serveur central.
- Limites d’usage : Chaque invite a un nombre maximal d’utilisations et un TTL. Expiration automatique.
- Révocation par invite : Supprimez invite_id de l’InviteStore du host pour révoquer l’accès immédiatement.
- QR codes : Les invite tokens peuvent être encodés en QR codes pour un partage facile en personne.
- DHT discovery : Les guests découvrent les providers via Kademlia DHT. Aucune config manuelle d’endpoint.
Voir en action
Consultez le showcase Credentialless GPU Sharing pour un walkthrough complet.