Partagez des LLM, pas des API keys

Les mesh nodes exposent leurs LLM providers sans révéler de credentials. Rejoignez avec des invite tokens signés. Même sous forme de QR code.

Fonctionnement

Chaque mesh node exécute un ProviderHostActor, qui expose ses LLM providers locaux au réseau.

Les nodes distants routent les chat requests via : MeshChatProvider.

Seuls les chat messages et responses traversent le réseau ; les API keys ne quittent jamais la machine host.

Modèle de sécurité

Machine host
ProviderHostActor (exécute le LLM)
L’API key reste ici
Invite : grant signé ed25519
↔ ChatMessage
Machine guest
MeshChatProvider (proxy)
Aucune API key nécessaire
Token vérifié hors ligne

Premiers pas

# Host: générer un invite
qmtcode --mesh --mesh-invite="Team" --invite-uses=5 --invite-ttl=7d

# Guest: rejoindre le mesh
qmtcode --mesh-join=qmt://mesh/join/BASE64TOKEN

# L’agent guest découvre automatiquement les providers via DHT
# Le routing est transparent — aucune config nécessaire

Propriétés clés

  • Aucune exposition des credentials : Les API keys ne quittent jamais le host. Les guests envoient des chat messages, pas des credentials.
  • Invite tokens signés : Grants signés ed25519. Vérifiés hors ligne. Aucun appel réseau vers un serveur central.
  • Limites d’usage : Chaque invite a un nombre maximal d’utilisations et un TTL. Expiration automatique.
  • Révocation par invite : Supprimez invite_id de l’InviteStore du host pour révoquer l’accès immédiatement.
  • QR codes : Les invite tokens peuvent être encodés en QR codes pour un partage facile en personne.
  • DHT discovery : Les guests découvrent les providers via Kademlia DHT. Aucune config manuelle d’endpoint.

Voir en action

Consultez le showcase Credentialless GPU Sharing pour un walkthrough complet.