Comparte LLMs, no API keys

Los nodos mesh exponen sus proveedores LLM sin filtrar credenciales. Únete con invite tokens firmados. Incluso como códigos QR.

Cómo funciona

Cada nodo mesh ejecuta un ProviderHostActor que expone sus proveedores LLM locales a la red.

Los nodos remotos enrutan peticiones de chat mediante MeshChatProvider.

Por la red solo viajan mensajes de chat y respuestas; las API keys nunca salen de la máquina host.

Modelo de seguridad

Máquina host
ProviderHostActor (ejecuta LLM)
La API key se queda aquí
Invite: grant firmado con ed25519
↔ ChatMessage
Máquina guest
MeshChatProvider (proxy)
No necesita API key
Token verificado offline

Primeros pasos

# Host: generar invite
qmtcode --mesh --mesh-invite="Team" --invite-uses=5 --invite-ttl=7d

# Guest: unirse al mesh
qmtcode --mesh-join=qmt://mesh/join/BASE64TOKEN

# El agente guest descubre proveedores vía DHT
# El enrutamiento es transparente — no requiere config

Propiedades clave

  • Sin exposición de credenciales: Las API keys nunca salen del host. Los guests envían mensajes de chat, no credenciales.
  • Invite tokens firmados: Grants firmados con ed25519. Verificación offline. Sin llamada a un servidor central.
  • Límites de uso: Cada invite tiene un máximo de usos y TTL. Expira automáticamente.
  • Revocación por invite: Borra un invite_id del InviteStore en el host para revocarlo de inmediato.
  • Códigos QR: Los invite tokens se pueden codificar como QR para compartirlos fácilmente en persona.
  • Descubrimiento DHT: Los guests descubren proveedores vía Kademlia DHT. Sin configuración manual de endpoint.

Verlo en acción

Mira el ejemplo Credentialless GPU Sharing para un walkthrough completo.