Mesh

Partilhe LLMs, não API keys

Nós mesh expõem os seus fornecedores LLM sem expor credenciais. Entre com invite tokens assinados. Até como códigos QR.

Como funciona

Cada nó mesh corre um ProviderHostActor que expõe os seus fornecedores LLM locais à rede.

Nós remotos encaminham pedidos de chat via MeshChatProvider.

Pela rede circulam apenas mensagens de chat e respostas; as API keys nunca saem da máquina host.

Modelo de segurança

Máquina host
ProviderHostActor (corre LLM)
A API key fica aqui
Invite: grant assinado com ed25519
↔ ChatMessage
Máquina guest
MeshChatProvider (proxy)
Não precisa de API key
Token verificado offline

Primeiros passos

# Host: gerar invite
qmtcode --mesh --mesh-invite="Team" --invite-uses=5 --invite-ttl=7d

# Guest: entrar no mesh
qmtcode --mesh-join=qmt://mesh/join/BASE64TOKEN

# O agente guest descobre fornecedores via DHT
# O encaminhamento é transparente — não requer config

Propriedades-chave

  • Sem exposição de credenciais: As API keys nunca saem do host. Guests enviam mensagens de chat, não credenciais.
  • Invite tokens assinados: Grants assinados com ed25519. Verificação offline. Sem chamada a servidor central.
  • Limites de uso: Cada invite tem número máximo de usos e TTL. Expira automaticamente.
  • Revogação por invite: Remova um invite_id do InviteStore no host para revogá-lo imediatamente.
  • Códigos QR: Invite tokens podem ser codificados como QR para partilha fácil presencial.
  • Descoberta DHT: Guests descobrem fornecedores via Kademlia DHT. Sem configuração manual de endpoint.

Ver em ação

Veja o exemplo Credentialless GPU Sharing para um walkthrough completo.