Mesh

LLMs teilen, nicht API keys

Mesh nodes machen LLM Provider verfügbar, ohne credentials preiszugeben. Verbindung über signierte invite tokens, sogar als QR-Code.

So funktioniert es

Jeder mesh node startet eine ProviderHostActor-Komponente, die lokale LLM Provider im Netzwerk bereitstellt.

Entfernte nodes routen chat requests über: MeshChatProvider.

Durch das Netzwerk laufen nur chat messages und responses; API keys verlassen niemals die host-Maschine.

Sicherheitsmodell

Host-Maschine
ProviderHostActor (startet LLM)
API key bleibt hier
Invite: ed25519-signierter grant
↔ ChatMessage
Guest-Maschine
MeshChatProvider (proxyt)
Kein API key nötig
Token offline verifiziert

Loslegen

# Host: invite generieren
qmtcode --mesh --mesh-invite="Team" --invite-uses=5 --invite-ttl=7d

# Guest: mesh beitreten
qmtcode --mesh-join=qmt://mesh/join/BASE64TOKEN

# Guest agent entdeckt Provider automatisch via DHT
# Routing ist transparent — kein config nötig

Kerneigenschaften

  • Keine credential-Exposition: API keys verlassen niemals den host. Guests senden chat messages, keine credentials.
  • Signierte invite tokens: Mit ed25519 signierte grants. Offline verifiziert. Kein Netzwerkaufruf zu einem zentralen Server.
  • Nutzungslimits: Jedes invite hat eine maximale Nutzungszahl und TTL. Es läuft automatisch ab.
  • Widerruf pro invite: Lösche invite_id aus dem InviteStore des hosts, um sofort zu widerrufen.
  • QR-Codes: Invite tokens können als QR-Code kodiert werden, für einfaches Teilen vor Ort.
  • DHT Discovery: Guests entdecken Provider über Kademlia DHT. Kein manueller endpoint config.

In Aktion ansehen

Sieh dir den Credentialless GPU Sharing showcase für einen vollständigen walkthrough an.