Mesh

Споделяй LLM-и, не API keys

Mesh node-ове правят LLM provider-и достъпни без изтичане на credential-и. Свързване с подписани invite token-и, дори като QR код.

Как работи

Всеки mesh node стартира ProviderHostActor компонент, който излага локалните LLM provider-и към мрежата.

Отдалечените node-ове рутират chat заявки през: MeshChatProvider.

През мрежата минават само chat съобщения и отговори; API keys никога не напускат host машината.

Модел за сигурност

Host машина
ProviderHostActor (Стартира LLM)
API key остава тук
Invite: ed25519 подписан grant
↔ ChatMessage
Guest машина
MeshChatProvider (proxy-ва)
API key не е нужен
Token проверен offline

Начало

# Host: генерирай invite
qmtcode --mesh --mesh-invite="Team" --invite-uses=5 --invite-ttl=7d

# Guest: присъедини се към mesh
qmtcode --mesh-join=qmt://mesh/join/BASE64TOKEN

# Guest agent автоматично открива provider-и през DHT
# Routing е прозрачен — config не е нужен

Ключови свойства

  • Без излагане на credential-и: API keys никога не напускат host. Guest-ите изпращат chat съобщения, не credential-и.
  • Подписани invite token-и: Grant-и, подписани с ed25519. Offline проверка. Без заявка към централен сървър.
  • Лимити за употреба: Всеки invite има максимален брой употреби и TTL. Изтича автоматично.
  • Отмяна по invite: Изтрий invite_id от host InviteStore за незабавна отмяна.
  • QR кодове: Invite token-и могат да се кодират като QR код, което улеснява лично споделяне.
  • DHT откриване: Guest-ите откриват provider-и през Kademlia DHT. Без ръчен endpoint config.

В действие

Виж Credentialless GPU Sharing showcase за пълен walkthrough.