Делитесь LLM, а не API-ключами

Mesh-узлы открывают свои LLM-провайдеры без утечки учетных данных. Подключение через подписанные invite-токены. Даже по QR-коду.

Как это работает

Каждый mesh-узел запускает ProviderHostActor, который открывает локальные LLM-провайдеры для сети.

Удаленные узлы маршрутизируют chat-запросы через MeshChatProvider.

По сети проходят только chat-сообщения и ответы — API-ключи никогда не покидают host-машину.

Модель безопасности

Host-машина
ProviderHostActor (запускает LLM)
API-ключ остается здесь
Invite: ed25519-подписанный grant
↔ ChatMessage
Guest-машина
MeshChatProvider (прокси)
API-ключ не нужен
Токен проверяется offline

Начало работы

# Host: сгенерировать invite
qmtcode --mesh --mesh-invite="Team" --invite-uses=5 --invite-ttl=7d

# Guest: присоединиться к mesh
qmtcode --mesh-join=qmt://mesh/join/BASE64TOKEN

# Агент guest-узла автоматически находит провайдеры через DHT
# Маршрутизация прозрачна — конфиг не нужен

Ключевые свойства

  • Без утечки учетных данных: API-ключи никогда не покидают host. Гостевые узлы отправляют chat-сообщения, а не учетные данные.
  • Подписанные invite-токены: ed25519-подписанные grants. Проверяются offline. Без сетевого вызова к центральному серверу.
  • Лимиты использования: У каждого invite есть максимальное количество использований и TTL. Истекает автоматически.
  • Отзыв отдельного invite: Удалите invite_id из InviteStore на host, чтобы немедленно отозвать доступ.
  • QR-коды: Invite-токены можно кодировать как QR-коды для удобного обмена при личной встрече.
  • DHT discovery: Гостевые узлы находят провайдеров через Kademlia DHT. Без ручной настройки эндпойнта.

Посмотреть в действии

Посмотрите Шеринг GPU без учетных данных с полным пошаговым разбором.