Діліться LLM, не API-ключами

Mesh-вузли відкривають свої LLM-провайдери без витоку облікових даних. Підключення через підписані invite-токени. Навіть QR-кодами.

Як це працює

Кожен mesh-вузол запускає ProviderHostActor, який відкриває локальні LLM-провайдери для мережі.

Віддалені вузли маршрутизують chat-запити через MeshChatProvider.

Мережею проходять лише chat-повідомлення та відповіді — API-ключі ніколи не залишають host-машину.

Модель безпеки

Host-машина
ProviderHostActor (запускає LLM)
API-ключ залишається тут
Invite: ed25519-підписаний grant
↔ ChatMessage
Guest-машина
MeshChatProvider (проксі)
API-ключ не потрібен
Токен перевіряється offline

Початок роботи

# Host: згенерувати invite
qmtcode --mesh --mesh-invite="Team" --invite-uses=5 --invite-ttl=7d

# Guest: приєднатися до mesh
qmtcode --mesh-join=qmt://mesh/join/BASE64TOKEN

# Агент guest-вузла автоматично знаходить провайдери через DHT
# Маршрутизація прозора — конфіг не потрібен

Ключові властивості

  • Без витоку облікових даних: API-ключі ніколи не залишають host. Гостьові вузли надсилають chat-повідомлення, а не облікові дані.
  • Підписані invite-токени: ed25519-підписані grants. Перевіряються offline. Без мережевого виклику до центрального сервера.
  • Ліміти використання: Кожен invite має максимальну кількість використань і TTL. Автоматично спливає.
  • Відкликання окремого invite: Видаліть invite_id з InviteStore на host, щоб відкликати негайно.
  • QR-коди: Invite-токени можна кодувати як QR-коди для зручного обміну наживо.
  • DHT discovery: Гостьові вузли знаходять провайдерів через Kademlia DHT. Без ручного налаштування ендпойнта.

Побачити в дії

Перегляньте Шеринг GPU без облікових даних для повного покрокового розбору.