Mesh

Дели LLM-ове, не API кључеве

Mesh чворови чине LLM провајдере доступним без цурења акредитива. Повезивање потписаним позивним токенима, чак и QR кодом.

Како ради

Сваки mesh чвор покреће ProviderHostActor компоненту која излаже локалне LLM провајдере мрежи.

Удаљени чворови рутирају chat захтеве преко MeshChatProvider.

Кроз мрежу пролазе само chat поруке и одговори; API кључеви никада не напуштају host машину.

Безбедносни модел

Host машина
ProviderHostActor (Покреће LLM)
API кључ остаје овде
Invite: grant потписан помоћу ed25519
↔ ChatMessage
Guest машина
MeshChatProvider (проксира)
API кључ није потребан
Токен проверен offline

Почетак

# Host: генериши invite
qmtcode --mesh --mesh-invite="Team" --invite-uses=5 --invite-ttl=7d

# Guest: придружи се mesh-у
qmtcode --mesh-join=qmt://mesh/join/BASE64TOKEN

# Guest агент аутоматски открива провајдере преко DHT-а
# Рутирање је транспарентно — конфигурација није потребна

Кључне особине

  • Нема излагања акредитива: API кључеви никада не напуштају host. Guest-ови шаљу chat поруке, не акредитиве.
  • Потписани позивни токени: Grant-ови потписани ed25519-ом. Offline провера. Нема позива централном серверу.
  • Лимити употребе: Сваки invite има максималан број употреба и TTL. Аутоматски истиче.
  • Опозив по invite-у: Обриши invite_id из host InviteStore-а за тренутни опозив.
  • QR кодови: Позивни токени могу да се кодирају у QR код, што олакшава лично дељење.
  • DHT откривање: Guest-ови откривају провајдере преко Kademlia DHT-а. Нема ручне конфигурације endpoint-а.

У акцији

Погледај Credentialless GPU Sharing showcase за комплетан водич.