API キー ではなく LLMs を共有

Mesh nodes は credentials を漏らさずに LLM providers を公開します。署名済み invite tokens で参加。QR code でも可能です。

仕組み

各 mesh node は ProviderHostActor を実行し、local LLM providers を network に公開します。

Remote nodes は MeshChatProvider 経由で chat requests を route します。

network を通るのは chat messages と responses だけです。API キー は host machine から出ません。

セキュリティモデル

ホストマシン
ProviderHostActor (LLM を実行)
API Key はここに残る
Invite: ed25519 signed grant
↔ ChatMessage
ゲストマシン
MeshChatProvider (proxy)
API key 不要
Token は offline で検証

始め方

# Host: invite を生成
qmtcode --mesh --mesh-invite="Team" --invite-uses=5 --invite-ttl=7d

# Guest: mesh に参加
qmtcode --mesh-join=qmt://mesh/join/BASE64TOKEN

# Guest の agent は DHT 経由で providers を自動発見
# routing は transparent — config 不要

主な特性

  • Credentials を露出しない: API キー は host から出ません。Guests は credentials ではなく chat messages を送ります。
  • 署名済み invite tokens: ed25519-signed grants。offline で検証。central server への network call は不要です。
  • Usage limits: 各 invite には最大使用回数と TTL があります。自動で期限切れになります。
  • Invite ごとの revocation: host の InviteStore から invite_id を削除すると即時 revoke できます。
  • QR codes: Invite tokens は QR codes として encode でき、対面で簡単に共有できます。
  • DHT discovery: Guests は Kademlia DHT 経由で providers を発見します。manual endpoint config は不要です。

動きを見る

Credentialless GPU Sharing showcase で完全な walkthrough を確認してください。