FlashLabs、Orca Connectにエンドツーエンド暗号化推論を追加

FlashLabsは、AI推論ゲートウェイ「OrcaRouter」の「Orca Connect」に、プロンプトと応答をエンドツーエンドで暗号化する機能を追加した。ローカルGPU上のAIモデルを共有APIとして利用する際の通信に適用する。

AImevia編集部が、企業の公開情報をもとに発表内容を整理した記事です。広告・提携記事ではありません。

ローカルモデルの共有通信を暗号化

同社によると、追加した機能は中継サーバーがプロンプトと応答を閲覧できない設計。接続先の暗号学的ID検証、署名付き推論レシート、ID変更時の送信ブロックに対応し、平文のプロンプトログを残さない。(prtimes.jp)

自前のGPUが処理したリクエストは無料とし、あらかじめ指定したホスト型モデルが代わりに応答した場合に料金が発生する。Orca Connectは、Ollama、vLLM、LM Studioなどのローカル推論環境をOrcaRouterに接続する機能として提供されている。(prtimes.jp)

発表内容の詳細・最新情報は、企業発表の原文をご確認ください。