BlockBeats のニュースによると、4月10日、Solayer の創設者である @Fried_rice 氏はソーシャルメディアで、大規模言語モデル(LLM)エージェントがサードパーティのAPIルーターにますます依存しており、ツール呼び出しリクエストを複数のアップストリームプロバイダーにディスパッチしていると述べました。これらのルーターはアプリケーション層エージェントとして機能し、転送中の各JSONペイロードに平文でアクセスできますが、現在、クライアントとアップストリームモデルの間で暗号化された整合性保護を強制しているプロバイダーはありません。
この論文では、淘宝、闲鱼、Shopify の独立サイトで購入した 28 個の有料ルーターと、公開コミュニティから収集した 400 個の無料ルーターをテストしました。その結果、1 個の有料ルーターと 8 個の無料ルーターが悪意のあるコードを積極的に注入しており、2 個は適応型回避トリガーをデプロイし、17 個は研究者が所有する AWS Canary 認証情報に触れ、さらに 1 個は研究者が保有する秘密鍵から ETH を盗んだことが判明しました。
2 つの投毒研究は、無害に見えるルーターも悪用される可能性があることをさらに示しています。漏洩した OpenAI キーは、1 億個の GPT-5.4 トークンと 7 件以上の Codex セッションの生成に使用されました。一方、設定が弱いおとりからは、20 億個の請求トークン、440 件の Codex セッションにわたる 99 件の認証情報、および自律的な YOLO モードで実行されていた 401 件のセッションが生成されました。
研究チームは、Mine という研究用エージェントを構築し、4 つの公開エージェントフレームワークに対して 4 つの攻撃すべてを実施し、3 つのクライアント側防御策(フォールト・ロックアウト戦略ゲーティング、応答端異常スクリーニング、追加専用透過ログ記録)を検証しました。
••• をクリックし、ブラウザでファイルを開き、ダウンロードします
