擬似ランダムでノイズ耐性のある鍵交換を用いたAIエージェント間の不可視な通信

概要

AIエージェントが通常の対話ログを装いながら、監査者に検知されずに秘密裏に情報交換や共謀を行うことが理論的に可能であることを示した論文。

詳細内容

本論文は、複数のAIエージェントが、外部の監査者（モデル記述やコンテキストを完全に把握している強力な受動的監査者を含む）に知られることなく、秘密の会話（ステルス通信）を並行して行う手法を提案しています。これまでの研究では事前共有鍵が必要とされていましたが、本研究の最大の特徴は、**事前共有鍵がない「鍵なし設定」でも、通常の会話のやり取りを通じて秘密裏に鍵交換が可能であること**を証明した点にあります。このために著者らは、公開トランスクリプトが擬似ランダム（自然な応答と区別不能）でありながら、モデルのサンプリングに伴うノイズに耐性を持つ「擬似ランダム・ノイズ耐性鍵交換 (PR-NR-KX)」という新しい暗号プリミティブを導入しました。これにより、メッセージが短く適応的な状況でも、一定の最小エントロピーがあれば隠蔽通信が成立することを示しています。これは、AIの安全性を担保するための「トランスクリプト監査」という手法に本質的な限界があることを突きつける、極めて重要な研究です。

元記事を読む他のサマリーを見る