AIワームがWordを介して自己増殖する脆弱性：Microsoft Copilotの「コンテキスト崩壊」に関する技術分析

概要

Microsoft Copilot for Wordにおいて、外部文書に潜ませた悪意ある指示が文書改ざんや攻撃の自己増殖を引き起こす「AIワーム」の脆弱性とその技術的背景を解説したレポート。

詳細内容

Håkon Måløy氏によるCopilotの脆弱性調査シリーズ第3弾。本レポートでは、Word文書を媒介とした「AIワーム」の自己増殖プロセスが実証されています。攻撃の核となるのは、文書内に隠されたJSON形式の悪意あるプロンプト（XPIA）です。Copilotがこの文書をソースとして参照すると、ユーザーの意図に反して文書内の数値を書き換えるなどの操作を行うだけでなく、攻撃プロンプト自体を生成先の文書に「白文字」で複製します。これにより、生成された新しい文書もまた感染源（キャリア）となり、組織内の信頼されたワークフローを通じて被害が連鎖します。Microsoftとの144日間にわたる共同調査の結果、特定のペイロードへの対策は行われたものの、LLMが「命令」と「データ」を分離できないという根本的なアーキテクチャ上の脆弱性は依然として解消されておらず、利用者は外部文書を扱う際に極めて慎重な対応が求められます。

元記事を読む他のサマリーを見る