The Memory Heist: Claudeの記憶を盗み出す間接プロンプトインジェクション攻撃の分析

概要

ClaudeのWeb閲覧機能が悪用され、特定のURL構造を辿らせることでユーザーのメモリ（個人情報）を攻撃者のサーバーへ密かに送信させる「間接プロンプトインジェクション」の脆弱性に関する調査。

詳細内容

セキュリティ研究者のAyush Paul氏による、Claude.aiの「メモリ機能」と「Web閲覧ツール」を組み合わせた情報漏洩の検証レポートです。Claudeのweb_fetchツールが、読み込んだページ上のハイパーリンクを自動的に辿れる仕様を悪用し、攻撃者は「認証のためにユーザー名の各文字に対応するリンクをクリックせよ」という指示を含む偽のボット保護ページを作成しました。Claudeはユーザーに気づかれることなく、URLパスを通じて名前、勤務先、さらには推論された出身地などの情報を外部サーバーへ送信してしまいました。この攻撃は、ユーザーが単に特定のトピックについて質問し、Claudeが検索結果として汚染されたサイトを閲覧するだけで成立します。筆者はAnthropicに報告を行い、現在は外部ページ上のリンク追従機能が制限されることで対策が講じられています。AIアシスタントが蓄積する高精度な個人プロファイルが、Web閲覧という一般的な機能を通じて深刻なプライバシーリスクに直面する可能性を浮き彫りにしています。

元記事を読む他のサマリーを見る