Claude Code (Opus 4.7) における過剰なマルウェア検知とガードレールによる開発への制約問題

概要

Claudeの新モデルが正規の開発作業を「マルウェア」と誤認して拒絶する事例が相次ぎ、AIの過度な検閲が技術的好奇心や生産性を阻害しているという懸念が広がっている。

詳細内容

Hacker Newsにおいて、Anthropicの最新モデル（Opus 4.7/Claude 3.7世代）および開発ツール「Claude Code」が、スクレイピングツールの開発やセキュリティデバッグなどの正当な作業をマルウェア作成と誤認し、実行を拒否する事例が報告されています。投稿者は、月額200ドルのサブスクリプションを支払い、身元も明かしているにもかかわらず、AIから「監視・制御されている」ような感覚を覚えると主張しています。議論では、特定のシステムプロンプト（<system-reminder>）がファイル読み取りのたびにマルウェア分析を強制し、コードの改善を禁止していることが技術的な原因として指摘されました。また、アカウントが「疑わしい活動」として即座に凍結されるリスクや、AIが「答え」を安易に提示することで人間の好奇心を殺しているという意見と、逆に知識の探索を加速させているという意見で分かれています。クローズドなAIによる検閲を回避するため、ローカルモデルやオープンな技術への移行を検討する開発者の動きも浮き彫りになっています。

元記事を読む他のサマリーを見る