npmパッケージがプロンプトインジェクションとトークンフラッディングでAIマルウェアスキャナーを妨害

概要

AIによるマルウェア検知を回避するため、プロンプトインジェクションや大量のコメントによるトークンフラッディングを悪用する新しいnpmパッケージが発見されました。

詳細内容

Socket Threat Researchは、AIベースのマルウェアスキャナーを直接の標的としたnpmパッケージ「shai_hulululud」を特定しました。このパッケージは、JavaScriptの実行には影響しないコメント部分に、AIのセーフティガードレールを起動させる不適切なコンテンツ（生物兵器の製造手順など）や、AIへの指示を上書きしようとするシステム命令を混入させています。さらに、数万行に及ぶ繰り返しのコメントによって350万トークン以上のボリュームを作り出す「コンテキストフラッディング」を行い、AIのコンテキストウィンドウを溢れさせることで、ファイル末尾に隠された難読化済みのコードの解析を阻止しようと試みます。現在は「プロテストウェア」に分類されていますが、攻撃者がAIスキャナー自体を攻撃対象（アタックサーフェス）として認識し始めている実態を浮き彫りにしています。

元記事を読む他のサマリーを見る