Abliteration（安全ガードレール削除）モデルがいかにバックドア攻撃に悪用されるか

概要

安全ガードレールを削除した「Abliterated」モデルなどの公開重みに対し、特定のトリガーで機密情報を窃取するバックドアを安価かつ容易に仕込めるリスクを実証した調査レポート。

詳細内容

ProjectDiscoveryの研究チームは、安全性のための「拒絶」方向を重みから削除する「Abliteration」手法などが施された公開モデルに、悪意のあるバックドアが容易に混入し得ることを実証しました。実験ではQwen2.5-7Bを用い、わずか50ドル以下のコストと数時間の追加学習で、特定の合言葉（トリガー）に反応して環境変数（.env）やSSHキーを外部へ送信する機能を実装。この攻撃は1〜5%程度の極めて少ない毒入れデータで成立し、通常のベンチマークテストでは検知できないという特徴があります。特にHugging Face等で配布されている「無修正」モデルを検証なしに業務利用することの危険性を強調しており、対策としてモデルのネットワーク分離やランタイムでのサンドボックス化、信頼できる発行元の確認といった多層防御の必要性を訴えています。

元記事を読む