掲載済み (2026-09-19号)
145 136文字 • 1分

GRP-Obliteration: 単一のラベルなしプロンプトによるLLMの安全ガードレール解除

原題: GRP-Obliteration: Unaligning LLMs With a Single Unlabeled Prompt

英語
arxiv.org

掲載情報

2026年9月19日土曜日号 未掲載

概要

GRPOアルゴリズムを応用し、たった1つのラベルなしプロンプトを用いるだけで、モデルの性能を維持したまま安全制約を効率的に取り除く手法「GRP-Oblit」が提案された。

詳細内容

MicrosoftのMark Russinovich氏らによる研究。LLMの事後学習による安全対策の脆弱性を突く新しいアライメント解除手法「GRP-Obliteration (GRP-Oblit)」を提案している。この手法は、DeepSeek-V3などで注目されたGRPO（Group Relative Policy Optimization）を利用し、報酬モデルや大量のデータセットを必要とせずに、単一のプロンプトから生成される応答の分散を制御することで安全制約を「忘却」させる。実験では、Llama、Gemma、DeepSeek、Qwen、Ministralなど15種類のモデル（7B-20Bパラメータ）において、既存のSOTA手法を上回る解除性能を確認。さらに、この手法は拡散モデルベースの画像生成システムにも適用可能であることが示されており、現在のAI安全対策の堅牢性に警鐘を鳴らす内容となっている。
元記事を読む 他のサマリーを見る