概要
生成AIのリスク分類から、評価手法、モデルおよびシステムレベルでの安全性向上技術までを体系的に解説したエンジニア・研究者向けの決定版ガイド。
詳細内容
本書は、生成AIの急速な普及に伴い重要性が増している「AI安全性（AI Safety）」について、基礎概念から実装技術までを網羅的に解説した書籍である。内容は8章構成で、AIリスクの分類（不快表現、情報漏洩、誤情報、悪用など）、OpenAIのモデルスペックを基準とした理想的な振る舞いの定義、ベンチマークによる評価手法、そして実践的なレッドチーミングについて詳述している。さらに、学習フェーズ（SFT/RLHF）でのモデルレベルの対策と、ガードレール等のシステムレベルでの対策を具体的に紹介。最終的には、エージェントAIやAGI/ASIといった将来的なリスクまでを見据えており、安全なAI開発・運用を目指す実務家にとって不可欠な知識が体系化されている。