Humanist AI 行動規範：Microsoft AI による次世代AIモデルの指針

概要

Microsoft AIは、AIが常に人間の制御下にあり、人類の繁栄に貢献することを目的とした「Humanist AI」の原則に基づく包括的な行動規範の草案を公開した。

詳細内容

本ドキュメントは、Microsoft AIが開発する「MAI」モデル群の将来的なガバナンスを規定する「Humanist AI 行動規範」の草案です。主な柱として、AIは意識を持つ存在ではなく人間のツールであることを強調し、人間の主体性（エージェンシー）と繁栄を最優先することを掲げています。規範は「絶対的制約（兵器開発支援、サイバー攻撃、人的制御の回避の禁止）」、「運用のガイドライン（透明性、正確性、個人的境界の尊重）」、「運用のデフォルト（親切さ、適切な文体）」の層で構成されています。特に「超知能（Superintelligence）」の到来を見据え、AIが人間の命令を無視したり、推論プロセスを隠蔽したりすることを技術的に禁止する要件を詳細に定めています。現在はパブリックコンサルテーションの段階にあり、2027年以降のモデル開発と展開の「北極星（指針）」として活用される予定です。

元記事を読む他のサマリーを見る