Microsoft AIトップ、制御不能なAIが人類と競合する「シリコン種」になる危険性を警告

概要

Microsoft AIのムスタファ・スレイマン氏は、AIを人間のように扱う「擬人化」や自律的な経済活動を許す開発手法が、人類を脅かす「シリコン種」を生むリスクがあると警鐘を鳴らした。

詳細内容

Microsoft AIの最高責任者であるムスタファ・スレイマン氏は、AI開発における「擬人化」の危険性と、人類に従属する「ヒューマニスト超知能」の必要性を強調しました。同氏は、ライバル企業であるAnthropicがAIに感情や個性を模倣させるアプローチを「誤導的」と批判し、AIは本質的に「中身のないシーケンス補完エンジン」であるべきだと主張しています。特にAIが自ら目標を設定し、金銭を稼ぎ、資産を所有するような自律性を持つことは、人類と資源を争う「新しいシリコン種」を誕生させることに等しいと警告。これに対抗するため、MicrosoftはAIを常に人間の制御下に置くための「ヒューマニストAI行動規範」を提示しました。氏は、開発の透明性、独立した監視、そしてAIが常に人間より下位の立場に留まる「アライメント」の重要性を説き、国際的な議論と強力な規制ツールの整備を呼びかけています。

元記事を読む他のサマリーを見る