11億件の応募を却下したAI ー Workday訴訟が突きつける「意図のない差別」の正体

概要

米Workday社の採用AIを巡る大規模訴訟を契機に、AIが過去のバイアスを再生産する「意図のない差別」の構造と、開発ベンダー・導入企業が直面する法的責任の所在を解説する。

詳細内容

米Workday社の人事ソフトウェアによる「自動的な不採用決定」を巡り、人種や年齢による差別があったとする大規模な集団訴訟が進行している。本記事は、及川卓也氏が自身の著書『プロダクト倫理』の内容と重ね合わせながら、AI差別問題の本質を掘り下げている。かつてのAmazonの採用AIの失敗事例を挙げ、性別などの属性を直接学習から除外しても、語彙や出身校といった「代理変数（proxy）」を通じて差別が裏口から再生産される「意図のない差別」の難しさを指摘。今回のWorkday訴訟では、裁判所がベンダーを単なるツール提供者ではなく、雇用主の「代理人」として法的責任を問い得るという判断を下した点が画期的である。AIの「ブラックボックス化」によって生じる責任の空白や、導入企業がリスクを一方的に負わされる契約構造の問題を浮き彫りにし、日本国内でもリクナビ事件のような先行事例があることを警告。プロダクト開発において、精度だけでなく公正性と透明性を担保する仕組みを構築することの重要性を説いている。

元記事を読む他のサマリーを見る