OpenAIの学習に従事するコントラクター、AIを使って学習データを生成し解雇される

概要

OpenAIのモデル品質を向上させるための人間による評価作業において、効率化のためにAIを使用して回答を生成した多数のコントラクターが解雇されている実態が報じられた。

詳細内容

404 Mediaの調査により、OpenAIのモデルをトレーニングするために雇われた数千人規模のコントラクターの一部が、自身の業務にAIを使用して解雇されていることが明らかになりました。本来、人間特有の視点や倫理的判断をモデルに付与することが目的ですが、一部の作業員はAI（ChatGPT等）を使ってトレーニング用データを生成しており、これは「モデル崩壊（AI生成データによる再学習で品質が劣化する現象）」を招くリスクがあります。内部文書によると、OpenAI側はAI使用を厳禁しており、不自然な句読点や作業完了速度の速さなどを基準に検知を行っています。また、中にはAIへの不信感から意図的に質の低い回答を選択し、モデルの学習を「サボタージュ」している作業員も存在することが報告されています。

元記事を読む他のサマリーを見る