なぜLLMは日本文化に執着するのか？大規模言語モデルに潜む文化的・地域的バイアスの分析

概要

大規模言語モデル（LLM）が日本文化に対して顕著な偏好を示す傾向があることを、新たなデータセットを用いた調査で明らかにし、そのバイアスが事後学習（SFT）段階で発生することを特定しました。

詳細内容

本研究は、LLMの文化的網羅性と地域的バイアスを評価するため、新たに「Culture-Related Open Questions (CROQ)」データセットを提案しました。従来の「西洋・英語圏中心主義」という指摘とは対照的に、分析の結果、多くのモデルが日本などの特定の国や文化に対して明確な偏好（バイアス）を示すことが判明しました。この現象を分析した結果、バイアスの兆候は事前学習（Pre-training）段階ではなく、その後の教師あり微調整（SFT）プロセスにおいて顕著に現れることが示唆されています。また、英語などの高リソース言語での入力は、出力の多様性を高めるものの、特定の地域への傾倒を完全には解消できないことも確認されました。本成果は、LLMの公平性や文化的な適応性を評価・改善する上で重要な知見を提供します。

元記事を読む他のサマリーを見る