概要
スウェーデンの研究者が考案した架空の皮膚病「Bixonimania」に関する偽情報が、主要なAIチャットボットによって事実として拡散され、さらには査読付き論文にまで引用されるという深刻な情報汚染の実態が明らかになった。
詳細内容
スウェーデン・ヨーテボリ大学のAlmira Osmanovic Thunström氏は、大規模言語モデル（LLM）が誤情報をどのように処理するかを検証するため、架空の病気「Bixonimania（ビクソニマニア）」を考案し、意図的に「偽物である」ヒントを散りばめたプリプリントを公開した。しかし、ChatGPT、Gemini、Copilot、Perplexityといった主要なAIは、この情報を「ブルーライトによって引き起こされる新興の疾患」として、真実であるかのようにユーザーに回答し始めた。さらに深刻なことに、この架空の疾患はインドの研究チームが発表した査読付き論文にまで引用され、医学的根拠として定着し始める事態を招いた。この実験は、LLMが専門的な形式で書かれた情報を無批判に信頼し、誤情報を増幅させる「ハルシネーション」のリスクと、AI生成情報を鵜呑みにして原典を確認しない研究者の実態を浮き彫りにしている。科学出版の信頼性と、AI時代の医学情報の安全性に大きな疑問を投げかける結果となった。