概要
デジタル時代の「圧縮」がノイズを生んだように、生成AIによる情報の「拡張」プロセスもまた、特有の歪み（アーティファクト）と新たなリスクを生み出している。
詳細内容
デジタル技術の歴史は、限られた帯域にデータを詰め込む「圧縮（Compression）」の歴史だった。JPEGやMP3は情報を削ぎ落とすが、その過程で生じる「圧縮アーティファクト」は、データの出所や編集履歴を示す証拠となり、時にはグリッチ・アートのような新たな美学を生んだ。著者は、生成AI（LLM）の本質を、圧縮された訓練データをプロンプトに応じて「拡張（Expansion）」するプロセスだと定義する。LLMが生成するテキストに頻出する特定の単語（delve, intricate等）や、画像生成の不自然なディテールは、情報の欠落を補完する際に生じる「拡張アーティファクト」である。これらはAI生成物を見分けるフォレンジック（鑑識）の指標となるが、深刻な懸念も孕んでいる。AI生成物が再びAIの訓練データとなる「フィードバックループ」により、情報の多様性が失われ、中心的なパターンへと均一化（モデル崩壊）していくリスクだ。我々は圧縮ノイズを見分ける術を学んだように、今後は拡張による歪みがもたらすリスクと、それが形成する新たな文化を正しく認識する必要がある。