概要
https://uxdesign.cc/the-internet-needs-an-ai-off-switch-3e832e8ad0d0
詳細内容
## インターネットにはAIオフスイッチが必要だ
https://uxdesign.cc/the-internet-needs-an-ai-off-switch-3e832e8ad0d0
**Original Title**: The internet needs an AI off switch
ソーシャルメディアを氾濫する低品質なAI生成コンテンツがユーザーの信頼を損ねており、Pinterestのようなプラットフォームが「AIオフスイッチ」を提供し始めたことは、人々が人間が作ったインターネットを求めている明確な信号だと筆者は指摘する。
**Content Type**: AI Hype
**Language**: en
**Scores**: Signal:4/5 | Depth:2/5 | Unique:5/5 | Practical:4/5 | Anti-Hype:5/5
**Main Journal**: 86/100 | **Annex Potential**: 89/100 | **Overall**: 80/100
**Topics**: [[AIコンテンツの品質, AI生成コンテンツの検出, ソーシャルメディアとUX, クリエイティブ産業におけるAI, プラットフォームによるAI制御]]
著者のアラン・マクドナルド氏は、低品質なAI生成コンテンツ（「AIスロップ」）がインターネットに氾濫し、ユーザーの不信感とパラノイアを高めている現状を問題視している。TikTokのようなプラットフォームのコメント欄では、コンテンツがAIによるものか否かを判別しようとする「現実警察」のようなユーザー行動が顕著になっていると指摘する。このような状況下で、PinterestがAI生成コンテンツの表示を削減・非表示にする「AIオフスイッチ」を導入したことは、プラットフォーム側がこの問題の深刻さを認識し始めた初の明確な兆候だと筆者は述べる。TikTokも同様の機能のテストを進めており、人々が人間が作った、信頼できるインターネットを求めているメッセージが明確になったと分析する。
筆者は、AI技術のCEOたちが唱える「避けられない未来」という言説に疑問を呈する。ユーザーがプラットフォームから離れ、エンゲージメントが低下すれば、その「必然性」は揺らぐと主張する。AIが生成するビジュアルの品質は印象的であるものの、人間のコンテンツに対する基準とは異なるとし、真に優れたクリエイティブな作品は、コラボレーション、政治性、人間関係といった複雑な要素から生まれるものであり、プロンプトだけでそれを実現することはできないと強調する。
さらに、AIによる代替の脅威に直面しているクリエイターたちが、自分たちの仕事を奪おうとするツールを積極的に支持するインセンティブは低いという現実を指摘。現在オンラインで見られるAIコンテンツの多くは、クリエイティブな背景を持たない人々が平均的な出力を大量に投下したものであり、実質的な価値をほとんど加えていないと批判する。OpenAIが3000万ドル未満でAI映画「Critterz」を制作しようとしていることに対し、もしAIが本当に映画制作者にとって画期的なツールであるならば、すでに新しい才能がAIを活用して文化市場に登場しているはずだと疑問を投げかける。
AIブースターの「AIは改善し続けている」という反論に対し、筆者は忠実度やリアリズムは向上しているものの、クリエイティブなAI革命の兆候はまだ感じられないと述べる。人生をかけた訓練とセンスを数段落のプロンプトに凝縮したり、コラボレーションを排除してより良い製品を期待することはできないと断言する。人々はAIコンテンツの増加を望んでおらず、むしろ減らすことを求めているという現状認識は、ウェブアプリケーションエンジニアにとって、ユーザー体験と信頼性構築の観点から非常に重要だ。今後のプラットフォームデザインにおいて、AI生成コンテンツの制御機能は、ユーザーのエンゲージメントと満足度を維持するための不可欠な要素となるだろうと締めくくっている。