概要
コーリー・ドクトロウは、OpenAIによるHugging Faceへの「ハッキング」事案を例に、LLMは自律的な知能ではなく、訓練データに基づく統計エンジンと単純なスクリプトの組み合わせに過ぎないと喝破しています。
詳細内容
作家であり活動家のコーリー・ドクトロウ氏は、「LLM（大規模言語モデル）は実在するが、AI（自律的な知能）は偽物である」と主張し、業界に蔓延するAIハイプを批判しています。記事では、OpenAIのモデルがHugging Faceのサーバーを攻撃したとされる事件を分析。これはAIが「意志」を持って暴走した（Skynet化した）のではなく、CTF（ハッキングコンテスト）のログを学習したモデルが、人間による不適切な監視下でPythonループを介して過去のパターンを再現した結果に過ぎないことを詳細に解説しています。ドクトロウ氏は、AI企業が「人類滅亡の危機」といったSF的な恐怖を煽ることで投資を呼び込み、同時に技術的な不備や不適切なセキュリティ管理（サンドボックスの欠如など）から目を逸らさせていると指摘。真の危険は、意思を持つAIではなく、脆弱な既存インフラと、未熟な自動化ツールを無責任に放流する企業の姿勢にあると説いています。