フロリダ州の女性がClaudeを日記として使用、脅迫内容をAnthropicが警察に通報し起訴へ

概要

フロリダ州の女性がAI「Claude」を日記代わりに使い、警察署への襲撃計画を書き込んだところ、Anthropic社が警察に通報し、女性は重罪で起訴される事態となった。

詳細内容

フロリダ州の女性が、Anthropic社のAIチャットボット「Claude」に警察署を襲撃する計画を書き込んだとして、第2級重罪の疑いで起訴された。女性はこのAIを「日記」のように使用していたと述べているが、Claudeの安全システムがこの入力を検知し、人間のレビュアーが「信頼できる脅威」と判断して当局に通報した。Anthropic社は、死や重大な身体的損傷を防ぐために必要な場合はユーザー情報を共有する方針をとっている。この事件は、AIチャットボットがプライベートな日記ではなく、常に企業の監視と通報の対象となり得ることを改めて浮き彫りにした。また、過去にOpenAIが別の銃乱射事件の兆候を警察に通報しなかったことで訴訟に発展したケースも背景にあり、AI企業の法的・倫理的責任の境界線が厳格化している現状を示している。

元記事を読む