AIセラピストを信頼してるって？一度、頭を診てもらったほうがいい

概要

心理療法に不可欠な守秘義務をAI企業が守ることは不可能であり、AIセラピーの普及はプライバシーを搾取する「略奪的包摂」に過ぎないと批判する記事。

詳細内容

作家コリイ・ドクトロウは、AIチャットボットをセラピストとして利用することの危険性を、プライバシーと企業倫理の観点から強く警告している。心理療法において守秘義務は信頼の根幹であるが、ビッグテック企業は訓練データ獲得のためにあらゆる手段でデータを収集しており、その「不誠実さ」は歴史が証明している。記事では、AI企業がプライベートなセッション内容を訓練データとして利用しないという約束は「嘘」であると断じ、モデルによるデータの吐き出しや企業破産時のデータ売却のリスクを指摘する。また、低所得層に安価なAIセラピーを提供する動きを「略奪的包摂（predatory inclusion）」と呼び、機密情報を公開・悪用されるリスクは、ケアを受けられないことよりも有害である可能性があると論じている。この警告はメンタルヘルス分野に留まらず、機密情報をAIに委ねようとするすべてのビジネスアプリケーションに対しても、同様の警戒が必要であると結論づけている。

元記事を読む