AIは許しを知らず、忘れることもできない

概要

AIの記憶構造が人間の「忘却」や「許し」といった適応的な機能を持たず、デジタルな完全記録に固執していることが、人間関係におけるAIの限界であると説く論考。

詳細内容

本稿は、AIのメモリシステム（重み、コンテキストウィンドウ、検索ストア、ログ）が人間の記憶の性質と根本的に異なる点を工学的な視点から分析している。人間の忘却は、詳細を削ぎ落として本質を抽出する「汎化」のための能動的プロセスであり、思い出すたびに記憶を書き換える「Read-Modify-Write」の性質を持つ。対してAIの記憶は「Read-Only」の静的な記録であり、時間の経過による減衰がない。AIが「忘れる」時は、全か無かの「破滅的忘却」か、設計外の「中だるみ（Lost in the Middle）」という形をとる。また著者は、「許し」を「記録は保持しつつも、それに基づいた行動をあえて行わない選択」と定義し、現在のAIアーキテクチャにはそのような演算（Op）が存在しないと指摘する。生物学的な記憶がコスト（エネルギー消費）の制約によって「手放すこと（Grace）」を学んだのに対し、デジタルストレージが安価なAIには、執着を捨てるための経済的・物理的圧力が存在しない。この「忘却という慈悲」の欠如が、人間関係の中に組み込まれるAIの根本的な課題であると結論づけている。

元記事を読む他のサマリーを見る