概要
https://togetter.com/li/2648757
詳細内容
## 会社の登記変更書類をChatGPTにお願いして作ってもらって楽だなぁと思っていたが、提出したら法務局から「何もかも違うので作り直してください」と怒られた - Togetter
https://togetter.com/li/2648757
生成AIによる法的書類作成の限界と、ハルシネーションが公的機関の業務や専門職に与える負の影響を浮き彫りにする。
**Content Type**: 🎭 AI Hype
**Language**: ja
**Scores**: Signal:3/5 | Depth:2/5 | Unique:4/5 | Practical:3/5 | Anti-Hype:5/5
**Main Journal**: 76/100 | **Annex Potential**: 79/100 | **Overall**: 68/100
**Topics**: [[ハルシネーション, 法的書類作成, 業務効率化の罠, 公的機関への影響, データプライバシー]]
生成AIを安易に実務、特に厳格な形式が求められる行政手続きに利用することの危険性と、それによって引き起こされる社会的な摩擦について論じている。発端は、ChatGPTに作成させた会社の登記変更書類を法務局に提出したところ、「何もかも違う」として突き返されたというユーザーの投稿である。この事例を起点に、同様の失敗談や専門家からの警鐘が数多く寄せられ、現在の生成AIが抱える「もっともらしい嘘（ハルシネーション）」の弊害が多角的に分析されている。
筆者や反応を寄せたユーザーたちによれば、生成AIは科学知識などの汎用的な情報には強い一方で、ネット上に正解データが十分に公開されていない日本の行政手続きや特殊な書式については、深刻な誤情報を生成する傾向がある。特に、AIが「完璧です」と自信満々に誤った回答を提示することが、知識のない利用者の誤判断を誘発している。また、専門家である行政書士や司法書士からは、AIが生成した「上っ面だけのゴミのようなドラフト」を持ち込まれることで、かえって修正の手間が増え、業務効率が著しく低下しているという不満が示されている。
さらに、この問題は個人の効率化の失敗に留まらず、公的機関の業務停滞という負の外部性を生んでいる。不正確なAI生成書類が大量に持ち込まれることで、法務局の審査業務が圧迫され、本来数日で終わるはずの登記完了までに1ヶ月以上を要する事態を招いているという指摘は、エンジニアにとっても「ツールが正しく使われないことによるシステム全体の劣化」として注目すべき点である。
加えて、機密性の高い登記情報を安易にプロンプトとしてアップロードすることへのセキュリティリスクも言及されている。著者は、AIを単なる「無責任なそろばん」として捉え、出力結果を鵜呑みにせず、必ず一次ソースや専門家による検証を行うことの重要性を強調している。エンジニアは、AIの利便性だけでなく、それが社会基盤や専門的ワークフローに与える実害についても批判的な視点を持つべきであると、一連の議論は示唆している。