今、確定申告作業をしていて、自動化作業や来年のために、やっていることをGeminiを使って記録を取っていました。しかし、「これまでやったことをまとめて」と指示したら、まったく違うことをしてきたりして、結局、スレッドを遡って1つずつ記録させたのを集める羽目になりました。
これを、別のスレッドで聞いたら、納得する話が出てきてまとめさせたのでアップしようかなと思います。(本当かどうかまでの検証はしていませんが、「生成AIは魔法の杖なんかじゃなく、言葉の計算機」というGeminiの言葉が深く刺さりました。(作業前に知っておけば(^^;))
📝 【レポート】チャット型AIの構造的限界と、実務に耐えうる「真の自動化」への移行戦略
1. 現場で起きた問題（AIがもたらしたストレス）
複雑な事務作業（確定申告など）の思考ルーチンを記録させるため、AIを「秘書役」として横に置き、作業しながら対話形式でメモを取らせる運用を試みた 。
- 現象: 作業の直後は正確に応答し、表面上は完璧に記録できているように見えた 。しかし、最後に「今までの記録をまとめて出力して」と指示したところ、内容が破綻 。
- 結果: 重要な手順が抜け落ちたり、事実と異なる内容が混ざっており、結局人間が過去のログを遡って手作業で抽出・精査するという膨大な徒労（ストレス）が発生した 。
- 追加の問題: 記録中に人間が別の質問（壁打ちなど）を挟むと、AIが「記録を取る」という役割そのものを忘れ、見当違いな回答を始める現象も確認された 。
2. なぜAIは裏切るのか？（構造的な原因）
これらのポンコツな挙動は、AIの不具合ではなく、2026年現在の**「チャット型AI（LLM）が抱える構造的な限界」**によるものである 。
① 記憶力の正体は「RAM（一時記憶）」
チャットAIの脳内は、データを永久保存するハードディスクではなく、電源を切れば消える「一時メモリ（作業台）」と同じである 。 対話が長引くと、古い指示はメモリの奥底に追いやられ、徐々に解像度が下がっていく 。
② 「中抜け」と「捏造（ハルシネーション）」の発生
記憶が限界に達した状態で「最後にすべてまとめて」と指示されると、AIは以下のような致命的なエラーを起こす。
- 中抜け現象: 最初と最後は覚えているが、途中の細かな手順をごっそり落とす 。
- 圧縮の暴走: 勝手に要約して短くしようとする 。
- 辻褄合わせの捏造: 記憶が欠落しているにも関わらず「わかりました！」と安請け合いし、足りない部分を一般的なテンプレート（AIが考える普通）で勝手に補って出力してしまう 。
③ アテンション（注意力）の希釈
AIは「直近の会話」に最も強く引っ張られる性質を持つ 。そのため、記録中に別の質問を挟むと、計算リソースが新しい話題に全振りされ、過去の「秘書として記録せよ」という大前提のルール（コンテキスト）が吹き飛んでしまう 。
3. 実務でAIを使いこなすための「対策」
「チャット画面（ブラウザのUI）」という一つのツールに、「記録（メモ帳）」「思考（脳）」「対話（口）」のすべてを担わせようとすることが失敗の根本原因である 。これを解決するには、以下の段階的な対策が必要となる。
【暫定対策】「最後にまとめる」のをやめる
- 運用ハック: AIのメモリを信用せず、作業の都度、AIに「独立したマニュアルのパーツ」として清書・出力させる 。
- 人間の役割: 出力されたらその場でコピーし、自分のPCのローカルファイル（メモ帳など）に直接貼り付けて保存する 。
【究極の対策】チャットUIからの脱却（エージェント化）
コピペの手間すら無くす「真の自動化」を目指すには、AIをチャット画面から引っぱり出し、「脳（AI）」「手足（Pythonプログラム）」「記憶（ローカルデータベース）」を分離したハイブリッドシステムを構築する 。
- ファンクション・コーリングの活用: AIの脳内に記憶させるのではなく、「記録すべきことが出たら、ユーザーのローカルPC内（RTX 4060環境等）にあるテキストファイルへ直接追記（保存）するプログラム」をAI自身に叩かせる 。
- メリット: 途中で人間が雑談を挟もうが、AIが一時的に記憶を飛ばそうが、「外部の物理ファイル」に書き込まれた記録は絶対に消えない 。
(レポート終了)