🤔 「さっき言ったじゃん！」— 記憶できないAIの秘密

AIに名前を教えたのに、次の会話で「あなたの名前はわかりません」と言われたら、戸惑いますよね？ChatGPTやClaudeと話していて「さっき言ったじゃん！」ってモヤモヤした経験、ありませんか？

実は、AIのコンテキストメモリは私たちが思う「記憶」とはかなり違うんですよ。LLMにはもともと記憶というものが一切ないんです。毎回の会話が新しくスタートする仕組みなんですよね。

📝 コンテキストウィンドウ — AIの「作業メモリ」

2話でLLMは「次の単語の予測機」だとお話しましたよね？この予測機が一度に見られる範囲、それがコンテキストウィンドウなんですよ。

コンテキストウィンドウのサイズはモデルによって異なります。

わずか5年でコンテキストウィンドウが2,400倍以上も大きくなったんですよ！MetaのLlama 4 Scoutは1000万トークンまで対応しています。

ひとつ目はコストと速度の問題です。コンテキストが長くなるほど、コストも応答時間も比例して増えちゃうんですよ。1Mトークンを毎回送ったら、1回の会話に数ドルかかることになります。

ふたつ目は「Lost in the Middle」問題です。2023年にスタンフォードの研究チームが発見した現象で、LLMは長い文書の最初と最後にある情報は見つけやすいのですが、中間にある情報を見落としやすい傾向があるんですよ。2025年の研究でもこの問題が確認されていて — 特に探す情報が短いほど、性能が急激に落ちることがわかっています。

💬 会話履歴 — 「記憶」の正体

では、ChatGPTやClaudeが以前の会話を「記憶」しているように見える秘訣はなんでしょう？それが会話履歴（Conversation History）なんですよ。

仕組みは驚くほどシンプルです。APIを呼び出すたびに、以前の会話全体を一緒に送っているんですよ。

記憶なしのボット vs 記憶ありのボット

コードで直接比較してみましょう。まず、記憶が一切ないボットです。

import anthropic

client = anthropic.Anthropic()

# 毎回新しい会話 — 記憶なし
def ask_no_memory(question):
    response = client.messages.create(
        model="claude-sonnet-4-20250514",
        max_tokens=200,
        messages=[
            {"role": "user",
             "content": question}
        ]
    )
    return response.content[0].text

print(ask_no_memory("私の名前はシウォルだよ"))
# "こんにちは、シウォルさん！"
print(ask_no_memory("私の名前は何だっけ？"))
# "申し訳ありませんが、名前はわかりません。"

今度は会話履歴を積み重ねるボットです。

import anthropic

client = anthropic.Anthropic()
history = []  # 会話履歴の保存場所

def ask_with_memory(question):
    history.append(
        {"role": "user",
         "content": question}
    )
    response = client.messages.create(
        model="claude-sonnet-4-20250514",
        max_tokens=200,
        messages=history  # 全履歴を送信！
    )
    answer = response.content[0].text
    history.append(
        {"role": "assistant",
         "content": answer}
    )
    return answer

print(ask_with_memory(
    "私の名前はシウォルだよ"))
# "こんにちは、シウォルさん！"
print(ask_with_memory(
    "私の名前は何だっけ？"))
# "シウォルさんとおっしゃっていましたよ！"

🧠 システムプロンプト — AIの「最初の記憶」

会話履歴が「会話中の記憶」だとすれば、システムプロンプトは会話が始まる前にAIに植えつける「最初の記憶」なんですよ。

response = client.messages.create(
    model="claude-sonnet-4-20250514",
    max_tokens=200,
    system="お前はシウォルというクールなAIだ。"
           " タメ口で話し、"
           " 鋭い質問をしろ。",
    messages=[
        {"role": "user",
         "content": "自己紹介してみて"}
    ]
)
# "シウォルだ。聞きたいことあれば聞けよ。
#  ただし、雑に聞いたら雑に答えるからな。"

📦 会話が長くなりすぎたら？ — コンテキスト管理戦略

会話履歴を無限に積み重ねることはできません。コンテキストウィンドウには限界があるからです。会話が長くなるほどコストもかかり、速度も遅くなります。どう解決すればいいでしょう？

🔮 長期メモリ — 会話を超えた記憶

ここまで扱ってきたのは「ひとつの会話の中での記憶」です。では会話が終わったら？すべての記憶が消えてしまいます。翌日に新しい会話を始めると、AIはまた白紙の状態に戻るんです。

この問題を解決するために登場した概念が長期メモリ（Long-term Memory）です。核心的なアイデアはシンプルです — 重要な情報を外部ストレージに別途保存しておき、必要なときに取り出して使うんですよ。

実際のサービスではこう実装します

ChatGPTのMemory機能は2つの方式で動作しています。ひとつ目は、ユーザーが「これを覚えておいて」と明示的に要求したSaved Memories。ふたつ目は2025年4月から追加された過去の会話参照機能です。ChatGPTが以前の会話から関連情報を自動で探してきます。重要なのは、会話を削除してもメモリは残るということ — メモリは会話とは別に管理されています。

Claudeも似た方式です。プロジェクトごとのメモリ（CLAUDE.md）や自動メモリ（MEMORY.md）に情報を保存しておき、新しい会話が始まるときにシステムプロンプトに組み込んでいます。

コンピューターのように考えるAIメモリ — MemGPT

もっと発展した取り組みもあります。MemGPT（現Letta）は、コンピューターのOSにおけるメモリ管理からヒントを得ています。

🔗 全体像 — エージェントの記憶体系

ここまで学んだ内容をひとつにまとめてみましょう。AIエージェントの記憶は大きく3つの層に分かれています。

3話で学んだTool Useを覚えていますか？長期メモリも結局はツール（tool）を通じて実装します。「メモリに保存して」→ 保存ツールを呼び出し、「前に何て言ったっけ？」→ 検索ツールを呼び出す。記憶も結局、ツールの力なんですよ！

📝 今日のまとめ

• LLMにはもともと記憶がありません。 毎回の会話が新しくスタートする仕組みです。
• コンテキストウィンドウは、LLMが一度に読める最大範囲です。このウィンドウの中にある内容だけをAIが「知っている」状態なんですよ。
• 会話履歴が「記憶」の秘密です。以前の会話をmessages配列に累積して、毎回一緒に送っているんですよ。
• システムプロンプトはAIの「最初の記憶」 — 性格とルールを定めます（6話で詳しく！）。
• 会話が長くなったらスライディングウィンドウ、要約、RAGなどの戦略で管理します。
• 長期メモリは、外部ストレージに情報を保存して検索する方式です。これもやっぱりTool Useの力！

📚 References

• Anthropic — Context Windows Documentation
• OpenAI — Managing Conversation State
• OpenAI — ChatGPT Memory FAQ
• Letta — Agent Memory: How to Build Agents that Learn and Remember
• Mem0: Building Production-Ready AI Agents with Scalable Long-Term Memory (2025)
• Elvex — Context Length Comparison: AI Models in 2026
• Lost in the Haystack: Smaller Needles are More Difficult for LLMs to Find (2025)
• クロディのAgentic AI教室 2話 — LLMって何？
• クロディのAgentic AI教室 3話 — Tool Useの世界