会話の記憶Conversation Memory

やり取りのたびに最初から読み直します

こちらが一言送ると、画面の裏ではその一言だけが渡されるのではありません。ここまで交わした質問と答えを順に並べた一つの長い文章がまるごと再び入ります。二十回目の質問をするときには、前の十九回がその文章の中にすべて入っているのです。

だからAIは毎回新しく読んでいるようなものです。前に何を話したかを知っているのではなく、目の前にある文章にその言葉が書かれているから知っているだけです。その文章から一行を抜けば、その内容はなかったことになります。

会話が長くなるほど答えが遅くなり費用が上がる理由もここにあります。毎回読むべき紙が一枚ずつ増えていくからです。

紙が積み重なると先頭から抜けます

一度に広げられる紙の枚数は決まっています。この上限を超えると、新しい紙を乗せるためにいちばん古い紙から机の上から下ろされます。

しばらく話しているうちにAIが最初に決めた規則を破ったり、序盤に伝えた名前を再び聞き返したりするのはこのためです。忘れたのではなく、その紙がすでに机から下りているのです。

大事な条件は会話の序盤に一度言って終わりにする代わりに、必要な場面でもう一度書き直しておくほうが安全です。今上げたばかりの紙はまだ机の上にあるからです。

長い会話は縮めて持ち運びます

紙をそのまま全部持ち歩くことはできないので、サービスは古い部分を短く縮めて代わりに入れます。十回分の会話を数行に圧縮したメモが、元の会話の場所を代わりに埋める形です。

縮めると場所は節約できますが細部が消えます。圧縮されたメモには「旅行の計画を相談した」までは残っても、そのとき決めた日付や予算は抜けることがあります。前ではっきり言ったはずなのにAIが見当違いの答えをする状況は、たいていここから生まれます。

だから会話が長くなったなら、新しい会話画面を開いて必要な内容だけ整理して貼り直すほうがよく通じます。

受付の外の引き出しに別に書き留めておく

最近のサービスには会話画面の外に別に書き留めておく機能があります。「ベジタリアンです」といった文を別のリストに保存しておいて、新しい会話を始めるときにそのリストを静かに前に付け足す方式です。

このリストは会話が終わっても消えないので長く残ります。代わりに、消した覚えのない古い文がずっと付いてきて、もう合わなくなった好みへ答えが傾くこともあります。設定画面で何が保存されているかを開いて消せるようにしたサービスも多いです。

新しい会話画面は白紙です

新しい画面を開くと、受付から何の紙も渡されません。前の画面でどれほど長く話していても、保存機能をつけておかなければその内容は新しい画面に付いてきません。

同じサービスでも画面を分ける基準は人によって使い方が違います。話題が変われば新しい画面を開くほうが答えがすっきりし、続けて仕上げる作業なら同じ画面に残るほうがよいです。どの画面で何を話したかはユーザーが管理すべきこととして残ります。