道具の使用Tool Use

手段を使うといっても、モデルが直接手を伸ばすわけではありません。実際には「この手段をこう呼んでほしい」という内容を文章で出し、外のプログラムがそれを読んで代わりに実行します。そして結果をモデルに返します。モデルは最後まで要求と結果をやり取りするだけで、自分で実行はしません。結果は文章のことが多いですが、画面キャプチャのような画像が返ってくることもあります。

台所のたとえがずれる点もあります。人は餃子がまだ焼けていないか目で見て分かりますが、モデルは返ってきた文章が正しいか自分で確かめるのが難しいです。手段が間違った値を返しても、そのまま信じて続けてしまうことがあります。機械は壊れれば兆候が出ますが、手段は静かに間違った値を出すことがあります。

手段を持たせるということは、そのまま権限を与えるという意味でもある点も押さえておく必要があります。読むだけの手段と何かを変える手段では、間違えたときの大きさがまったく違います。だから手段を付けるときは、できることを必要な分だけに絞っておき、何をいつ呼んだかを残す記録を一緒に付けておくのが普通です。