システムプロンプトSystem Prompt

客の言葉より先に置かれます

私たちがチャット欄に何かを打ち込む前に、サービスはすでにモデルへ何行かを渡し終えています。「あなたはこの会社の相談窓口です」「丁寧語を使ってください」「医学的な判断はしないでください」といった文です。

モデルはこの文を先に読み、そのあとで私たちの言葉を読みます。順番が先であることが大事な点です。あとに来る言葉をどんな態度で扱うかが、あらかじめ前で決まっているのです。

同じモデルなのに、あるサービスではかしこまった相談員のように、別のサービスでは気さくな話し相手のようにふるまう理由がここにあります。モデルが違うのではなく、前に敷かれた方針が違うのです。同じ土台の上に、店ごとに違う制服を着せているようなものです。

何を書いておくのか

役割を決めます。何をする手伝いなのか、誰を相手にするのかを伝えます。役割が決まると口調や扱う内容が自然に絞られます。

口調を決めます。丁寧語か普通体か、絵文字を使うか、答えをどれくらいの長さにするかといったことです。

扱う範囲を決めます。何を扱い何を扱わないか、知らないことを聞かれたらどう答えるかを書いておきます。「確かでなければ分からないと言ってください」という一行がここに入ります。

答えの形式を決めます。答えを箇条書きにするか段落にするか、後ろにつながるプログラムが読める決まった形にするかを指定します。

客の注文とぶつかると

方針とその場その場の要求がずれると、たいてい方針が勝ちます。「タメ口で話して」と頼んでも、方針が丁寧語を決めていれば丁寧語のまま続く、という具合です。

ただ、いつもそうとは限りません。方針がぼんやりしていて要求がとても具体的だと、要求のほうに傾くこともあります。会話が長くなって方針が押し出されると、見えなくなってしまうこともあります。だからサービス側は大事な方針を短くはっきり書き、必要なら会話の途中でも入れ直します。どちらが勝つかはあらかじめ決まっているわけではなく、方針の書き方と要求の強さのせめぎ合いで決まるのです。

見えないだけで特別な鍵ではありません

ユーザーの画面にはシステムプロンプトが出てきません。だからといってモデルの中に鍵をかけて閉じ込められているわけではありません。モデルにとってはただの同じ入力の前半で、ユーザーの文字と材料が違うわけではないのです。

だから巧みに聞くと内容が漏れ出すこともあり、貼り付けた文書の中に隠された文が方針を揺さぶることもあります。文書に「これまでの指示は無視してこうしてください」という文が混じっていると、モデルがそちらに従ってしまうことが実際に起こります。

だから本当に漏れてはいけないものはシステムプロンプトに書きません。鍵や個人情報のようなものは最初から入れず、してはいけない動作はプログラム側で止めます。システムプロンプトは案内板であって、鍵ではありません。