拒否Refusal
してはいけない要求をAIが断ること
- 拒否とは、AIが要求を受け取りながらもやらないと答えることです。やり方を知らなくてできないのとは別の話です。
- 拒否の基準は三か所から来ます。学習段階で身につけた態度、サービス運営の規則、やり取りを別途調べる仕組みです。
- 必要な拒否と同じくらい過剰な拒否も問題です。安全に関わる質問や創作まで止められると、情報を得る道が狭くなります。
- 見当違いな拒否が出る理由は、文の表現だけを見て判断する場面があるからです。いくつかの単語に引っかかって止まることもあります。
- 良い断り方には形があります。なぜできないのか示し、できる範囲を伝えることです。
目次
1たとえで理解する
立体駐車場の入り口には鉄の棒が横にかかっています。車の高さがこの棒を超えると入れません。無理に入ると天井の構造物をこすって車も傷むので、止めておくほうが双方のためです。棒は誰かを憎んで掛けられたのではなく、中で起きることをあらかじめ防ぐために掛けられたのです。
問題は棒の高さです。低く掛けすぎると、十分入れる車まで引き返さなければなりません。屋根に軽い荷台を乗せただけなのに入り口で引っかかる車も出てきます。中の事情は見ずに、いちばん高いところだけを測るからです。
だから管理者は高さをめぐって常に天秤にかけています。下げれば事故は減るけれど引き返す車が増え、上げればたいていは楽になるけれどこする車が出ます。AIの拒否も、この棒と同じ場所に立っています。
2くわしく
何を拒否するのか
拒否の対象は、おおむねいくつかに分けられます。人を傷つける方法を教えてほしいという要求、他人をだましたりなりすましたりしようとする要求、他人の個人情報を探り出そうとする要求、同意なく誰かの顔や声を作ってほしいという要求といったものです。
ここにサービスごとに異なる基準が重なります。ある場所は成人向けの表現を広く許し、ある場所は止めます。年齢の低い利用者を念頭に置いたサービスなら基準はもっと細かくなります。拒否は技術の限界ではなく、運営する側が定めた線です。
同じ質問でも文脈によって答えが分かれます。危険な物質を安全に保管する方法はたいてい答えてもらえますが、それで何をしようとしているのかを明かすと答えが変わります。要求の表現だけでなく、続く目的まで一緒に見ようとするからです。
拒否はどこで決まるのか
一つ目は学習段階です。人の好みで調整する過程で、どんな要求にどう答えるかを一緒に学びます。このとき身についた態度はモデルの中に染み込んでいて、別の仕組みがなくても自分で答えを選ばなくなります。
二つ目は運営の規則です。サービスごとに前に付けておく指針があり、扱わない話題と守るべき態度を定めています。同じモデルを使うサービスでも拒否の範囲が違う理由です。
三つ目は別途調べる仕組みです。入ってくる言葉と出ていく言葉を別の検査機が調べて封じます。この仕組みはモデルの判断とは別に動くので、答えが作られている途中で切れる形で現れることもあります。
過剰な拒否も問題です
拒否が多いほど安全というわけではありません。薬を安全に保管する方法を尋ねる人、小説で争いの場面を書こうとする人、自分が経験した危険を相談したい人がみな止められると、助けが必要な場所で助けが消えます。
特定の集団や話題をまるごと避ける態度も問題です。センシティブに見えるという理由で説明そのものをしなければ、正確な説明がいちばん必要な人が何も得られません。拒否は危険を減らす代わりに情報へのアクセスを減らす引き換えです。
そのため最近は拒否率だけでなく、止めるべきでない要求をどれだけ止めてしまったかも一緒に測ります。二つの数字を並べて見てこそ、基準線が適切かどうか分かります。
なぜ見当違いな場所で引っかかるのか
拒否の判断は文全体の意味を完全に理解して下されるわけではありません。表現の並びと前後の文脈を見て確率で傾きます。そのため危険な単語が入っていたというだけの理由で、安全な質問が引っかかることもあります。
逆の方向も起こります。状況を長く飾り立てたり役割を与えたりして遠回りすると、本来なら止まるはずの要求が通ってしまうこともあります。こうした遠回りを試みることを別に呼ぶ言葉があるほど、よくある問題です。
短くて文脈のない要求ほどずれやすいものです。何をしたいのかを明かし、必要な分だけ具体的に尋ねると、不要な拒否を減らせます。
良い断り方の形
断ること自体より、断り方が体験を分けます。ただできないとだけ言われると、ユーザーは何が問題だったのか分からず、表現だけ変えて同じ要求を繰り返すことになります。
なぜできないのかを示し、できる範囲を伝え、代わりの案を一緒に差し出す断り方が良い断り方です。危険な部分だけ抜いて残りを手伝ったり、助けを受けられる場所を案内したりする形です。
受け取る側も知っておくとよいことがあります。拒否は、その要求が悪いという判定ではなく、そのサービスの基準線に引っかかったという意味です。目的を明かしてもう一度尋ねると解けることが多く、それでも止まるなら、その場では別の方法を探すほうがよいでしょう。
3もう少し正確に
拒否は、安全方針をモデルの振る舞いへ移すいくつもの層のうち、表に見える一つの層です。好みの学習で態度を身につけさせ、指針で範囲を定め、別の分類器で入力と出力を検査する三つの層が重なっています。層ごとに基準線があり、基準線を動かすと、見逃す要求と誤って止める要求が反対方向に動きます。そのため評価では、危険な要求をどれだけ止めたかと、無害な要求をどれだけ誤って止めたかを一緒に見ます。
たとえがずれる点もあります。高さ制限の棒は物差しで測った一つの数字だけを見ますが、要求は文の意味と文脈を一緒に測らなければならず、同じ文でも状況によって判断が変わります。棒は通過と遮断のどちらかですが、モデルは一部だけ答えたり条件を付けて答えたりする中間も選べます。また棒の高さは管理者がすぐに調節できますが、モデルの態度は学習によって染み込んだものなので、望むだけ正確に調節するのは難しいのです。
拒否と能力不足は区別する必要があります。できないことを方針のせいだと答えたり、方針で止めたことをできないと答えたりすると、ユーザーは何を直せばよいのか分かりません。
4やってみる
5よくある誤解
拒否はAIがそのやり方を知らないからだと思われがちですが、実際にはできるのにやらないと定めた線に引っかかっている場合が多いです。
多く拒否するほど安全だと思われがちですが、実際には助けが必要な質問まで止まってしまい、情報を得る道が狭くなります。
拒否の基準はどこでも同じだと思われがちですが、実際にはサービスごとに違って定められていて、同じ質問でも答えが分かれます。
7ひとこと要約
つまり拒否とはサービスが定めた基準線に要求が引っかかったことで、必要な拒否と同じくらい不要な拒否を減らすことも一緒に扱う必要があります。
誤りや、もっと良いたとえがありますか？ 修正を提案する · 最終更新2026-09-02