ポイント
- 利用制限は、決まった時間内にAIを何回まで、どれだけ呼べるか前もって引いておいた線です。
- 数える基準は一つではありません。呼んだ回数、やり取りした断片の数、一度に掛けておいた要求の数を別々に数えます。
- 線を越えると、その要求は処理されず少し待ってからまた来てという答えだけが返ってきます。時間が経てば自然に解けます。ただ、月の利用金額の上限や残高が尽きて止まった場合は、数分待ったり再送したりしても解けません。
- 制限を設ける理由は、計算できる量が決まっているからです。一か所が使い占めるとみんなが遅くなります。
- 等級を上げると線は上に上がりますが、線そのものはなくなりません。
たとえで理解する
遊園地でフリーパスを買うと一日中乗り放題のように思えますが、入り口で受け取る紙には枠が描いてあります。人気の乗り物は一日三回まで、一時間に一回までのように、枠ごとに条件が付いています。乗るたびに枠に印が一つ押され、枠を使い切ればその時間帯はもう乗れません。時計の針が次の時間に進めば新しい枠が開いて、また乗れます。
プログラムでAIを呼んで使うときも、この紙が一緒に付いてきます。パスを買ったからといって際限なく使えるわけではなく、決まった時間内に決まった分だけ呼べます。この枠が利用制限です。
くわしく
枠は一種類ではありません
いちばん多い枠は分あたりのリクエスト数です。一人が一分間に何回呼べるか決めておいた枠です。短い質問を絶え間なく投げるプログラムが、ここに真っ先に引っかかります。
二つ目の枠は分あたりの断片数です。呼んだ回数が少なくても、一度にとても長い文書を丸ごと入れると、この枠が先に埋まります。長い文章一つを入れるほうが、短い質問数十回より重く数えられることもあります。
三つ目の枠は同時に処理中のリクエスト数です。前のリクエストの答えを待つ間に新しいリクエストを次々に押し込むと、この枠が埋まります。一日単位で掛かる枠まで加わって、複数の枠が同時に掛かっており、そのうちの一つでも埋まれば止まります。
枠を使い切ると起きること
枠が埋まった状態でリクエストを送ると、答えの代わりに拒否の表示が返ってきます。作り方が間違っているからではなく、今は席がないという意味なので、同じリクエストを少し後にそのまま送れば処理されます。
拒否とともにどれくらい後にまた来てという案内が付くことが多いです。よくできたプログラムはこの案内を読んで、その分休んでからまた送ります。案内を無視してすぐにまた投げると、たいてい再び拒否され、サービスによってはその拒否まで枠に数えられて、止まっている時間がかえって長くなることもあります。
だから失敗したとき待つ時間を少しずつ延ばしながらやり直す方式がよく使われます。最初は短く、また止まれば二倍ほど長く休む具合です。
なぜ枠を引いておくのでしょうか
AIが答えを作るには、計算装置の席をその時間だけ占めます。一つの装置が複数のリクエストを一緒に処理しますが、一度に受けられる量は決まっています。乗り物一台が一度に乗せられる人数が決まっているのと同じです。枠がなければリクエストをたくさん送る側が席を全部占めてしまい、他の人はいつまでも待たされます。
事故を防ぐ意味もあります。プログラムが間違って作られ、同じリクエストを際限なく繰り返すことはよくあります。枠がなければ、その失敗が何日分もの料金としてそのまま返ってきます。制限はサービスを守る垣根であると同時に、使う人の財布を守る垣根でもあります。
枠の中でゆとりを持って使う方法
まず、まとめて送ります。似たようなリクエスト十個を別々に呼ぶ代わりに一度にまとめて送れれば、回数の枠を大きく節約できます。
次に、同じ答えを二度尋ねません。一度受け取った答えをしばらく保存しておき、同じ質問がまた来たら保存しておいた答えを使えば、枠も節約でき待つ時間も減ります。
さらに、入れる文章を減らします。毎回付ける長い案内文や要らない文書を削れば、断片の枠がずっと余裕を持ちます。
最後に、急がない仕事は後回しにします。人が待つ画面と、夜の間に回してもよい整理作業が同じ枠を分け合っているなら、後回しにできる仕事を空いている時間帯へ移すだけで昼間の詰まりが消えることもあります。制限はなくすものではなく、その中でやりくりして使うのが基本です。
もう少し正確に
利用制限はサービスを提供する側が決めた規則なので、数え方は場所ごとに違います。決まった時間区間ごとに数字を〇に戻して数える方式もあれば、水槽に水が少しずつたまるように、時間が経つほど使える量が少しずつ回復する方式もあります。後者では、しばらく休んでからまとめて使うこともある程度許されます。
たとえがずれる点もあります。遊園地の印の枠は自分の紙にだけ押されますが、実際の制限はアカウントや組織の単位でまとめて数えられることが多いです。同じ鍵を複数のプログラムが分け合うと、互いの枠を食い合います。また遊園地は残りの枠が紙にそのまま見えますが、サービス側の残り量は、応答に付いてくる数字や管理画面を別に見ないと分からず、同じ鍵を使う別のプログラムのせいですぐ変わることもあります。会員等級や支払い履歴によって枠の大きさが静かに調整されることもあります。だから制限を扱うプログラムは、残りの枠を推測することよりも、拒否が返ってきたときどう引き下がるかを前もって決めておくほうに作られます。
やってみる
よくある誤解
お金を多く払えば制限がなくなると思われがちですが、実際には線が上に上がるだけで、どの等級にも線は残っています。
呼んだ回数だけを数えると考えられがちですが、実際には入れた文章と受け取った答えの断片数も一緒に数えられ、回数が少なくても止まることがあります。
止まったらすぐにまた送ればよいと思われがちですが、実際には休まずまた投げてもたいてい再び拒否され、サービスによってはその拒否まで数えられて、解ける時間がかえって長くなることもあります。
ひとこと要約
利用制限は決まった時間内に使える量を前もって引いておいた枠で、この枠を知ってやりくりして使うことが、AIをプログラムに付けるときの基本です。
誤りや、もっと良いたとえがありますか？ 修正を提案する · 最終更新 2026-10-18