ポイント
- AI生成物検出は結果物を調べてAIが作ったらしさに点数を付けることです。はい・いいえではなく確率で出ます。
- 機械は人が見えないものを見ます。画素に残るごく細かな規則性や、文章が予想通りに続きすぎる度合いのような痕跡です。
- 間違いは二種類ありますが、どちらが痛いかは使う場面で変わります。文章チェックのように人を判定する場面では、人が作ったものをAIの物と決めつける間違いをより重く見る見方が多いです。
- 少し手を加えるだけで点数は揺れます。保存し直したり文章を整えたりするだけで判定がひっくり返ることがあります。
- そのため流れは、見分けることから作る時に印を付け、来歴を残すことへ移りつつあります。
たとえで理解する
質屋の鑑定台に品物を載せると、鑑定士は虫眼鏡を当てて継ぎ目を調べます。重さを量り、素材を軽くこすり、仕上げがそろっているか見ます。そして出てくる言葉は「本物です」ではなく「本物と思われます」です。確信ではなく意見だからです。
よくできた模造品はこの鑑定を通り抜けます。反対に長く使って傷み、修理の跡が残った本物が模造品扱いされることもあります。前の間違いは損につながり、後の間違いは持ち主に悔しさを残します。
同じ品物を別の鑑定台に載せると、違う意見が出ることもあります。だから大きな取引では鑑定一つに頼らず、購入の領収書や保証書も一緒に見ます。AIが作ったものかどうかを見分ける作業も、この鑑定台と同じ事情にあります。
くわしく
人の目はすでに半分負けています
数年前まではまだ目で捉えられる手がかりがありました。指の数がおかしい、文字がにじむ、背景が崩れる場所です。今ではこうした手がかりは急速に消えました。
見分ける実験では、よくできた顔写真について人の正解率がコイン投げの水準まで下がった結果もあります。媒体や作り方によって差はありますが、目だけを頼りにするのは難しいです。自信を持って選んだ答えが外れることも多いです。多くの人が自分の見分ける力を実際より高く信じているという実験結果もあります。
文章はさらに難しいです。写真には画素という痕跡が残りますが、うまく書かれた文章には目でつかめる表面がほとんどありません。
機械は何を見ているのでしょうか
検出モデルは人と違うものを見ます。写真なら作られる過程で残るごく細かな規則性を探します。実際のレンズと感光素子を通した写真には不ぞろいなノイズが残りますが、作られた写真ではそのノイズの質が異なって現れます。
文章なら次の単語がどれだけ予想通りに続いたかを測ります。人が書いた文章には予想を外れて飛ぶ場所がところどころにありますが、作られた文章は平均してより滑らかに続く傾向があります。
問題はこうした痕跡が固定されていないことです。作る側が新しくなれば痕跡も変わります。以前の生成物で学んだ検出器は、新しく出た生成物の前で力を失います。
二種類の間違いは使う場面で重さが変わります
検出結果には二種類の間違いが付きます。AIが作ったものを見逃す間違いと、人が作ったものをAIの物と決めつける間違いです。基準線を下げれば前者が減って後者が増えます。逆もまた同じです。
人を判定する場面では、人が作ったものをAIの物と決めつける間違いをより重く見る見方が多いです。自分で書いた文章が生成物と表示されると、申し開きする方法がなかなかありません。検査スコアは根拠を示してくれません。ただ、見逃された不正行為が正直に書いた人に不公平だと見る視点もあり、どちらをより減らすかは使う場所ごとに決めます。反対にディープフェイク詐欺やなりすましのように、見逃した瞬間に被害が出る場面では、見逃す間違いも深刻です。
ここにもう一つ落とし穴があります。全体のうちAI生成物がまれな場所では、正解率の高い検出器でもAIの物と表示されたものの大半が人の物という状況が起こりえます。まれなものを探すときは、小さな誤検出率も大きく膨らみます。
少し手を加えるだけで揺れます
検出は表面の痕跡に頼るため、表面に触れると揺れます。写真を保存し直したり、サイズを縮めたり、画面に映して撮り直したりするだけで点数が大きく変わります。
文章はさらに揺れます。数文を手直ししたり、別の道具で一度書き直させたりするだけで点数がひっくり返ります。反対に母語ではない言語で書いた文章や、形式が決まった文章のように、使う語や表現が予測しやすい文章は、人が書いたのに高い点数を受けることがよくあります。
だから検出スコアは判断の根拠ではなく、見るべき場所を教える合図として使うほうが安全です。 点数一つで結論を出す場所では、悔しい思いをする人が出やすくなります。
見分けることから証明することへ
見分ける側は常に後を追うほかありません。新しい作り方が出るたびに、そこから痕跡を学び直さなければならないからです。だから対応の軸が移りつつあります。
新しい軸は作る時に印を残し、来歴を付ける側です。生成物の内側に気づかれない印を埋め込み、ファイルにはどこで作られどう手を加えられたかの記録を付けます。後を追って見分ける代わりに、最初から表を残す方式です。
もちろんこの表も消されうるので、検出が要らなくなるわけではありません。印と来歴と検出を一緒に置き、どれか一つで結論を出さないことが今のところ最も現実的な態度です。
もう少し正確に
検出モデルの多くは本物と生成物を集めて、両者を分けるよう学習した分類器です。文章では別に学習せず、言語モデルが付けた予測確率だけで測る方式も使われます。結果は確率スコアで、どの点数からAIの物と見るかは人が決める基準線です。性能を語るとき正解率一つだけを見ると誤解しやすいので、表示された物のうち実際に合っていた割合と、実際のAI生成物のうち捉えられた割合を合わせて見なければなりません。
たとえがずれる場所もあります。鑑定士は作った人の腕前と材料を見ますが、検出モデルは意味を見ず、統計的な模様だけを見ます。だから内容がどれだけ筋が通っていても判定とは関係がなく、逆に内容が変でも模様が人の物に似ていれば通り抜けます。また鑑定士はなぜそう見たか説明できますが、検出モデルは点数を出すだけで根拠を語ってくれません。
何より検出は「AIが作ったか」にしか答えません。その生成物が事実かどうか、誰かに害を及ぼすかは別の問いです。
最終確認: 2026-10
やってみる
よくある誤解
検出器がAIの文章だと言えば確実だと考えがちですが、実際には確率スコアにすぎず、人が書いた文章が高い点数を受けることも珍しくありません。特に母語ではない言語で書いた文章のように表現が予測しやすい文章で多いです。
目が利けば見分けられると考えがちですが、実際には実験によって人の正解率がコイン投げの水準まで下がることもあります。
検出技術が発展すれば解決すると考えがちですが、実際には作る側も一緒に発展するので、検出は常に後を追う立場にあります。
ひとこと要約
AI生成物検出は確率で出る鑑定意見に近く、点数一つで人を判定する場面では、人が作った物をAIの物と決めつける間違いをより重く見る見方が多いです。
誤りや、もっと良いたとえがありますか？ 修正を提案する · 最終更新 2026-10-18