AI透かしAI Watermark

1結果物の内側に隠して仕込みます

透かしは目に見える上塗りではなく、結果物の内側に隠して入れる信号です。作る過程に組み込まれることもあれば、作り終えた直後に書き出す前の別の道具で仕込まれることもあります。画像を作るモデルなら点を打つ段階で決められた規則に沿ってごくわずかな偏りを一緒に入れ、文章を書くモデルなら似合う複数の単語のうち決められたほうを少し多めに選ぶようにします。

その偏りは一か所だけ見ると偶然と見分けがつきません。結果物全体に散らしておき、まとめて数えて初めて「偶然とは考えにくい模様」が浮かび上がります。そのため一部が切り取られても、残った部分で確認できることが多いのです。

仕込む規則を知る側が入れるものなので、**他人が勝手に付け足すのは簡単ではありません。**すでに作られた他人の写真にAI透かしを仕込んで「これはAIが作ったものだ」と言い張ることも簡単ではありません。ただ、透かしの入った結果物が手に入れば、その模様を別の写真に移し替える「偽造」の方法も研究で示されており、印があるというだけでAIが作ったと断定することはできません。

2目立たないことに価値があります

透かしには互いに引っ張り合う二つの目標があります。目立たないほど良く、荒く扱われても残るほど良いのですが、この二つは反対方向に動きます。印を濃く仕込めば長く残りますが画質が落ち、薄く仕込めば目立ちませんが簡単に流れてしまいます。

そのため人が気づきにくい場所を選んで仕込みます。なめらかな空よりも模様の複雑な草むら、静かな部分よりも音が複雑な区間のように、人の感覚が鈍い場所です。目と耳の鈍い隙間に印を隠すわけです。

3確認は表を知る側だけができます

仕込んだ模様は誰でも読めるわけではありません。どんな規則でどこに散らしたかを知る側の検査道具があって初めて「この結果物には印がある」と言えます。検査の結果も、はいかいいえかではなく、どれくらい確からしいかという点数で出てきます。

この点数には基準線を引く必要がありますが、引くと二種類の誤りが付いてきます。基準を下げると人が作ったものをAIのものと誤って表示し、上げるとAIが作ったものを見逃します。どちらの誤りがより困るかによって基準線を動かします。

作るところごとに規則が違うと、確認する側は道具をいくつも持ち歩くことになります。仕込み方をそろえようという話し合いは続いていますが、まだ一つにまとまってはいません。

4消えることがあります

いちばん重要な限界です。編集や変換を何度も重ねると、印は弱まったり消えたりすることがあります。どれだけ持ちこたえるかは方式によって違います。印を狙って消す道具も出ています。

**印がないからといって人が作ったものとは限りません。**印を入れない道具で作られたか、入れたのに移し替えるうちに消えた可能性があるからです。透かしは「なければ人が作ったものだ」という向きにはほとんど使えないという点で、見方はおおむね一致しています。「あればAIのものだ」という向きは、比較的頼れるという見方と、偽造や誤検出の可能性があるので他の根拠と合わせて見るべきだという見方があります。

5文章に仕込むのはもっと難しいです

画像や音には、人が気づかない余白がたっぷりあります。文章にはその余白がずっと少ないのです。単語を一つ変えると意味が変わり、文が短いと模様を散らす場所自体が足りません。

しかも文章は手直しが簡単です。他の道具で丸ごと書き換えると、仕込んでおいた偏りが大きく弱まることがあります。ただ、書き換えたあとでも文章が長ければ痕跡が残って確認できたという研究もあり、どこまで持ちこたえるかは見解が分かれています。短い文章では確認をさらに期待しにくいものです。