潜在空間Latent Space

場所がそのまま性質です

モデルは写真や文をそのまま扱いません。まず短い数の束に縮めます。その数の束ひとつが引き出しの中の一箇所にあたり、縮めた値が置かれうる場所を全部集めたものが潜在空間です。

一箇所には数の値がいくつも付きます。縦横二方向しかない引き出しと違い、方向が数十から数百まであります。人が頭の中に描くのは難しいですが、場所と場所の間の距離を測り方向に沿って動く作業は同じようにできます。

大事なのはこの場所が適当に散らばっているのではないという点です。**縮める練習を繰り返すうちに、似た資料同士が近くに集まるよう場所が整えられます。**そう整えたほうが元に戻すとき有利だからです。

近ければ似ていて遠ければ違います

同じ種類の写真同士は互いに隣り合った場所に置かれます。写真の画素が似ているからではなく、モデルが重要だと判断した性質が似ているからです。背景の色がまるで違っても、写っている対象が同じなら近くに置かれることが起こります。

この性質が検索に使われます。探したい資料を同じ方法で縮めて場所を求め、その近くにあるものを取り出せばよいのです。名前や文字が重ならなくても、性質の似たものを見つけ出せます。

方向にも意味が生まれます

場所が整えられると、方向にも規則が生まれます。ある方向へ少し動くと結果が明るくなり、別の方向へ動くと年齢を重ねて見える、というふうです。性質をひとつだけ選んで変える作業が可能になるのはこのためです。

ただしこの方向は人が決めておいたものではありません。学習が終わったあとで人があれこれ動かしてみて見つけ出したもので、きれいに分かれているわけではありません。明るさを変えようとしたのに背景まで一緒に変わることがよくあります。

間の場所を選ぶと間の結果が出ます

二つの資料の場所を取ってその間を一定の間隔で歩きながら結果を作ると、片方からもう片方へ少しずつ変わっていく場面が出てきます。二枚の絵を重ねてぼかして混ぜたものとは違います。中間の場所から出た結果もそれ自体で完成した一枚です。

この歩みがうまくいくには、場所と場所の間が隙間なく埋まっていなければなりません。資料ごとに点ひとつしか打たれておらず間が空っぽだと、中間で見分けのつかない結果が出ます。資料を点ではなく範囲として覚えさせる方式が出てきた理由がここにあります。

区域の外は空っぽです

潜在空間が広いからといって、どの場所でも使えるわけではありません。学習に使った資料が場所を占めた区域があり、その外側は一度も練習していない場所です。そこから値を取り出すと結果が崩れたり見当違いのものが出たりします。

引き出しで言えば、仕切りの外の空いた床に物を置いたようなものです。場所はあっても、その場所が何を意味するか誰も決めたことがありません。新しい結果物を作るとき、どんな値でも入れるのではなく学習資料が集まっている区域の近くから選ぶのもこのためです。