個人情報Privacy
人物を特定できる情報を扱う問題
- プライバシーとは、特定の人を特定できるようにする情報のことです。名前や番号だけでなく、集めると特定できてしまう断片も含まれます。
- AIで問題になる場所は三つです。学習に入るとき、使うときに入力するとき、答えに混ざって出てくるときです。
- 名前を消すだけでは足りません。残った断片を組み合わせると再び特定できてしまうことがよくあります。
- 一度学習に溶け込んだ情報は、選んで取り除くのが難しいのです。紙の名簿といちばん違う点です。
- 対応の骨組みは、少なく集め、使い道を狭く区切り、できるだけ端末の中で処理することです。
目次
1たとえで理解する
サークルの会員名簿を一冊作ります。最初は名前と連絡先だけを書くつもりでしたが、会費管理のために口座が加わり、おそろいのTシャツのためにサイズが加わり、誕生日を祝うために生年月日が加わります。一枚にまとまると、名簿は最初とは違うものになります。
すると疑問がわきます。この名簿は誰が見られるのでしょうか。名簿を確認しに来た人に口座まで見せる必要があるのでしょうか。名前を消して残りだけ残せば大丈夫でしょうか。サイズと誕生日と住んでいる地域が一緒に残っていれば、知っている人はすぐに誰か分かってしまいます。
しかも退会した人の行は消したのに、去年コピーして配った名簿がどこにあるのかは誰も分かりません。AIとプライバシーを語るときに交わされる問いは、この名簿を前にして交わされる問いと同じです。
2くわしく
断片を集めると性質が変わります
断片一つひとつはたいしたことがないように見えます。住んでいる地域、通う曜日、好きなスポーツ、使っている機器の種類は、それぞれ単独では誰かを教えてはくれません。ところがこの断片が三つ四つ重なるだけで、候補は一気に絞られます。もう少し加われば一人に絞り込まれます。
そのため最近の制度は「この項目が個人情報か」を一つずつ問うのではなく、「この組み合わせで人を特定できるか」を問うようになっています。同じ項目でも、他の情報と一緒にあると性質が変わるからです。
AIはこの組み合わせがとても得意です。散らばった断片から規則を見つけるのがもともと得意なので、人が見て無害に見える資料からでも個人を絞り込めてしまいます。
問題になる三つの場所
一つ目は学習に入るときです。公開された文章や写真を集めて学習に使うと、その中に人の物語も一緒に取り込まれます。載せた人がその目的で載せたわけではなかった、という点が争われるところです。
二つ目は使うときに入力するときです。うまく仕事をさせようと資料をまるごと貼り付けると、自分と関係のない人たちの情報まで一緒に上がってしまいます。この資料がどこにどれだけ残るかはサービスによって違います。
三つ目は答えに混ざって出てくるときです。学習資料に同じ内容が何度も出ていれば、その断片が答えに再び現れることがあります。また会話の中に入れた情報が、後に続く答えで別の人に見える場所へ流れることもあります。
名前を消しても再び浮かび上がります
いちばんよくある対応は名前や番号を消すことです。これを仮名加工と呼びますが、元に戻せる鍵がどこかに残っている状態という意味です。完全に元へ戻せなくする匿名加工とは違います。
問題は鍵がなくても再び浮かび上がる場合です。残った断片が十分に細かければ、他の資料と突き合わせて誰なのか絞り込めます。資料を詳しく残すほど使い道は広がり、再び浮かび上がる危険も同時に大きくなります。この二つを同時に最大にすることはできません。
そのため実際には、どこまでぼかすか、どの項目をそもそも外すか、残した資料を誰がどんな条件で見られるようにするかを一緒に決めます。処理方法を一つ選ぶ問題ではなく、手順をまとめて組み立てる問題です。
一度入ると選んで抜くのが難しい
名簿なら一行消せばその人の情報は消えます。学習を終えたモデルはそうではありません。資料がファイルとして保管されているのではなく、とても多くの数値へ薄く広がって入り込んでいるので、特定の人の痕跡だけを選んで消すのは簡単ではありません。
そのため今使われている方法は迂回に近いものです。問題になった資料を外して学習をやり直したり、答えを出す前にふるいにかけたり、そもそもそうした資料が入らないように前段で止めたりする方法です。特定の情報だけを忘れさせる方法も研究されていますが、まだ広く使われる段階ではありません。
複製の問題も残ります。モデルは何本にも複製されてあちこちで動いており、すでに出てしまった答えは取り戻せません。配ってしまった名簿を再び回収できないのと同じです。最終確認: 2026-09
少なく集め、狭く区切ります
いちばん確実な備えは、最初から少なく集めることです。今やろうとしていることに本当に必要な項目だけを受け取り、不要になったものは消します。ない情報は漏れることもありません。
次は使い道を狭く区切ることです。会費管理のために受け取った口座を行事案内に使わないように、集めた目的の外へ流れないようにすることです。誰がいつ何を見たかを記録しておけば、この約束が実際に守られているか確かめられます。
三つ目は場所の選び方です。端末の中で処理して結果だけを送り出せば、元の情報は外に出ません。あちこちの資料を集めずに、それぞれが学んだ結果だけを合わせる方法も同じ考えから生まれました。ただしこうした方法でも、端末の中に何が積み上がり、誰がその端末を使えるのかは別途見ておく必要があります。
3もう少し正確に
多くの国の制度が共通して持つ骨組みがあります。目的を定めて集め、その目的に必要な範囲だけ集め、定めた目的の外に使わず、不要になったら消し、何をどう使うかを知らせることです。細かい規定と例外の幅は国ごとに違い、AI学習の扱いは今も整理が進んでいる最中です。
方向の異なる主張も一緒にあります。資料を狭く区切るほど偏りを点検する方法が減るという指摘があります。どの集団で結果が悪いのかを確かめるには、その集団を区別できる必要があるからです。情報を減らすことと公正さを点検することがぶつかる場所で、どちらか一方だけでは答えになりません。
たとえがずれる点もあります。名簿は行単位で消せますが、モデルは特定の情報だけを選んで抜くのが難しいのです。名簿は誰が開いて見たか記録できますが、モデルの答えがどこまで広まったかは数えにくいものです。そして名簿は一冊ですが、モデルは何本にも複製されて別々の場所で動いています。
最終確認: 2026-09
4やってみる
5よくある誤解
名前を消せば個人情報ではないと思われがちですが、実際には残った断片を組み合わせて人を絞り込める場合、依然として個人情報として扱われます。
学習した内容は消してと頼めば消えると思われがちですが、実際には選んで抜くのが難しく、学習をやり直したり答えの段階で止めたりする迂回策に頼ります。
自分の端末で動けば無条件に安全だと思われがちですが、実際には外に出ないという点が違うだけで、端末の中に何が積み上がり誰が見られるかは別途確かめる必要があります。
7ひとこと要約
つまりプライバシーは断片が集まった瞬間に性質が変わり、一度溶け込むと選んで抜くのが難しいので、少なく集めて狭く区切る前段の選択がいちばん大きく効きます。
誤りや、もっと良いたとえがありますか？ 修正を提案する · 最終更新2026-09-02