ポイント
- 個人情報とは、特定の人を見分けられるようにする情報のことです。名前や番号だけでなく、集めると特定できてしまう断片も含まれます。
- AIで問題になりやすい場所として、大きく三つが挙げられます。学習に入るとき、使うときに入力するとき、答えに混ざって出てくるときです。
- 名前を消すだけでは足りません。残った断片を組み合わせると再び特定できてしまうことがよくあります。
- 一度学習に溶け込んだ情報は、選んで取り除くのが難しいのです。紙の名簿といちばん違う点です。
- よく挙げられる対応は、少なく集め、使い道を狭く区切ることです。端末の中で処理するなど、データが外に出ないようにする方法も併せて使われます。
たとえで理解する
サークルの会員名簿を一冊作ります。最初は名前と連絡先だけを書くつもりでしたが、会費管理のために口座が加わり、おそろいのTシャツのためにサイズが加わり、誕生日を祝うために生年月日が加わります。一枚にまとまると、名簿は最初とは違うものになります。
すると疑問がわきます。この名簿は誰が見られるのでしょうか。名簿を確認しに来た人に口座まで見せる必要があるのでしょうか。名前を消して残りだけ残せば大丈夫でしょうか。サイズと誕生日と住んでいる地域が一緒に残っていれば、知っている人はすぐに誰か分かってしまいます。
しかも退会した人の行は消したのに、去年コピーして配った名簿がどこにあるのかは誰も分かりません。AIとプライバシーを語るときに交わされる問いは、この名簿を前にして交わされる問いと同じです。
くわしく
断片を集めると性質が変わります
断片一つひとつはたいしたことがないように見えます。住んでいる地域、通う曜日、好きなスポーツ、使っている機器の種類は、それぞれ単独では誰かを教えてはくれません。ところがこの断片が三つ四つ重なるだけで、候補は一気に絞られます。もう少し加われば一人に絞り込まれます。
同じ項目でも、他の情報と一緒にあると性質が変わります。そのため多くの国の制度は、項目を一つずつ見るだけでなく、他の情報と合わせたときに人を特定できるかも問います。ただし、その基準の決め方は国や分野によって違います。
AIはこの組み合わせがとても得意です。散らばった断片から規則を見つけるのがもともと得意なので、人が見て無害に見える資料からでも個人を絞り込めてしまいます。
問題になる三つの場所
一つ目は学習に入るときです。公開された文章や写真を集めて学習に使うと、その中に人の物語も一緒に取り込まれます。載せた人がその目的で載せたわけではなかった、という点が争われるところです。
二つ目は使うときに入力するときです。うまく仕事をさせようと資料をまるごと貼り付けると、自分と関係のない人たちの情報まで一緒に上がってしまいます。この資料がどこにどれだけ残るかはサービスによって違います。
三つ目は答えに混ざって出てくるときです。学習資料に入っていた断片が、答えにそのまま再び現れることがあります。同じ内容が何度も出ているほど起こりやすいですが、一度しか出ていない内容が出た例もあります。またサービスの不具合や共有設定のせいで会話の内容が他の人に見えてしまったことがあり、サービスや設定によっては入力した内容が後の学習に使われて別の答えに混ざる可能性もあります。このほか、AIが散らばった断片から敏感な特性を推測したり人を探し出したりするのに使われることも、別の問題として扱われています。
名前を消しても再び浮かび上がります
いちばんよくある対応は、名前や番号を消したり別の記号に置き換えたりすることです。置き換えた記号を元に戻す対応表、つまり鍵を別に分けて保管する方法を、一般に仮名加工と呼びます。誰なのか再び分からなくなる水準を目指す匿名加工とは区別されます。二つの言葉の正確な基準は国や制度によって大きく違います。
問題は鍵がなくても再び浮かび上がる場合です。残った断片が十分に細かければ、他の資料と突き合わせて誰なのか絞り込めます。資料を詳しく残すほど使い道は広がり、再び浮かび上がる危険も同時に大きくなります。この二つを同時に最大にすることはできません。
そのため実際には、どこまでぼかすか、どの項目をそもそも外すか、残した資料を誰がどんな条件で見られるようにするかを一緒に決めます。処理方法を一つ選ぶ問題ではなく、手順をまとめて組み立てる問題です。
一度入ると選んで抜くのが難しい
名簿なら一行消せばその人の情報は消えます。学習を終えたモデルはそうではありません。資料がファイルとして保管されているのではなく、とても多くの数値へ薄く広がって入り込んでいるので、特定の人の痕跡だけを選んで消すのは簡単ではありません。
そのため今使われている方法は迂回に近いものです。問題になった資料を外して学習をやり直したり、答えを出す前にふるいにかけたり、そもそもそうした資料が入らないように前段で止めたりする方法です。特定の情報だけを忘れさせる方法も研究されていますが、まだ広く使われる段階ではありません。
複製の問題も残ります。モデルは何本にも複製されてあちこちで動いており、すでに出てしまった答えは取り戻せません。配ってしまった名簿を再び回収できないのと同じです。
少なく集め、狭く区切ります
基本となる備えは、最初から少なく集めることです。今やろうとしていることに本当に必要な項目だけを受け取り、不要になったものは消します。集めていない情報は漏れる経路がそのぶん減ります。ただしAIは残った断片から集めていない特性を推測することもあるので、これだけで終わりではありません。
次は使い道を狭く区切ることです。会費管理のために受け取った口座を行事案内に使わないように、集めた目的の外へ流れないようにすることです。誰がいつ何を見たかを記録しておけば、この約束が実際に守られているか確かめられます。
三つ目は場所の選び方です。端末の中で処理して結果だけを送り出せば、元の情報は外に出ません。あちこちの資料を集めずに、それぞれが学んだ結果だけを合わせる方法も同じ考えから生まれました。ただしこうした方法でも、端末の中に何が積み上がり、誰がその端末を使えるのか、外に出す結果や学んだ内容から元の資料が推測されないかは別途確かめる必要があります。
もう少し正確に
多くの国の制度が共通して持つ骨組みがあります。目的を定めて集め、その目的に必要な範囲だけ集め、定めた目的の外に使わず、不要になったら消し、何をどう使うかを知らせることです。細かい規定と例外の幅は国ごとに違い、AI学習の扱いは今も整理が進んでいる最中です。
方向の異なる主張も一緒にあります。資料を狭く区切るほど偏りを点検する方法が減るという指摘があります。どの集団で結果が悪いのかを確かめるには、その集団を区別できる必要があるからです。情報を減らすことと公正さを点検することがぶつかる場所で、どちらか一方だけでは答えになりません。
たとえがずれる点もあります。名簿は行単位で消せますが、モデルは特定の情報だけを選んで抜くのが難しいのです。名簿は誰が開いて見たか記録できますが、モデルの答えがどこまで広まったかは数えにくいものです。そして名簿は一冊ですが、モデルは何本にも複製されて別々の場所で動いています。
最終確認: 2026-10
やってみる
よくある誤解
名前を消せば個人情報ではないと思われがちですが、実際には残った断片を他の情報と突き合わせて人を特定できるなら、多くの国の制度で依然として個人情報として扱われます。ただし、何を消せば十分かは国や制度によって大きく違います。
学習した内容は消してと頼めば消えると思われがちですが、実際には選んで抜くのが難しく、学習をやり直したり答えの段階で止めたりする迂回策に頼ります。
自分の端末で動けば無条件に安全だと思われがちですが、実際には元の資料が外に出ないという点が変わるだけで、端末の中に何が積み上がり誰が見られるか、外に出す結果から何が推測できるかは別途確かめる必要があります。
ひとこと要約
プライバシーは断片が集まった瞬間に性質が変わり、一度溶け込むと選んで抜くのが難しいので、何をどれだけ集めてどこに使うかを前段で決める選択がよく重要だと言われます。ただし公正さの点検のように、一緒に考えるべき別の目的もあります。
誤りや、もっと良いたとえがありますか？ 修正を提案する · 最終更新 2026-10-18