渋谷区議会議員の鈴木けんぽうです。
6/23に個人情報保護法改正に関する勉強会に参加しました。そのXポストが長文にもかかわらず割と読まれたので、アーカイブとしてきちんと残しておこうと考えました。
正直、かなり難しかったです。全部理解できたとはとても言えません。ただ、その中でも強く印象に残ったことがあります。
それは、「現代では、プライバシーは物理的には守れなくなっている」という話です。
目次
家にいても、データ上の「私」は外に出る
昔であれば、家に入り、ドアを閉め、誰にも見られない空間を作ることで、ある程度プライバシーは守れました。
「見られたくないものを見られない場所に置く」「人に知られたくない行動は自宅の中でする」という感覚は、一定程度成り立っていたと思います。
しかし、今は違います。
スマートフォン、スマートウォッチ、位置情報、SNS、検索履歴、動画サイト、Cookie、IoT機器などによって、私たちの行動や関心、状態は、常に何らかのデータとして外部とつながっています。
たとえ家にいても、外出していなくても、動画を見る、検索する、アプリを使う。スマホやスマートウォッチやIOT機器やインターネットを使う限り、データ上の「私」はどこかに出ていっているのです。
この感覚は、改めて考えるとかなり衝撃的でした。
データ上の「私」はAI時代に加速する
ただし、ここで注意が必要なのは、AI時代になって初めて「データ上の私」が作られるようになったわけではない、ということです。
位置情報、購買履歴、検索履歴、Cookie、クレジットカード利用履歴などから、私たちの生活圏、関心、趣味、所得層、家族構成、健康不安などを推測することは、AI以前から行われてきました。
広告のターゲティング、信用スコアリング、マーケティング分析などは、その典型です。データから人物像を作る（プロファイリング）こと自体は、以前から存在していました。
では、AI時代になって何が変わるのか。
それは、データによる推測が、劇的に細かく、劇的に迅速に、劇的に大量に、劇的に予測的になっていること。そして検証不可能になりつつあることだと思います。
それぞれのデータは断片でしかありません。位置情報だけ、検索履歴だけ、購買履歴だけでその人を判断することはできませんでした。
しかし、それらを大量に統合することで、本人が明示していない状態や傾向まで推定できるようになってきています。
たとえば、疲れていそう、不安を抱えていそう、離職しそう、不登校リスクがありそう、特定の情報に反応しやすそう、といった推測です。
AIは、こうした弱いシグナルを大量に組み合わせ、個人ごとの予測や分類を自動化することが得意です。そうして、データ上の人物像（ペルソナ）が作られていきます。
問題は、単にペルソナが作られることそのものではありません。
そのペルソナによって、本人が評価され、分類され、誘導され、場合によっては行政や学校、企業からの扱われ方が変えられてしまうこと。これこそは朝刊紙社会の恐怖です。
個人情報保護法は「漏えい防止」だけの法律ではない
個人情報保護法というと、どうしても「名前や住所を漏らさない」「名簿を流出させない」「同意を取る」といった話をイメージしがちです。
もちろん、それも非常に大切です。
しかし今回の勉強会で感じたのは、個人情報保護法は、単なる情報漏えい防止の法律にとどまるものではないということです。
AI時代には、人がデータで評価され、分類され、誘導される。その中で、個人の尊厳や主体性をどう守るのか。
個人情報保護法は、そのような視点から考える必要があるのだと受け止めました。
「本人に戻る利用」と「集合として使う利用」
一方で、データ利用を一律に止めればよいわけでもありません。
医療研究、AI開発、統計作成、防災、感染症対策、熱中症対策など、社会全体にとって必要なデータ利用は数多くあります。
そこで大事だと感じたのが、「本人に戻ってくる利用」なのか、「集合として使う利用」なのかを分けて考えることです。
たとえば、医療研究やAI開発のために、特定の個人を見るのではなく、全体の傾向を把握したり、モデルを改善したりするためにデータを使う。これは「集合の世界」での利用です。社会を改善するための大きな力になりえます。
こういうのは同意などにこだわらなくても、本来は使っていいのではないか。
一方で、そのデータ利用の結果が本人に戻ってきて、
- この人はリスクが高い
- この子は要注意だ
- この人にはこういう指導が必要だ
- この人にはこの情報を見せれば反応する
という評価、選別、指導、特に不利益につながる場合は、まったく別の重さを持ちます。防ぎようがない以上、本人に戻ってくる利用は、支援のためであっても慎重であるべきです。
逆に、個人を直接見るのではなく、研究や技術開発、全体傾向の把握に使う場合は、一定の条件とガバナンスのもとで認める余地がある。
この整理は、とても重要だと感じました。
渋谷区政にも直結する論点
この話は、渋谷区政にも直結します。
不登校リスク判定、いじめリスク判定、AIカメラによる路上飲酒対策、学校における盗撮対策など、渋谷区でも様々なデータを利活用して課題を解決しようという議論があります。
これらは、うまく使えば支援や安全確保につながります。
一方で、使い方を誤れば、子どもや住民を評価し、分類し、監視する仕組みにもなってしまいます。
たとえば、不登校やいじめの兆候を早く見つけ、必要な支援につなげること自体は大切です。
しかし、それが「この子はリスクが高い」というラベル化につながり、本人や保護者が知らないところで扱いが変わるなら、くれぐれも慎重にすべきです。
AIカメラも同様です。
路上飲酒や迷惑行為への対応、防犯、被害防止のために技術を使うことには意味があります。
ただし、それは個人に跳ね返ってこない、例えば「この場所は事故が多い・ゴミが多い」などの傾向として使う場合、あるいは現に犯罪が起きてしまって被害を抑えたり犯人を捕らえたりする場合です。
児童生徒の言動を観察・分類してハイリスク群と決めつけたり、犯罪を犯しているわけでもないのに執拗に追跡するためにAIカメラを使ったりするならば、それは大きな人権侵害につながります。
「それでも浄化されるならいい」という声もあるかもしれません。その考えも理解できます。しかし、それが冤罪である可能性もありますよね。
勝手に不利な状況に追い込まれることは不当です。そうならないためにも、慎重の上に慎重でなくてはなりません。
「支援」と「監視」の境界を意識する
AIやデータ活用は、これからの自治体運営にとって避けて通れません。
むしろ、必要な支援を早く届ける、危険を予防する、限られた人員で行政サービスを高めるという意味では、積極的に活用すべき場面もあると思います。
ただし、そのときに常に問うべきことがあります。
これは本人を支援するための仕組みなのか。
それとも、本人を評価・選別・監視する仕組みになっていないか。
便利だから使う。
効率的だから導入する。
安全のためだから仕方ない。
それだけでは不十分です。
本人に戻る情報なのか、集合として使う情報なのか。
支援なのか、監視なのか。
本人や保護者に説明できるのか。
誤った判定が出たときに訂正できるのか。
目的外利用や過剰な蓄積を防げるのか。
こうした問いをセットにして、AI活用を考える必要があります。
便利なAI活用を進めるからこそ
今回の勉強会は難しかったですが、非常に大きな示唆をいただきました。
個人情報保護法改正の議論は、専門家だけの話ではありません。
自治体の教育、福祉、防犯、健康施策にも、すでに関わっているテーマです。
AI活用を進めること自体を否定する必要はありません。
むしろ、必要な場面では積極的に使うべきです。
しかし、便利なAI活用を進めるからこそ、個人の尊厳や主体性を守る仕組みづくりが必要です。
個人情報保護法を「情報漏えいを防ぐ法律」としてだけではなく、AI時代に人がデータで評価・分類・誘導されることから個人をどう守るか、という観点から考える。
今後の渋谷区政でも、この視点を大切にしていきたいと思います。
