More Related Content
What's hot (20)
More from MITSUNARI Shigeo (20)
Recently uploaded (11)
『データ解析におけるプライバシー保护』勉强会
- 2. ? 『データ解析におけるプライバシー保護技術』 Privacy Preservation in Data Analytics 以降、略してPPinDA ? 大きく三つのPP技術を紹介する本 ? 仮名化?匿名化 ? 2～5章 ? 差分プライバシー ? 7～9章 ? 秘密計算 ? 10～14章 ? 6章は攻撃者モデル ? とりあえず1～2章→6章→7～9章のあと残りを順に 概要 2/27
- 3. ? 特定や連結のリスクを低減する手法 ? 仮名化 ? 氏名をランダムな文字列に置き換えること ? 匿名化 ? データを曖昧にすること 仮名化?匿名化 氏名 年 職業 年収 真田昌幸 31 市職員 460万円 徳川慶喜 36 大学教員 640万円 紫式部 26 看護師 540万円 氏名 年 職業 年収 abcdef 30代 公務員 460万円 0234234 30代 公務員 640万円 20rnav93 20代 医療職 540万円 3/27
- 4. ? 第三者に提供するプライバシー保護技術（PP） ? データの1行が個人を表すデータベース（DB ） ? 攻撃者 ? 個人を特定しようとするデータ取得者 ? 特定 ? DBの各行がどの人物のものかを結びつけること ? 連結 ? ある人物を表す行と同一人物の別のデータを結びつけること 三つの技術の概要 4/27
- 5. ? 背景 ? DBの様々な統計量を提供すると 個別の人物の情報が推測されるリスクがある ? 例： ? 攻撃者の背景知識「全体でN人で看護師は紫式部だけ」 ? このとき次の統計量クエリを投げる ? Q1. 全員の平均年収は? ? Q2. 看護師以外の全員の平均年収は? ? すると紫式部の年収が分かる 差分プライバシー（1/2） 5/27
- 6. ? 統計量が得たときに攻撃者の背景知識にかかわらず 個人の情報が推測化されるリスクを定量評価するため の基準を与える ? 攻撃者の推測を妨げる手段を提供する ? 先ほどの例 ? Q1, Q2の返事にノイズを加えて答える 差分プライバシー（2/2） 6/27
- 7. ? DBが複数の機関に分散して存在しているとき個別の DBを互いに共有することなく秘密性を保ったまま 統計解析や機械学習などの計算の結果のみを取得する ? DB1とDB2それぞれ別の機関が保持 ? 両機関が互いに名前を見せずにこんな表を作りたい ? 差分プライバシーの技法は別途必要 秘密計算によるデータ解析 氏名 肺癌の有無 真田昌幸 あり 徳川慶喜 なし 紫式部 なし ... ... 氏名 喫煙の有無 真田昌幸 なし 徳川慶喜 あり 紫式部 あり ... ... 喫煙歴なし あり 肺癌なし 1233 837 肺癌あり 715 642 7/27
- 8. ? 個人情報 ? 日本の個人情報保護法における個人情報 ? 生存する個人に関する情報で、当該情報に含まれる氏名、 生年月日その他の記述などで特定の個人を識別できるもの ? 他の情報と容易に照合できて特定の個人を識別できるもの ? メールアドレス、SNSのアカウントなどが個人情報か どうかは明確でない ? プライバシー上の問題が存在する種類の情報もある ? パーソナルデータという 2章データ提供におけるプライバシー問題 8/27
- 9. ? 特定 ? ある個人と一意に結びつく情報（マイナンバー、運転免許番 号など）が除外されて個人を特定できないデータから、 そのデータを該当する個人と再び結びつけること ? 連結 ? ある個人のデータを同一人物の別のデータと結びつけること ? 個人が特定されていないこともある ? 属性推定 ? ある個人のデータの一部が削除されているときに そのデータを復元、推定すること ? 個人が特定されていないこともある プライバシーの問題（1/2） 9/27
- 10. ? 連絡 ? あるデータをもつ人がその個人に連絡すること ? 訪問、郵便物を送る、電話をかける、メールを送るなど ? 特定=連絡のときもある ? 直接被害 ? あるデータをもつ人がその個人に直接的な被害を与えること ? クレジット番号の無断使用、SNSのなりすましなど ? 日本の個人情報保護法で明確に守るべきもの ? 特定、連絡、直接被害 ? クレジット番号、SNSのアカウント名なども配慮が必要 ? 配慮したからといって、プライバシー上の懸念が 完全になくなるわけではない プライバシーの問題（2/2） 10/27
- 11. ? 電子情報通信学会 Vol.99 No.6 ? 2013年NICTが大阪ステーションシティにビデオカメラを設置 して災害時における人の流動性を把握する実験を発表 ? 反発が大きく実施延期 ? 個人情報保護法に違反してなくてもプライバシー権を 違法に侵害していないとは限らない ? 公道に体重計を埋め込んで隠し、たまたまその上を通った人 の体重をはかる実証実験はプライバシーの侵害 ? 他人に知られなくない情報を無断で取得してはいけない ? 「取得者のセキュリティが万全であればプライバシー 侵害にならない」は誤解 ? セキュリティスキルの高い盗撮魔 ? 盗撮画像が絶対漏れなくてもだめ パーソナルデータの扱い 11/27
- 13. ? データ提供者 ? 個人に関する多数のパーソナルデータを保持し、 第三者に提供するもの ? データ利用者 ? 提供されたデータを利用するもの ? 攻撃者 ? データ利用者で、 ある個人に関するなんらかの情報を得ようとするもの ? 犠牲者 ? データ提供者に自身のデータを預けて、 意図せずに自身の情報が明らかにされたもの 用語 13/27
- 14. ? GIC ? 13.5万人の州職員と家族の氏名、性別、郵便番号、 生年月日、人種、医療機関の訪問日、診断結果etc ? このうち氏名を除いた情報を提供 ? 選挙人名簿 ? 氏名、性別、郵便番号、生年月日、住所、支持政党etc ? 二つを合わせると個人が特定できる ? 支持政党と病歴が連結される マサチューセッツ州の事例 14/27
- 15. ? AOL ? 65万人の検索ログ（ユーザ名、検索語、クリックURL） 2千万行を提供 ? 電話帳 ? No.4417749のユーザの検索語にあった 「ジョージア州Lilburnの庭師、Arnold姓」などから 名前を特定 AOLの事例 15/27
- 16. ? 48万人のユーザの映画の評価データ1億件 ? 利用者を特定する情報はレコードからは取り除かれていた ? 攻撃者が犠牲者を一意に特定できる条件の算出 ? Narayananら ? ある個人が与えた次の情報で特定（?）できる確率 ? 8個の映画の評価と2週間単位の精度の日付が分かれば99% ? 2個の映画の評価と3日単位の精度の日付が分かれば68% ? 別の批評データIMDbのデータとの連結も可能 Netflixの事例 16/27
- 17. ? NYのタクシー会社が情報公開制度に基づいて 1.73億件のタクシーの乗降履歴を提供 ? 乗車、降車地点と時刻 ? タクシーの免許番号とナンバープレートはランダム化 ? 問題点 ? 不完全なランダム化のため元の免許番号やナンバープレート を復元できた ? 特定のタクシーの移動履歴からドライバーの住所を推定 ? 徴収料金のデータから収入も推測できた ? タクシーに乗ろうとしたある乗客の写真があると 番号から行き先を推定可能 ? 現在もデータは提供されている NY市Taxi Rideの事例 17/27
- 19. ? 計算と秘匿性 ? 入力?に対して関数?の出力? = ?(?) ? ?は秘密で?を公開 ? ?から?はどの程度推測されるのか？ ? ?が暗号アルゴリズム（以下algo）のとき ? ?は平文で?は暗号文 ? ?がデータ匿名化algoのとき ? ?から?に含まれる個人がどこまで推定できるのか ? ?が統計的クエリのとき ? ?は統計DBで?は平均値、ヒストグラムなど ? ?が秘密計算プロトコルのとき ? 計算過程でやりとりされた情報から?をどこまで復元できるか 6章 識別不可能性と攻撃者モデル 19/27
- 20. ? ? : 入力, ? : algo, ? : 出力のとき? ← ?(?)とかく ? ?のサイズを? ∈ ?とする. ????(?) : ?の多項式 ? 多項式時間algo ? 終了までのステップ数が???? ? ? 指数時間algo ? ステップ数がある? > 1について? ? ? 多項式領域algoと指数時間algo ? 必要なメモリが????(?)と? ? ? 決定的algo ? ?が与えられたとき?が一通りに決まるもの ? 確率的 : 結果が確率的に決まるもの ? PPT（Probabilistic Polynomial Time） 記法 20/27
- 21. ? ?: ? → ?が?について無視できるとは ? 任意の????(?)に対してある? ? ∈ ?が存在し、 ? > ? ?なる全ての? ∈ ?に対して? ? < 1 ???? ? となること ? この関数を????(?)とか?(?)とかく 無視できる関数 21/27
- 22. ? 確率分布?に従う確率変数を?とするとき?~?とかく ? ?のとりうる値をΩとする ? ?が?となる確率を Pr ?~? (? = ?)とかく ? Pr?( ? = ?)と略するときもある ? ?を関数?で評価した値が?になる確率を Pr ?←? ? (? = ? ? ) とかく 確率 22/27
- 23. ? ナイーブには 異なる値? ≠ ?′を入力とする?の出力の確率分布 ? ? , ?(?′)を見分けられない ? 厳密には ? 確率分布? ?, ? ? ′ に従う定義域 0,1 ?の確率変数? ?, ? ? ′ について ? 全ての? ∈ ?, ? ∈ 0,1 ?について Pr ? ?~? ? ? ? = ? = Pr ? ? ′ ~? ? ′ (? ? ′ = ?) が成り立つとき ? ?と? ? ′ は情報理論的識別不可能であるという 情報理論的識別不可能性 23/27
- 24. ? ?が情報理論的識別不可能性に基づく秘匿性を持つ ? ? ∶ 0,1 ? → 0,1 ? ; 確率的algo 任意の入力?, ?′, 出力?について次の式を満たす Pr ?←? ? ? = ? = Pr ?←? ?′ (? = ?) ? ?(?)と?(?′ )の分布が同じなので区別できない ? ワンタイムパッド ? 完全秘匿性を持つ秘密鍵暗号 ? ? ? ← 0,1 ? ; 一様ランダム ? 平文? ∈ 0,1 ? に対して?? ? = ? ⊕ ? ? ?(?)と?(?′)の分布は同一 完全秘匿 24/27
- 25. ? 完全秘匿よりは弱い ? 二つの分布が異なっていても現実的に区別できないな らそれでいい ? あるサンプル?が分布?と?′のどちからから生成されたのかを 判定するPPT-algo ?を考える ? ? ? = 1?if??が?から生成された 0?otherwise ? 定義 ? 確率分布? ?, ? ? ′ に従う確率変数? ?, ? ? ′ について任意の? ∈ ?, ? ∈ 0,1 ?, PPT-algo ?に対して次が成り立つとき ? ?と? ? ′ は計算量的識別不可能であるという | Pr ? ?~? ? ? ? = 1, ? ? = ? ? Pr ? ? ′ ~? ? ′ (?( ?) = 1, ?′ ? = ?)| < ?(?)? 計算量的識別不可能性 25/27
- 26. ? 関数?が任意の? ∈ ?, 入力? ?, ? ? ′ , 出力?, PPT-algo ?に 対して次が成り立つとき?を計算量的識別不可能性に 基づく秘匿性を持つという Pr ?←? ? ,?←? ? ? ? = 1 ? Pr ?←? ? ,?←? ? ? ′ ? = 1 < ?(?) 計算量的な秘匿性 26/27
- 27. ? ? = ?(?)から?を推測しようとするもの ? 攻撃者の能力、実行可能性 ? 推測に用いる攻撃algo ? 計算資源（多項式/指数時間algo, 多項式/指数領域algo） ? 背景知識 ? 情報理論的識別不可能性は、任意の計算時間と領域を 持つ攻撃者に対して秘匿性を保証する ? 仮定 : 出力以外の背景知識を持たない ? 攻撃algoは任意でよい ? 匿名化algoが想定する攻撃者はより限定的 ? データの有用性と秘匿性はトレードオフ ? 強力な背景知識を持つ攻撃者には法令などによる制約を科す 攻撃者 27/27