기본 콘텐츠로 건너뛰기

라벨이 차등 정보보호인 게시물 표시

차등 정보보호 - 12. 라플라스 노이즈에서 프라이버시 손실 관계식 유도

차등 정보보호(Differential Privacy)는 데이터셋에 포함된 특정 개인의 정보 유무가 분석 결과에 미치는 영향을 제한하여 개인의 프라이버시를 수학적으로 보장하는 강력한 기술입니다. 이는 질의 결과에 의도적인 '노이즈'를 추가함으로써 달성됩니다. 이때 추가되는 노이즈의 양을 결정하는 핵심 개념이 바로 전역 민감도(Global Sensitivity)입니다. 차등 정보보호와 전역 민감도의 정의 차등 정보보호(ε-Differential Privacy)는 알고리즘 $M$이 비슷한 두 데이터베이스(단 한 명의 개인 정보만 차이 나는)에 대해 거의 동일한 결과를 출력하도록 보장하는 개념입니다. 수학적으로는 다음과 같이 정의됩니다. $$ Pr[M(D) \in S] \le e^\epsilon \cdot Pr[M(D') \in S] $$ 여기서 $D$와 $D'$는 이웃 데이터베이스, $S$는 가능한 출력 결과의 집합, 그리고 ε(엡실론)은 프라이버시 손실(privacy loss)을 나타내는 매개변수입니다. ε 값이 0에 가까울수록 프라이버시 보호 수준이 높아집니다. 전역 민감도($\Delta f$)는 질의 함수 $f$가 이웃 데이터베이스에 적용될 때 나타날 수 있는 결과값의 최대 변화량을 의미합니다. 이는 데이터셋 자체와는 무관하게 오직 질의 함수에 의해서만 결정됩니다. $$ \Delta f = \max_{D, D'} \|f(D) - f(D')\|_1 $$ 전역 민감도는 차등 정보보호를 구현하기 위해 추가해야 할 노이즈의 크기를 결정하는 데 핵심적인 역할을 합니다. 전역 민감도 적용 사례: 질병 보유자 수 계산 특정 질병(예: 당뇨병)을 앓고 있는 환자 수를 계산하는 간단한 시나리오를 통해 전역 민감도를 구체적으로 살펴보겠습니다. 데이터베이스 ($D$): 병원의 환자 기록 목록 질의 함수 ($f$): 데이터베이스에서 '당뇨병' 진단을 받은 환자의 수를 계산하는 함수 (COUNT 질의) 이 질의 함수의 전역...

차등 정보보호 - 8. 임의화 응답에서 프라이버시 손실 관계식 유도(스피너만 사용)

차등 정보보호 - 8. 임의화 응답에서 프라이버시 손실 관계식 유도(스피너만 사용) 차등 정보보호(Differential Privacy)의 임의화 응답(Randomized Response) 기법에서 사용하는 스피너 모델은 사용자의 실제 답변을 확률적으로 바꾸어 프라이버시를 보호합니다. 스피너의 밝은 면이 차지하는 비율은 프라이버시 보호 수준, 즉 프라이버시 손실(Privacy Loss)과 직접적인 관계를 맺습니다. 스피너 모델의 작동 방식 먼저 스피너 모델이 어떻게 작동하는지 이해해야 합니다. 사용자가 “예” 또는 "아니오"로 답해야 하는 민감한 질문이 있다고 가정해 보겠습니다. 진실 응답 : 사용자는 스피너를 돌리기 전에 질문에 대한 자신의 실제 답변(‘예’ 또는 ‘아니오’)을 마음속으로 정합니다. 스피너 돌리기 : 스피너가 밝은 면(p의 비율)에 멈추면, 사용자는 자신의 실제 답변을 그대로 말합니다. 스피너가 어두운 면(1-p의 비율)에 멈추면, 사용자는 실제 답변의 반대 값을 말합니다. 정의를 임의화 응답에 적용하기 차등 정보보호의 일반적인 정의를 스피너를 사용하는 임의화 응답 모델에 적용해 보겠습니다. 알고리즘 M : 스피너를 돌려 답변을 결정하는 임의화 응답 절차입니다. 인접 데이터셋 D1,D2 : D1: 개인의 실제 답변이 '예(Yes)'인 경우 D2: 개인의 실제 답변이 '아니오(No)'인 경우 결과 O : 공격자가 관찰하는 것은 응답자가 최종적으로 보고한 답변입니다. 프라이버시가 가장 많이 유출되는 최악의 시나리오인 '예(Yes)'라고 응답한 경우를 가정합니다. 이제 차등 정보보호의 정의에 이 요소들을 대입합니다. P ( 보고된 답변 = ′ 예 ′ ∣ 실제 답변 = ′ 예 ′ ) P ( 보고된 답변 = ′ 예 ′ ∣ 실제 답변 = ′ 아니 오 ′ ) ≤ e ϵ \frac{P\left(보고된\ 답변='...

차등 정보보호 - 7. 임의화 응답에서 프라이버시 손실 관계식 유도(스피너+동전 사용)

차등 정보보호 - 7. 임의화 응답에서 프라이버시 손실 관계식 유도(스피너+동전 사용) 차등 정보보호(Differential Privacy)의 임의화 응답(Randomized Response) 기법에서 사용하는 스피너 모델은 사용자의 실제 답변을 확률적으로 바꾸어 프라이버시를 보호합니다. 스피너의 밝은 면이 차지하는 비율은 프라이버시 보호 수준, 즉 프라이버시 손실(Privacy Loss)과 직접적인 관계를 맺습니다. 스피너 모델의 작동 방식 먼저 스피너 모델이 어떻게 작동하는지 이해해야 합니다. 사용자가 “예” 또는 "아니오"로 답해야 하는 민감한 질문이 있다고 가정해 보겠습니다. 진실 응답 : 사용자는 스피너를 돌리기 전에 질문에 대한 자신의 실제 답변(‘예’ 또는 ‘아니오’)을 마음속으로 정합니다. 스피너 돌리기 : 스피너가 밝은 면(p의 비율)에 멈추면, 사용자는 자신의 실제 답변을 그대로 말합니다. 스피너가 어두운 면(1-p의 비율)에 멈추면, 사용자는 동전을 던지는 것과 같이 50% 확률로 ‘예’, 50% 확률로 ‘아니오’ 중 하나를 무작위로 선택하여 답합니다. 정의를 임의화 응답에 적용하기 차등 정보보호의 일반적인 정의를 스피너를 사용하는 임의화 응답 모델에 적용해 보겠습니다. 알고리즘 M : 스피너를 돌려 답변을 결정하는 임의화 응답 절차입니다. 인접 데이터셋 D1,D2 : D1: 개인의 실제 답변이 '예(Yes)'인 경우 D2: 개인의 실제 답변이 '아니오(No)'인 경우 결과 O : 공격자가 관찰하는 것은 응답자가 최종적으로 보고한 답변입니다. 프라이버시가 가장 많이 유출되는 최악의 시나리오인 '예(Yes)'라고 응답한 경우를 가정합니다. 이제 차등 정보보호의 정의에 이 요소들을 대입합니다. P ( 보고된 답변 = ′ 예 ′ ∣ 실제 답변 = ′ 예 ′ ) P ( 보고된 답변 = ′ 예 ′ ∣ 실제 답변 ...

차등 정보보호 - 3. 차등의 의미 및 수학적 정의

차등의 의미 차등 정보보호(Differential Privacy)에서 '차등(differential)'이라는 단어는 '차이(difference)'를 의미하며, 데이터베이스에 특정 개인의 데이터가 포함되거나 포함되지 않았을 때, 또는 변경되었을 때 발생하는 ' 결과의 차이를 제어 '하는 기술의 핵심 개념을 직접적으로 나타냅니다. 이 용어는 2006년 컴퓨터 과학자 신시아 드워크(Cynthia Dwork)가 발표한 논문 "Differential Privacy"에서 처음으로 공식화되었습니다. 이 개념의 핵심은 데이터베이스에 대한 질의(query) 결과가 특정 개인의 데이터 유무, 또는 변경에 따라 크게 달라지지 않도록 보장하는 것입니다. 즉, 데이터베이스에서 한 사람의 정보를 추가, 삭제, 또는 변경하더라도 분석 결과에 미치는 영향(차이)이 거의 없도록 만드는 것이 목표입니다. 이는 데이터에 임의의 노이즈(noise)를 추가하여 달성되며, 이 노이즈의 크기는 개인 데이터의 유무나 변경에 따른 결과값의 차이를 감출 수 있을 만큼 크지만, 전체 데이터의 통계적 유의미성은 해치지 않을 만큼 작게 설정 됩니다. 수학적 정의 어떤 무작위화 알고리즘 M이 ε-차등 정보보호를 만족한다는 것은, 단 하나의 데이터만 다른 임의의 두 인접 데이터셋 D1과 D2에 대해, 알고리즘 M이 출력할 수 있는 모든 결과의 집합 S에 속하는 특정 결과 O가 나올 확률이 다음 부등식을 만족한다는 의미입니다. $$ \frac {P(M\left({D}_1\right)=O)} {P(M\left(D_2\right)=O)} \le {e}^{\epsilon} $$ 알고리즘 M: 데이터를 입력받아 무작위화된 결과를 출력하는 함수 인접 데이터셋 D1, D2: 단 한 사람의 정보만 다른 데이터셋 결과 O: 알고리즘이 출력하는 값 ε(엡실론): 프라이버시 손실(Privacy Loss). 이 값이 작을수록 프라이버시 보호 수준이 높습니다.

차등 정보보호 - 9. 임의화 응답 원본 통계치 추정 공식 🎲(스피너+동전 사용)

임의화 응답은 개인의 민감한 정보에 '노이즈'를 추가하여 프라이버시를 보호하면서도 전체 통계의 유의미성을 확보하는 차등 정보보호 기술입니다. 이 페이지는 다중 선택 응답 환경에서 임의화 응답이 어떻게 동작하는지 시뮬레이션합니다. 각각의 선택 항목에 대하여 독립적으로 임의화 응답을 적용하는 것이므로 단일 선택 문제와 같은 기술을 사용한다고 보시면 됩니다. ​ 작동 원리 ⚙️: 정해진 프라이버시 손실(ε)에 따라 스피너의 밝은 면의 비율(p)을 아래와 같이 정합니다. $p=\frac{\combi{e}^{\varepsilon }-1}{\combi{e}^{\varepsilon }+1}$ p = e ϵ − 1 e ϵ + 1 ​ ​ 1단계 (응답자): 각 응답자는 스피너를 돌리기 전에 질문에 대한 자신의 실제 답변('예' 또는 '아니오')을 마음속으로 정합니다. 그리고 스피너를 돌립니다. 스피너가 밝은 면에 멈추면, 응답자는 자신의 실제 답변을 그대로 말합니다. 스피너가 어두운 면에 멈추면, 응답자는 동전을 던지는 것과 같이 50% 확률로 '예', 50% 확률로 '아니오' 중 하나를 무작위로 선택하여 답합니다. 2단계 (분석가): 분석가는 보고된 응답들을 수집합니다. 개별 응답은 진실인지 거짓인지 알 수 없지만, 전체 응답으로부터 원본 통계치를 추정할 수 있습니다. 3단계 (추정): 수집된 응답으로부터 원본 응답 비율(π true )을 추정하는 공식은 다음과 같습니다. 여기서 π noisy 는 노이즈가 포함된 응답에서 '예'라고 답한 비율, n은 총 응답자 수, p는 진실 응답 확률입니다. $\pi _{estimated}=\frac{\combi{\pi }_{noisy}-0.5\times \left(1-p\right)}{p}$ π e s t i m a t e d ​ = π n o i s y ​ − 0 . 5 × ( 1 − p ) p ​ ​ 위 공식으로 추정된 비율에 총 응답자 수 n...