차등 정보보호 - 8. 임의화 응답과 프라이버시 손실의 관계 유도(스피너만 사용)

차등 정보보호(Differential Privacy)의 임의화 응답(Randomized Response) 기법에서 사용하는 스피너 모델은 사용자의 실제 답변을 확률적으로 바꾸어 프라이버시를 보호합니다. 스피너의 밝은 면이 차지하는 비율은 프라이버시 보호 수준, 즉 프라이버시 손실(Privacy Loss)과 직접적인 관계를 맺습니다.

스피너 모델의 작동 방식

먼저 스피너 모델이 어떻게 작동하는지 이해해야 합니다. 사용자가 “예” 또는 "아니오"로 답해야 하는 민감한 질문이 있다고 가정해 보겠습니다.

진실 응답: 사용자는 스피너를 돌리기 전에 질문에 대한 자신의 실제 답변(‘예’ 또는 ‘아니오’)을 마음속으로 정합니다.
스피너 돌리기:
- 스피너가 밝은 면(p의 비율)에 멈추면, 사용자는 자신의 실제 답변을 그대로 말합니다.
- 스피너가 어두운 면(1-p의 비율)에 멈추면, 사용자는 실제 답변의 반대 값을 말합니다.

정의를 임의화 응답에 적용하기

차등 정보보호의 일반적인 정의를 스피너를 사용하는 임의화 응답 모델에 적용해 보겠습니다.

알고리즘 M: 스피너를 돌려 답변을 결정하는 임의화 응답 절차입니다.
인접 데이터셋 D1,D2:
- D1: 개인의 실제 답변이 '예(Yes)'인 경우
- D2: 개인의 실제 답변이 '아니오(No)'인 경우
결과 O: 공격자가 관찰하는 것은 응답자가 최종적으로 보고한 답변입니다. 프라이버시가 가장 많이 유출되는 최악의 시나리오인 '예(Yes)'라고 응답한 경우를 가정합니다.

이제 차등 정보보호의 정의에 이 요소들을 대입합니다.

$\frac{P\left(보고된\ 답변='예'\mid 실제\ 답변='예'\right)}{P\left(보고된\ 답변='예'\mid 실제\ 답변='아니오'\right)}\le e^{\epsilon }$

프라이버시 손실은 특정 응답이 나왔을 때, 그 응답이 실제 '예’에서 나왔을 확률과 실제 '아니오’에서 나왔을 확률의 비율을 통해 측정됩니다. 이 비율에 자연로그를 취한 값이 프라이버시 손실(ε)입니다.

확률 계산 및 수식 연결

가장 프라이버시 손실이 큰 경우는, 즉 공격자가 가장 많은 정보를 얻을 수 있는 시나리오는 응답자가 '예’라고 답했을 때입니다. 이때의 프라이버시 손실을 계산해 보겠습니다.

응답이 '예’일 확률 계산:

실제 답변이 '예’일 경우:
- 밝은 면에 멈춰 '예’라고 답할 확률: p×1=p
- 어두운 면에 멈춰 '예’라고 답할 확률: (1−p)×0=0
- 따라서, P(보고된 답변='예’∣실제 답변=‘예’)=p
실제 답변이 '아니오’일 경우:
- 밝은 면에 멈춰 '예’라고 답할 확률: p×0=0
- 어두운 면에 멈춰 '예’라고 답할 확률: (1−p)×1=1-p
- 따라서, P(보고된 답변='예’∣실제 답변=‘아니오’)=1−p

이 확률들을 비율식에 넣으면 다음과 같습니다.

$\frac{p}{1-p}$

이것이 차등 정보보호 정의의 $e^ε$ 보다 작거나 같아야 하므로,

$\frac{p}{1-p}\le {e}^{\epsilon }$

프라이버시 손실 ε을 구하기 위해 양변에 자연로그(ln)를 취하면, 임의화 응답에서의 프라이버시 손실 수식이 완성됩니다.

$\ln \left(\frac{p}{1-p}\right)\le \epsilon$

따라서, 임의화 응답 메커니즘이 ε-차등 정보보호를 만족하기 위한 최소 ε 값, 즉 프라이버시 손실은

$\ln \left(\frac{p}{1-p}\right)$

가 됩니다. 이 수식으로부터 특정 프라이버시 손실 수준을 지키기 위한 최대 p 값, 즉 진실을 말할 확률 계산식을 구할 수 있습니다.

$p=\frac{e^{\epsilon }}{e^{\epsilon }+1}$

이 과정을 통해 차등 정보보호라는 추상적인 수학적 정의가 어떻게 임의화 응답이라는 구체적인 알고리즘의 프라이버시 수준을 측정하는 수식으로 연결되는지 명확하게 알 수 있습니다.

Written with StackEdit.

천천히, 제대로

이 블로그 검색