Differential privacy (дифференциальная приватность) — это формальный подход к обеспечению конфиденциальности данных, который гарантирует, что вывод алгоритма не позволяет определить, присутствует ли конкретный элемент (например, запись пользователя) в исходном наборе данных с высокой степенью уверенности.
Что такое differential privacy и определение (epsilon, delta)?
[ P[A(D) \\in S] \\leq e^{\\varepsilon} \\cdot P[A(D') \\in S] + \\delta ]
Короткий ответ
Что ответить на собеседовании
Подробный разбор
Ответ с пояснениями
Differential privacy (дифференциальная приватность) — это формальный подход к обеспечению конфиденциальности данных, который гарантирует, что вывод алгоритма не позволяет определить, присутствует ли конкретный элемент (например, запись пользователя) в исходном наборе данных с высокой степенью уверенности.
Определение с параметрами (ε, δ): алгоритм A обеспечивает (ε, δ)-дифференциальную приватность, если для любых двух соседних наборов данных D и D', отличающихся ровно одним элементом, и для любого множества возможных выходов S выполняется:
[ P[A(D) \in S] \leq e^{\varepsilon} \cdot P[A(D') \in S] + \delta ]
- ε (эпсилон) — параметр, определяющий уровень приватности; чем меньше ε, тем сильнее приватность.
- δ (дельта) — вероятность нарушения приватности, обычно очень мала (например, близка к нулю).
Таким образом, дифференциальная приватность гарантирует, что результат работы алгоритма практически не меняется при добавлении или удалении одного элемента данных, что затрудняет идентификацию конкретного пользователя.
Пример: при публикации статистики по базе пользователей добавляется шум, зависящий от ε и δ, чтобы скрыть влияние каждого отдельного пользователя.