目录前缀基础知识论文笔记Deep Learning with Differential Privacy - CCS'16Differentially Private Distributed Online Learning - TKDE'18Differentially Private Empirical Risk Minimization Revisited _ Faster and More
转载
2023-09-04 22:30:00
198阅读
一、差分隐私的概念差分隐私是为了解决差分攻击而引入的解决方案，它可以有效防止研究人员从查询接口中找出自然人的个人隐私数据。其原理是在原始的查询结果（数值或离散型数值）中添加干扰数据（即噪声）后，再返回给第三方研究机构；加入干扰后，可以在不影响统计分析的前提下，无法定位到自然人，从而防止个人隐私数据泄露。差分隐私主要适用于统计聚合数据（连续的数值，或离散的数值），如交互式统计查询接口、API接口、用
转载
2023-12-28 21:50:27
183阅读
差分隐私差分隐私通过在统计结果中加入了适量噪音以确保修改数据集中一条个体记录不会对统计结果造成显著影响，从而满足了隐私保护的要求。即便攻击者掌握了除一条数据外的全部其他的数据记录，差分隐私仍然能够防止攻击者分析出他不掌握的那条数据信息，有效避免了数据发布导致隐私泄露的问题。 差分隐私是有严格的、可量化的隐私保护模型。假设D和D’为相邻数据集，S为在随机函数A所有可能的输出，Pr为A（D1）获得某个
转载
2024-01-15 06:31:20
248阅读
差分隐私最初开发是为了方便敏感数据上的安全分析，并取得了成功。最近又很火，是Cynthia Dwork等做出的令人激动的结果，把结果应用于机器学习。这篇文章研究从差分隐私的定义到Dwork等最近的成果如何提高模型
【多方安全计算】差分隐私（Differential Privacy）解读 文章目录【多方安全计算】差分隐私（Differential Privacy）解读1. 介绍2. 形式化3. 差分隐私的方法3.1 最简单的方法-加噪音3.2 加高斯噪音（Gaussian noise）4. 差分隐私的分类4.1 本地化差分隐私4.2 中心化差分隐私4.3 分布式差分隐私4.x 本地化、中心化与分布式的区别与联
转载
2023-10-24 08:54:39
38阅读
MindArmour差分隐私 总体设计 MindArmour的Differential-Privacy模块，实现了差分隐私训练的能力。模型的训练主要由构建训练数据集、计算损失、计算梯度以及更新模型参数等过程组成，目前MindArmour的差分隐私训练主要着力于计算梯度的过程，通过相应的算法对梯度进行
转载
2021-01-23 08:30:00
296阅读
2评论
在基于隐私保护的数据发布研究中，主要考虑两个因素：1）隐私的保护性，即确保数据不会造成隐私泄漏；2）数据的有效性，即数据隐私保护后数据仍具有效用，在后续数据挖掘等工作中仍然具有较高的精确度 差分隐私主要分为4类，本地化差分隐私、中心化差分隐私、分布式差分隐私和混差分隐私。1、本地化差分隐私（ε－LDP）
转载
2024-04-25 18:53:00
198阅读
差分隐私，一种新的隐私定义，用于数据脱敏场景
原创
精选
2024-06-28 13:53:24
235阅读
差分隐私简介差分隐私是属于密码学的远亲，并没有使用传统意义上的加密解密，它是通过一种扰动的方法，但是它们作用都是一样的，都是对隐私数据进行保护，所以更多的来说差分隐私应该属于隐私保护的范畴。在详细的介绍差分隐私之前，要给大家简单的介绍下隐私保护的概念。隐私保护主要由两个部分组成，一个是语法隐私，一个是语义隐私。语法隐私：要求发布的数据集中每条记录都无法被攻击者从其他的一定数量的相似的记录中区分开来
差分隐私是为了在敏感数据上进行数据分析而发展起来的一套机制，通过混淆数据库查询结果，来实现数据在个人层面的隐私性，并且保证查询结果近似正确。这篇文章通过一些例子简要介绍差分隐私的提出动机和思想，主要参考Dwork的The Algorithmic Foundations of Differential ...
转载
2021-09-02 16:01:00
454阅读
2评论
问题模型及定义 注意：学方法保证的是计算过程的隐私性，差分隐私保
原创
2023-03-26 13:20:38
524阅读
差分隐私的由来 想要在一个统计数据库里面保护用户的隐私，那么理想的隐私定义是这样的：访问一个统计数据库而不能够泄露在这个数据库中关于个人的信息。也就是说统计数据库应该提供一个统计值，但是对于个人的信息不应该被查询到。 但是，这个理想的定义是不可行的，它并没有考虑到辅助信息。比如这么一个例子：一个关于某个地区女性的身高的数据库。可以从数据库当中查询到平均值，另外你根据辅助信息
转载
2024-08-16 18:01:44
34阅读
实现方法与性质 离散值域：随机回答 在很多场合，回答是或者不是，本身就属于隐私数据。也就是说有些隐私是离散的数据。 随机回答的局部差分隐私：考虑任意一个被调查者i。由于数据只有一条$x_i$，所以只需要考虑$Pr[A_{RR}(x_i)=0]$和$Pr[A_{RR}(x_i)=1]$。 比如$A_{
原创
2023-05-16 17:06:39
663阅读
差分隐私报告汇报人：倪元元、曾文丽、杨顼时间：2020.3.31.背景. 22.以往的工作及其局限性. 23.差分隐私模型. 24.差分隐私的性质发展. 35.相关定义的发展. 36.实现机制. 4总结. 5参考文献. 5 1.背景计算机技术的发展和网络攻击手段的不断丰富，使得保护隐私数据已远远不再是隐藏数据中敏感属性那么简单。数据挖掘等分析技术的快速发展，使得攻击者可以从海量数据中挖掘
转载
2024-07-04 09:53:58
34阅读
目录1.隐私分析2.语义隐私3.差分隐私4.语义隐私和差分隐私的关系1.隐私分析假如我们现在有一个学生表，有三个字段：姓名、性别、考试通过情况。其中姓名和性别是可以公开的，考试通过情况是个人隐私。我们开放这个数据的查询，但是不想暴露个人的隐私信息——考试通过情况。现在有人想访问一些关于这个数据的信息：（1）查询“Orhan的成绩”：这个查询会直接返回隐私信息，要拒绝这种形式的查询。（2）查询“多少
给定一个预训练大语言模型（如GPT-2）和微调数据集（包含公开的或合成的虚拟个人身份信息），基于开源深度学习框
原创
2024-06-11 17:19:46
0阅读
在Latent Factor Models中添加噪声的方式通常是在目标函数中引入高斯噪声，使得每个元素都有一定的概率被扰动。具体地，我们可以使用 Lipschitz 常数来度量添加的噪声对目标函数的影响。在这种情况下，我们可以发现，如果我们向每个元素添加的噪声。综上所述，将高斯噪声添加到 Latent Factor Models 的目标函数中可以保护合成数据的差分隐私。因此，我们可以考虑在潜在因子矩阵和因子载荷矩阵上添加的噪声对距离的影响。这意味着添加的噪声对目标函数的最大影响不超过。是高斯噪声的标准差，
原创
2023-04-19 17:26:48
164阅读
AI TIME欢迎每一位AI爱好者的加入！大规模数据的收集和利用大幅提升了机器学习算法的性能，但同时也令个人隐私保护面临更大的风险与挑战。为此，我们提出一种满足差分隐私（Differential Privacy)的生成对抗网络（GAN) 训练方法，用于拟合高维数据分布、生成具有严格隐私保护的数据集。我们的框架适用于集成式（centralized) 和分布式/联邦式（decentralized/fe
原创
2021-02-03 16:29:27
1841阅读
时代，如何妥善获取和使用与真人相关的数据...
转载
2020-05-02 14:02:34
394阅读
摘要：本文将先简单介绍Bandit 问题和本地差分隐私的相关背景，然后介绍基于本地差分隐私的 Bandit 算法，最后通过一个简单的电影推荐场景来验证 LDP LinUCB 算法。老虎机（Bandit）问题是强化学习中一类重要的问题，由于它定义简洁且有大量的理论分析，因此被广泛应用于新闻推荐，医学试验等实际场景中。随着人类进入大数据时代，用户对自身数据的隐私性日益重视，这对机器学习算法的设计提出了
转载
2021-03-10 20:08:07
641阅读
2评论
