/
保护AI训练数据隐私的有效防御方案
机器学习模型在处理敏感数据训练时面临多种攻击风险，包括成员推断攻击、从联邦学习梯度中重建原始样本，以及从共享全局模型中提取训练数据。亚马逊研究人员复现了上述三类攻击，并验证了差分隐私与安全多方计算两种技术能够提供切实可行的防御手段，为AI训练数据的隐私保护提供了有效解决方案。
谷歌发布JAX-Privacy 1.0：大规模差分隐私机器学习工具库
谷歌正式发布JAX-Privacy 1.0，这是基于高性能计算库JAX构建的差分隐私机器学习工具包。该库集成了最新研究成果，采用模块化设计，使研究人员和开发者能够更轻松地构建差分隐私训练管道。JAX-Privacy提供梯度裁剪、噪声生成、批量选择等核心组件，支持大规模分布式训练，已成功应用于VaultGemma等先进模型的训练中。
Google发布首个隐私保护大语言模型VaultGemma
谷歌研究团队推出VaultGemma，这是其首个采用差分隐私技术的大语言模型。该模型基于Gemma 2构建，拥有10亿参数，通过在训练阶段引入校准噪声来防止模型"记忆"敏感用户数据。研究团队建立了差分隐私缩放定律，平衡计算预算、隐私预算和数据预算。尽管添加差分隐私会影响准确性，但VaultGemma在性能上与同规模非私有模型相当。该模型现已在Hugging Face和Kaggle平台开放下载。
Google推出VaultGemma模型，引领隐私保护AI新标准
谷歌推出全球最强差分私有大语言模型VaultGemma，这是一个10亿参数的模型，基于Gemma架构构建。该模型采用先进数学算法防止敏感数据泄露，通过在数据集中添加受控噪声实现隐私保护。VaultGemma在多项基准测试中表现卓越，性能可媲美同等参数的非私有模型，但完全不会暴露训练数据，为金融和医疗等监管行业的AI应用提供重要保障。
深度解读：基于openGauss安全的差分隐私医疗诊断辅助查询系统斩获金奖背后的故事
来自华中科技大学数据库隐私保护队提交的《基于openGauss安全的差分隐私医疗诊断辅助查询系统》，在全国总决赛中获得高校赛openGuass开源应用创新赛道金奖。
京公网安备 11010802021500号
