来源: Cointelegraph
原文: 《 零知识证明如何让人工智能（AI）更公平 》
观点作者：Rob Viglione，Horizen Labs联合创始人兼首席执行官
你能相信你的AI是公正的吗？一项最近的研究表明，这个问题比我们想象的更复杂。不幸的是，偏见不仅仅是一个漏洞——如果没有适当的加密学防护，它是一种持续存在的特征。
伦敦帝国学院2024年9月的一项研究表明，零知识证明（ZKP）可以帮助公司验证其机器学习（ML）模型是否在处理所有人口群体时平等，同时仍然保持模型细节和用户数据的私密性。
零知识证明是一种加密方法，使一方能够向另一方证明某个陈述是真的，而不需要透露任何超出该陈述有效性的额外信息。然而，在定义“公平”时，我们开启了一个全新的复杂问题。
机器学习中的偏见
在机器学习模型中，偏见的表现方式千差万别。它可能导致信用评分服务根据一个人的朋友和社区的信用评分来评定该人，这可能是固有的歧视。它还可能促使AI图像生成器将教皇和古希腊人呈现为不同种族的人，就像Google的AI工具Gemini去年臭名昭著地做的那样。
在实际应用中，发现不公平的机器学习（ML）模型很容易。如果该模型因为某人的朋友是谁而剥夺他们的贷款或信用，这就是歧视。如果它在历史修正或以公平的名义对特定群体采取不同的对待方式，这也是歧视。这两种情况都会破坏人们对这些系统的信任。
考虑一下银行使用ML模型进行贷款批准。一个ZKP可以证明该模型不会对任何人口群体存在偏见，而不暴露敏感的客户数据或专有的模型细节。通过ZK和ML，银行可以证明它们不会系统性地歧视某个种族群体。这种证明将是实时和持续的，而不是今天低效的政府私人数据审计。
理想的ML模型？一个不会修正历史或根据背景对人们进行不同对待的模型。AI必须遵守反歧视法律，如1964年《美国民权法案》。问题在于如何将这一点嵌入到AI中并使其可验证。
ZKP提供了保证这一遵守的技术途径。
AI有偏见（但不一定要有）
在处理机器学习时，我们需要确保任何关于公平的声明都能保持底层的ML模型和训练数据的机密性。它们需要保护知识产权和用户隐私，同时提供足够的访问权限，让用户知道他们的模型不会歧视任何人。
这不是一项简单的任务。ZKP提供了一种可验证的解决方案。
ZKML（零知识机器学习）是我们如何利用零知识证明来验证一个ML模型是否如其所说的那样。ZKML结合了零知识加密学和机器学习，创建出能够验证AI属性的系统，而不会暴露底层模型或数据。我们还可以采用这一概念，使用ZKP来识别那些公平对待每个人的ML模型。
以前，使用ZKP证明AI公平性非常有限，因为它只能专注于ML管道的一个阶段。这使得不诚实的模型提供商可以构建满足公平性要求的数据集，即使模型本身未能做到这一点。ZKP还会引入不切实际的计算需求和长时间的等待，来生成公平性的证明。
最近几个月，ZK框架使得我们可以扩展ZKP，来确定具有数千万参数的模型的端到端公平性，并且能够证明其安全性。
万亿美元的问题：我们如何衡量AI是否公平？
让我们分析三种最常见的群体公平性定义：人口平等、机会平等和预测平等。
人口平等意味着不同群体（如种族或性别）之间的预测概率是相同的。多样性、公平和包容性部门通常将其作为衡量标准，以试图反映公司员工队伍中的人口结构。它并不是机器学习模型的理想公平性度量标准，因为期望每个群体的结果相同是不现实的。
机会平等对于大多数人来说很容易理解。它赋予每个群体相同的机会获得积极的结果，前提是他们在资格上是平等的。它并不是优化结果——仅仅是确保每个群体应该有相同的机会获得工作或房屋贷款。
同样，预测平等衡量的是一个ML模型是否在各个群体之间做出相同准确度的预测，因此不会因为属于某个群体而受到惩罚。
在这两种情况下，ML模型并没有为了公平原因在天平上加重，而是确保群体不会以任何方式受到歧视。这是一个极其合理的修复。
无论如何，公平性正在成为标准
在过去的一年里，美国政府和其他国家已经发布了关于AI公平性和保护公众免受ML偏见的声明和指令。现在，随着美国新政府的上台，AI公平性可能会采取不同的方式，重新关注机会平等而非公平。
随着政治格局的变化，AI中的公平性定义也在发生变化，在以公平为重点和以机会为重点的范式之间转换。我们欢迎那些公平对待每个人而没有偏袒任何群体的ML模型。零知识证明可以作为一种牢不可破的方式来验证ML模型是否在没有泄露私人数据的情况下做到这一点。
虽然ZKP多年来面临许多可扩展性挑战，但这项技术最终已经变得足够适用于主流用例。我们可以使用ZKP来验证训练数据的完整性，保护隐私，并确保我们使用的模型确实是它们所声称的那样。
随着机器学习模型在我们的日常生活中变得更加紧密相连，未来的工作机会、大学录取和房贷都依赖于它们，我们或许可以多一点保证，确保AI公平地对待我们。然而，是否我们能够对公平性有统一的定义，仍然是一个完全不同的问题。
观点作者：Rob Viglione，Horizen Labs联合创始人兼首席执行官
相关推荐：加密货币的乐观情绪不仅是炒作，更是结构性的特征
本文仅供一般信息参考，不应被视为法律或投资建议。文中所表达的观点、想法和意见仅代表作者个人观点，并不一定反映或代表Cointelegraph的观点和意见。
免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。
