如何信任AI：零知识机器学习（ZKML）提供怎样的思路？

国盛证券：如何信任AI：零知识机器学习（ZKML）提供怎样的思路？

随着AI以超乎想象的速度演化，必将引起对AI利剑的另一“刃”——信任——的担忧。首先是隐私方面：AI时代，人类从数据隐私的角度如何信任AI？也许AI模型的透明度是更为担忧的关键：类似大规模语言模型的涌现能力，对人类来说无异于一个无法看透的科技“黑匣子”，一般用户并不能理解模型是如何运行的、运行结果又是如何获得的——更麻烦的是，作为用户可能并不知道服务商提供的AI模型是否如承诺的那样运行。尤其是在一些敏感数据上应用AI算法和模型，如医疗、金融、互联网应用等，AI模型是否具有偏见（甚至恶意导向）、或者服务商是否按照承诺那样准确无误地运行模型（以及相关参数），成为用户最为关心的问题。零知识证明技术在这方面有着针对性的解决方案，于是零知识机器学习（ZKML）成为最新崛起的发展方向。

综合考虑到计算的完整性、启发性优化以及隐私，零知识证明和AI的结合下，零知识机器学习（Zero-Knowledge Machine Learning，ZKML）应运而生。在AI生成内容越来越逼近与人类产生的内容的时代，零知识密证明的技术特点可以帮助我们确定特定内容是通过特定模型产生的。对于隐私保护，零知识证明技术特别重要，即可以在不泄露用户数据输入或模型具体细节的情况下完成证明和验证。

零知识证明应用于机器学习的五种方式：计算完整性、模型完整性、验证、分布式训练和身份验证。最近大型语言模型 (LLM) 的快速发展表明这些模型变得越来越智能，这些模型完善了算法与人类的重要接口：语言。通用人工智能 (AGI) 的趋势已经不可阻挡，但就现在的模型训练结果来看，AI可以在数字交互中完美模仿高能力的人类——且在快速的演进中以不可想象的速度达到超越人类的水平，使得人类不得不惊叹这种进化速度、甚至产生被AI迅速替代的忧虑。

社区开发者利用ZKML对Twitter推荐功能进行验证，具有一定启发性。Twitter的“For You”推荐功能利用一种AI推荐算法，将每天发布的大约 5 亿条推文提炼成少数几条热门推文，最终显示在用户主页的时间轴上。2023年3月底，Twitter开源该算法，但因模型细节未公开，用户依然无法验证算法是否准确、完整运行。社区开发者Daniel Kang等利用密码学工具ZK-SNARKs来检查Twitter推荐算法是否正确、完整运行而无需公开算法细节——这正是零知识证明最吸引人之处，即不透露关于对象的任何具体信息（零知识）的前提下证明该信息的可信性。最理想的情况是，Twitter可以使用ZK-SNARKS 来发布其排名模型的证明——证明当该模型应用于特定用户和推文时，它会产生特定的最终输出排名。该证明则是该模型可信的基础：用户可以自行验证模式算法的计算是否按承诺执行——或者交给第三方来进行审计。这一切都是在不公开模型参数权重细节的基础上进行。也就是说，利用官方公布的模型证明，用户对具体的有疑问的推文，利用该证明来验证特定推文是否按照模型承诺那样诚实运行。

风险提示：投资人应当认真阅读《基金合同》、《招募说明书》等基金法律文件，了解基金的风险收益特征，并根据自身的投资目的、投资期限、投资经验、资产状况等判断基金是否和投资人的风险承受能力相适应。基金的过往业绩并不预示其未来表现，基金管理人管理的其他基金的业绩并不构成基金业绩表现的保证。基金有风险，投资需谨慎。

免责声明：转载内容来自机构研报摘要、公开权威媒体报道，仅供读者参考，版权归原作者所有，内容为作者个人观点，版权归原作者（机构研究员、媒体记者）所有，内容仅代表作者个人观点，与建信基金管理有限公司无关；不作为对上述所涉行业及相关股票、基金的推荐，也不构成投资建议。对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本公司不作任何保证或承诺，请读者仅作参考。如需购买相关基金产品，请关注投资者适当性管理相关规定，做好风险评测，选择与之相匹配风险等级的产品。本文只提供参考并不构成任何投资及应用建议。如您认为本文对您的知识产权造成了侵害，请立即告知，我们将在第一时间处理。

#AIGC、web3.0概念股拉升##重视通用人工智能发展##AI诈骗正在全国爆发#$建信高端装备股票A(OTCFUND|011506)$$建信潜力新蓝筹股票A(OTCFUND|000756)$$建信创新驱动混合(OTCFUND|011790)$$建信智能生活混合(OTCFUND|011503)$$建信短债债券C(OTCFUND|530028)$