AI全球视野 欧洲准备对LLM实施监管政策

AI全球视野 欧洲准备对LLM实施监管政策

建信新兴市场基金（539002 ）AI 全球重要新闻总结

1. #法国总统马克龙不久前在一场有关人工智能（AI）的论坛上提出，欧洲如果想要赶上全球AI发展前沿的步伐，就需加大投资，并走出一条将公共和私营部门力量加以整合的独特创新自强之路。在欧盟不断加强AI治理理念与规则塑造的基础上，马克龙的提议实际是想将“公私伙伴关系”（PPP）模式引入欧盟AI产业，即政府与私营部门形成伙伴关系，通过签署合同等来明确双方权利和义务，确保合作顺利进行。PPP模式通常是着眼于项目融资，即以分担风险以及保障私营部门获得可观收益为基础，提升私营部门对资金要求高、运行周期长等项目的积极性。目前，PPP模式也主要用于推进重要基础设施和社会服务设施的项目，以便克服资本在经济发展中习惯做短线、赚快钱等“眼皮子浅”的缺陷。从产业政策实践来看，欧盟一直就很重视与私营部门的合作，以公共项目和宏观规划来撬动私营经济在资本运作、创新能力等方面的优势。比如，欧盟近年来提出《净零工业法案》《欧洲芯片法案》《关键原材料法案》等，都强调公共项目牵引、政府补贴跟进以及“政产学研”协调。同时，欧盟在半导体、可再生能源、电池等新兴领域发起“欧洲共同利益重要项目”（IPCEI），打造行业样板、培育产业支点，借此带动产业生态整体上的良性发展。#iPhone16亮相！果链概念股怎么走？# $建信新兴市场混合(QDII)A(OTCFUND|539002)$$建信新兴市场混合(QDII)C(OTCFUND|018147)$$建信纳斯达克100指数(QDII)人民币C(OTCFUND|012752)$

2. # 欧洲药品管理局（EMA）和药监机构首脑团体（HMA）于 9 月 9 日为其全体员工发布了在使用大语言模型（large language models，LLM）做出监管决策时应遵循的原则和建议。LLM 是一种生成式人工智能（AI），其应用程序可以显著支持药品监管机构的任务和流程。无论是用于查询监管机构日常收到的大量文件，自动化知识/数据挖掘过程，还是作为日常管理任务中的虚拟 AI 助手 - LLM 都具有巨大的变革潜力。但 LLM 也面临挑战，例如结果的可变性、返回不相关或不准确的回答（所谓的幻觉）以及潜在的数据安全性风险。欧盟指出，指导原则的目的是让欧盟监管机构的工作人员了解这些应用程序的能力和局限性，以便他们能够有效地利用 LLM 的潜力，同时避免缺陷和风险。指导原则包括使用 LLM 的一般伦理考量因素，来自多个参考来源，包括欧洲科学和新技术伦理小组（European Group on Ethics in science and new technologies，EGE）、高级专家组（High-Level Expert Group，HLEG）和学术界。伦理考量包括人的尊严、自主、法治、问责、保障、安全、透明度、非歧视、错误信息伤害和恶意使用等原则。EMA 表示，“个人数据的保护也值得特别关注。虽然文件重点介绍了 LLM 的使用，但 LLM 中个人数据处理可能会在其开发、实施和使用过程中发生，但不一定时显而易见的。”文件深入探讨了用户级别和组织级别的原则。在用户层面，EMA 指出利益相关者应确保数据负责任且安全地输入 LLM，不断学习如何有效使用 LLM，并咨询和报告 LLM 可能出现的问题。在组织层面，EMA 指出，应该有一些原则来定义如何安全和负责任地使用 LLM，通过提供适当的训练来最大化 LLM 的价值，并协作和分享经验。EMA 表示，“考虑到人工智能快速变化的性质，以网络形式分享经验是关键，因为这样可以减少不确定性，促进更快地共识，并作为监管知识管理工具，帮助监管机构投资和实验。”EMA 还指出，LLM 指导原则是 EMA 和 HMA 多年人工智能工作计划的一部分，该工作计划于 2023 年开始，预计于 2028 年结束。EMA 指出，指导原则将根据需要定期更新，并计划于 9 月 13 日举行网络研讨会介绍该指导原则。@天天基金网 @天天精华君 @天天话题君

3. #美国商务部周一表示，正在提议对高级人工智能开发商和云计算提供商提出详细的报告要求，以确保技术安全，并且能够抵御网络攻击。这项由美国商务部工业和安全局提出的提案将规定，“前沿 ”人工智能模型和计算集群的开发活动必须向美国联邦政府报告。该提案还将要求报告网络安全措施以及所谓的“红队”（red-teaming）工作结果，如测试危险能力，包括协助网络攻击的能力，或降低非专业人员开发化学、生物、放射性或核武器的进入门槛。

数据来源：万得，截至日期2024年9月10日

风险提示：部分个股讯息仅供参考，不作为任何投资建议或收益暗示。投资人应当认真阅读《基金合同》、《招募说明书》等基金法律文件，了解基金的风险收益特征，并根据自身的投资目的、投资期限、投资经验、资产状况等判断基金是否和投资人的风险承受能力相适应。基金的过往业绩并不预示其未来表现，基金管理人管理的其他基金的业绩并不构成基金业绩表现的保证。基金有风险，投资需谨慎。