来源：金融虎APP 作者：金泽
美东时间9月15日，创新工场CEO李开复与雅虎财经总编辑安迪塞威尔（Andy Serwer）在《影响者》对话中一起解释了人工智能的四大危险，并一起讨论了机器人技术的未来以及人工智能将如何在未来20年改变世界。李开复认为，在未来，人工智能将颠覆医疗保健，改善教育，几乎影响、颠覆或使所有可以想象的行业成为可能。
对话实录：
安迪塞尔沃：人工智能已经在重塑我们的生活，改变我们的驾驶方式，改变我们打仗的方式，甚至改变我们开发疫苗的方式。还有很多事情要做。几十年来，李开复一直是人工智能发展的中心，曾在苹果、微软和谷歌担任高管。他现在是中国风险投资公司创新工场的首席执行官，该公司管理着超过25亿美元的资产。他的新书《AI 2041——我们未来的十大愿景》帮助我们理解未来二十年这项技术的前景和危险。
李开复：它将颠覆医疗保健，改善教育，几乎影响、颠覆或使所有可以想象的行业成为可能。
人工智能未来20年或颠覆每一个可以想象的行业
安迪瑟维尔：在这期“影响者”节目中，开复和我一起谈论了机器人将取代的工作，人工智能在所谓的元宇宙计划中的作用，以及它对科技行业的赢家和输家意味着什么。
所以我想问你关于你的书的问题，这本书用小说来探索人工智能将如何改变社会，不是在遥远的未来，而是在未来的20年。你为什么要用小说？为什么有这么短的时间窗口？
李开复:因为人工智能是一项如此重要的技术，我认为每个人都应该试着去理解它。但是，对一些人来说，这听起来像火箭科学。这很难理解。
我想让它成为最容易接近的，甚至是最有趣的。所以我有一位合作作者，他是一位著名的科幻作家。他根据我关于未来20年内哪些技术将成熟的路线图撰写了这些故事。
安迪塞尔沃：那么人工智能在未来二十年的影响会有多大？具体的影响方式是什么？
李开复：这很有意义。20年其实是相当长的一段时间。想想20年前吧。如果我回到过去，用iPhone、应用程序、Netflix和Zoom向全世界展示我们今天所拥有的一切，那么这些在当时都不存在。这几乎就像科幻小说。
这就是——我认为，在未来，情况会发生更大的变化，因为人工智能正在获得许多方面的智能，能够与我们交谈，能够理解文本语言、图像和视频，自动驾驶车辆和机器人也能工作。它将颠覆医疗保健，改善教育，并在很大程度上影响、颠覆或使每一个可以想象的行业成为可能。所以变化很大。
安迪塞尔沃：是的，接下来我们将讨论一些可能更具体的例子。但首先，我要问你关于大流行的事。这是否影响了人工智能的发展轨迹？
李开复：我认为它稍微加快了人工智能的速度，部分原因是人们在家工作，工作量正在数字化。然后人工智能可以接管或改进部分工作。我们已经看到了这一点。
另一部分原因是社会距离，机器人技术正以更快的速度发展。例如，中国的新冠病毒检测是由机器人完成的。所以它比人快100倍。这种机器人也可以用于药物发现和类有机物的生长。这不仅仅是41年。这是2021年。所以这也是加速机器人技术。
安迪：开复，让我问你一个非常基本的问题。什么是人工智能？
李开复：人工智能通常被认为是对智能的研究，以及对执行只能用“智能”才能完成的任务的技术的使用。这是一般领域。在人工智能中，有一个称为机器学习的子领域，有时称为深度学习，这是机器学习的一个方面，它特别涉及开发软件技术，使用数据学习一些需要智能的任务。因此，这是一种数据驱动的方式，以提供智能的外观。目前人工智能、机器学习、深度学习有时可以互换使用。所以我想澄清一下。
安迪塞尔沃：例如，一台机器执行一项任务，然后从任务中学习并改进其功能。
李开复：是的，根据数据。需要注意的是，人类程序员并不是将所有逻辑都编程到人工智能中。人类程序员说去学这个。然后人工智能获取所有数据并从中学习。
它是从非常简单的例子开始的。就像Facebook监视你点击的内容、购买的内容和观看的内容一样，然后决定以你为目标的内容，这样你就能观看最多的内容并停留在Facebook上，一直到自动驾驶汽车监视道路，知道你想去哪里，规划路线，避免撞到行人，让你尽快到达那里，而且安全。所以我认为这就是人工智能今天可以做的范围。
安迪塞尔沃：当然，我喜欢的另一个是音乐流媒体服务，它可以了解你的品味，然后为你提供越来越多的选择，如果它奏效的话，会让你高兴，对吗？
李开复：所以它对你了解得越多越好。因此，如果一家音乐服务公司了解像你这样的其他人，知道你喜欢什么，你喜欢什么是由你经常听的内容表示的，但也包括你不听的内容和你听的内容，然后停下来。所以它在观察你的同时也在学习这些。
如果一个服务真的了解你的其他方面，那么它可以变得更加智能。书中的故事之一是一家保险公司开发的超级应用程序，该公司还开发了许多其他应用程序，如社交应用程序、约会应用程序、电子商务、优惠券。然后它收集关于某人的所有模式。它能很好地减少你的保险，改善你的健康。
但有趣的是，虽然它优化了所有这些对你有益的事情，但它也无意中做了一些坏事。在故事中，它干扰了主人公的爱情生活，因为据信她约会的那个人正在拖累她的社会地位和健康。这涉及到一个种族问题，这个故事发生在印度，那里的种姓制度已经基本消失。但当人工智能对你了解得太多时，它仍然可以发现一些遗留问题。
安迪塞尔沃：是的，所以你谈到了人们关心的那些负面后果。当然，他们也看到了机器人接管的电影。有一百万部这样的电影。但是，关注这些潜在后果有多现实呢？
李开复：是的，大多数人最关心的一件事不会发生。但人们还应该关注很多其他问题。机器人接管的反乌托邦场景假定人工智能具有自我意识、情感、欲望和意向性。而它却没有这些。
AI现在是一个巨大的优化器。人类说去优化这个。它获取所有数据并优化人类告诉它要优化的内容。
它没有任何欲望或信仰。如果你关闭程序，拔下电脑插头，它就不见了。因此，认为它有意图、欲望和不良动机的想法根本不是真的。而且可能不会被开发或可开发。
我们甚至不知道如何开发它。我们不知道人脑是如何工作的，也不知道为什么我们会有自我意识、欲望和情感。所以有一天会发生的。但在未来20年内，这种可能性肯定非常非常小。
安迪塞尔沃：所以，再次回到音乐的例子，这可能是非常平凡的。但这将否定偶然性，也就是我发现一些与我以前的听力模式完全无关的东西的可能性，而这些东西实际上可能是我想听的东西。例如，这是一个潜在的后果吗？
李开复：那是可能的。但也可能有更聪明的人工智能。因此，如果一个更高级别的人工智能知道你，作为一个人，喜欢“意外发现”，因为你真的喜欢读一些与你想要的不符的东西。这就可以推断出你可能想在音乐中做到这一点。
它可能会试图找到那可能是什么。我们所认为的意外可能实际上是可以预测的。所以我认为这可能是可以解决的，当然也不是人工智能最糟糕的结果。
人工智能潜在的四大危险：无人机最危险
安迪塞尔沃：肯定有一些潜在的严重问题。那可能是什么？
李开复：好的，书中有一套我们称之为外部性。当A.I.被告知要做某件事时，外部性就会发生，而它非常擅长做这件事，以至于忘记或实际上忽略了其他外部性或它可能造成的负面影响。因此，当YouTube不断向我们发送我们最有可能点击的视频时，它不仅没有考虑偶然性，它还潜在地向我发送可能影响我思维的非常负面或非常片面的观点。因此，这将是一种形式的外部性，对用户来说是无意的结果，因为它疯狂地试图优化其他东西。
另一个问题是个人数据，如果可能被泄露的话。另一个是偏见和公平。另一个问题是，A.I.能向我们解释一下它为什么做出这样的决定吗？对于像驾驶自动驾驶汽车、尝试一个问题、医疗决策手术这样的关键事情，它变得很严重。
李开复：举个例子，看看历史，化学武器和生物武器是如何被禁止的。可能会有一项全球条约得到执行。如果今天有无人机，最简单或最便宜的方法就是制造无人机，而不是机器人。机器人更昂贵、更笨拙、更难控制。
无人机是最危险的。因此，也许有一些更强大的空中法则，无人机可以部署在何处以及如何部署，也许有一些防御机制可以防止那里有很多人，或者有很多政府职能可以有防御功能，基本上可以在不允许的区域击落无人机。所以我不是这个领域的专家。但为了集思广益，以下是一些想法。我相信还有其他更好的主意。
安迪塞沃：你提到的其他一些问题听起来与美国大型社交媒体公司在隐私或无意中发出大量负面信号方面已经遇到的问题非常接近。所以我想问你关于大型科技公司的情况。人工智能会提供有意义的破坏途径吗？或者，这仅仅是大公司将参与并掌握的另一项发展？
李开复：我想很多领域都会有巨人在发展。我认为目前的互联网公司不会轻易地跨域移动。因此，如果不加以遏制，最有可能的结果是，互联网公司、社交媒体公司将在其领域变得越来越强大。而且反垄断可能会阻止他们跨过域名，以及其他棘手和不同的域名。
但最有可能的是，还会出现其他巨头——医疗保健业巨头、保险业巨头、交通和汽车业巨头、机器人制造业巨头。因此，我认为这确实是一股颠覆性力量，将使每个行业都有新的巨人出现。技术发展的自然过程就是让大公司建立平台，这些平台同时有益于行业的再生，但也很危险，因为他们拥有太多的权力，以及数据的力量，他们从用户那里收集数据。他们对个人了解很多。这些数据使他们的人工智能和技术比其他公司工作得更好，从而延长了垄断的寿命。所以这既是一件伟大的事情，也是一件危险的事情。
人工智能和元宇宙是如何连接的？
安迪塞沃：当你谈到跨域时，我觉得有点像元宇宙。我想知道人工智能和元宇宙是如何连接的，或者它们是否真的存在。
李开复:当然，我认为在元宇宙中，还会有其他生物。也会有做自己的人。但也会有其他生物、宠物、外星人、游戏和其他人。我认为如果有真实的人和虚拟的人的混合会更有趣。
所以我认为人工智能将是其中的一部分。然后在真正自然的元宇宙中，我们将使用我们的语言和肢体语言进行交谈。当然，人工智能可以提供理解这一点的能力。
在元宇宙中，有一个棘手的，也许有点可怕的问题，元宇宙的程序员，构建元宇宙的公司，真的会监听每一个对话，监视每一个人吗?一方面，这可以让体验变得非常兴奋，因为它可以看到什么让你快乐，并给你更多快乐。但在元宇宙中隐私的概念是什么呢?所以我认为将这两种技术结合在一起是非常令人兴奋的。
安迪塞尔沃：你最近说过，人工智能将破坏每一个可以想象的行业。为什么它的影响会如此普遍？你认为它真的会影响我们生活的方方面面吗？
李开复：因为这种仅仅通过观察数据就基本上传递人类智能的能力，以及你拥有的数据越多，人工智能就越强大的能力，这些特性使它无所不包。让我们以医疗保健为例。
AI可以把我们的数据看得更多，并认为它是为了使我们健康，帮助我们活得更长，并治疗我们的疾病。这些数据包括我们的家族史、健康记录、可穿戴设备、247的血压，以及我们所有的成像、放射学报告、基因测序多组分输出，当然还有血液测试。
因此，将所有这些结合起来输入人工智能，它可以在我们生病时做出更准确、更精确的诊断，同时也给我们健康提示，如何让我们更健康。举个例子，我正在使用一个人工智能长寿软件和一个解释输出的专业医生。我正在衡量我向你们提到的所有事情。
在过去的一年里，我的数据显示我现在比一年前年轻了六岁。所以它能给我的建议给了我很多关于我的生活方式以及营养和药物的建议。这仅仅是一个开始。
人工智能还将帮助人们以十分之一的成本发现更多的药物。罕见的疾病可以治愈。人工智能将能够帮助监测老年人，保持他们的健康，并观察他们是否跌倒或没有服药。所以我认为整个医疗行业都会发生变化。人们不仅寿命更长，而且更健康。这只是一个行业的一个例子。
人工智能未来20年将夺走更多的就业机会
安迪塞威尔：开复，我想问你一点关于经济影响的问题，因为你说人工智能将导致一个世界，在这个世界上，一些大亨将赚大钱，而工作岗位将被丢掉。为什么人工智能会加剧财富不平等？对此我们能做些什么？
李开复：是的，我们已经看到了所有的互联网公司。我认为如果没有人工智能，它们可能只值它们价值的一半，因为人工智能帮助它们实现了货币化。这将扩展到其他行业。所以大亨们，他们会更多。
他们会越来越富有。同时，因为人工智能正在开发人类智能的等价物，这意味着人工智能可以完成我们今天所做的许多任务和工作。特别是，人工智能将首先做常规的工作。
因此，像电话营销和客户服务这样的白领工作，以及那些复制、粘贴和归档费用报告的桌面工作，这些工作将首先消失，因为人工智能可以用软件来完成这些工作。你甚至不需要机器人。然后是蓝领工作，目视检查，装配线工作，许多服务员和女服务员，许多工作，工厂和仓库，亚马逊的扒手，杂货店的收银员，当然，在大约15年，20年后，所有的司机，所有以开车为生的人。所以，当你把所有这些加起来，这是一个相当数量的工作，同时使一小部分人超级富有，使许多人失业。这就是AI将加剧的财富不平等问题。
安迪塞威尔：听起来唯一剩下的工作将是编写和编写人工智能程序的人。我是说，我知道这有点夸张。但人工智能是否有可能成为职场杀手呢?或者它有可能成为一个网络工作岗位的创造者?
李开复：我认为最终它将像所有技术一样创造净就业机会。但我认为，未来20年，它将夺走更多的就业机会，而不是创造更多的就业机会。但随着时间的推移，它将创造许多就业机会。
想想互联网，对吗？它创造了许多我们认为不会创造的就业机会。20年前，我们谁也没想到优步司机会成为一个有趣的新职业。人工智能也会做类似的事情。
此外，还有许多事情人工智能在20年甚至更长的时间内无法完成。它不会有创造力。当我说它有人类水平的智能时，我指的是一个简单的程序，一次一个领域的事情，比如开车，比如接电话。它不具备我们所具备的一般分析和创新能力，人工智能也不具备任何自我意识、情感、同情心、移情或赢得他人信任的能力。
因此，也会有许多与人际关系和信任有关的服务性工作，例如，我认为将出现更多工作的医疗服务。所以最终，我想我们会找到答案的。将会有新的职业产生。将有更多创造性和服务水平的工作。但在一个充满挑战的时期，就业机会的破坏要大于就业机会的创造。
人工智能需要监管 中国人工智能崛起是事实
安迪塞威尔：有了所有这些变化和影响，一个巨大的问题是，政府在监管人工智能方面应该扮演什么角色？
李开复：哦，人工智能显然需要监管。人工智能公司和工程师如果不小心会出很多问题。例如，保护个人的个人数据。例如，确保不存在固有的偏见或不公平。需要开发新的方式来监管互联网公司和未来的大数据持有者。
这在全世界都在发生。我认为这可能是一些有待进一步发展的东西。首先，我认为这是对那些以非常糟糕的方式泄露个人数据的公司的一种非常严重的惩罚，比如未经用户同意将其出售给他人，比如Facebook Cambridge Analytica的情况。
我发现另一个非常有趣的想法是人工智能审计，因为在一些公司人工智能下打开引擎盖，看看公平性问题出了什么问题，既昂贵又具有挑战性。我认为我们可能会像看待财务审计一样看待人工智能审计。国税局只审核了一小部分人。但这对人们不逃税是一种强大的威慑。
因此，如果有一个类似的过程，当公司收到太多的投诉时，它会被审计。然后它需要在公平性和其他方面遵守。所以所有这些都必须解决。
我真的不认为目前的普遍看法是，大型互联网公司滥用数据，所以让我们把它分成几家公司，我认为这是暴力行为。这太19世纪了。我们不是在19世纪处理标准石油之类的老问题，也不是在20世纪处理AT&T。这东西需要更细的纹理。真正有助于推动公司与用户需求保持更大一致的东西，需要更微妙的方法，而不是用蛮力把公司分拆。
安迪塞威尔：有趣的是，你最近几年一直认为中国在人工智能的发展上领先于美国。你是否仍然认为中国在这方面是一个更好的创新之家?如果是这样，美国需要做些什么才能赶上?
李开复：是的，在我上一本书《人工智能超级大国》中，我谈到了中国人工智能的崛起，我认为这是事实。我想我并没有说中国正在从美国手中接管。每个国家都有在不同方面都很强大的公司。
例如，我认为中国公司正在推进机器人技术，因为中国在制造业方面很强大。在美国，人工智能公司正在推动企业人工智能的发展。像Palantir、C3.ai这样的公司正在世界领先。所以我认为两国都有很好的例子。两国的学术研究也相当活跃。
所以我的日常工作是风险投资。所以在过去的三年里，我们投资了很多机器人公司，这些公司为工厂制造机器人和智能技术，基本上从人们那里接管了一些工作，但降低了成本。我认为这是一个驱动因素，因为中国是世界工厂。自动化和机器人技术是降低制造成本的最佳途径。这是我的信仰，不仅在我的书中，而且在我的日常工作中。
安迪塞沃：开复，我想在这里稍微改变一下，问问你的情况，因为你的职业很有趣。例如，几十年前，你的研究是语音识别和自动语音技术发展的核心。你有没有想过这项技术会在这么短的时间内发展到今天？
李开复：是的，我在1988年写了博士论文。事实上，说实话，当时我认为到2000年，演讲肯定会变得普及。我是一个过于乐观的人，因为在实验室工作的东西实际上有很多脆弱性，这些脆弱性最终会随着投入市场并从用户那里得到反馈而得到修复。
但我想我们终于到达了那个时刻。这是我梦见AI起飞的时刻。它将把人类从日常工作中解放出来。它会有一定程度的智慧成为我们的伴侣。
它做了我们不想做的事情。这就是我所有梦想的实现。但老实说，比我想象的要晚，但很好。在我职业生涯的最后阶段，我仍然能够抓住它，但无论如何，我还是能够抓住它。
让复杂技术为每个人所用 李开复希望扮演一个小角色
安迪塞威尔：说到你的职业生涯，我的意思是，你在20世纪90年代和21世纪初在苹果、微软和谷歌工作，这很了不起。比如说，这些公司在技术创新方面有哪些不同之处？
李开复：是的，这是一个很好的问题。我从这三家公司学到了很多。我现在坚信，公司有自己的DNA。
他们需要用自己的DNA保持坚强，才能做到最好。而且很难转变成一种不可能的方式。例如，在苹果公司，我学到了如何将注意力集中在用户身上，创造出令人们惊叹的东西。
这是一把双刃剑。这就是我为什么要打造优秀产品的原因。这就是为什么它们很贵的原因。
在微软，我了解到一个庞大的团队可以一起工作，构建出一个难以置信的大型产品，比如Windows。实际上，由数万人组成的团队能够组织起来，构建相互关联的软件。开发这个巨大的单片软件的过程真是一个奇迹。我从微软学到了很多。
我认为谷歌更相信，由非常聪明的人组成的小团队可以超越大型组织，互联网改变了一切。这就是我在谷歌学到的，事实上，从谷歌地图、Gmail到谷歌大脑的小项目，以及一些人工智能的努力，都是少数几个人，他们可以做出巨大的改变，因为他们非常聪明。
它是一个非等级组织。人们都可以有很好的想法。这里的等级制度和官僚作风都很简单。所以我从每个人身上学到了很多。自从我离开后，每家公司都做了很多伟大的事情，但当他们专注于DNA的各个部分，这是他们的精髓和力量时，他们会继续尽最大努力。
安迪：最后一个问题，开复，你想留下什么遗产？
李开复：我希望大家记住我，我在让复杂技术为每个人所用方面扮演了一个小角色。
安迪塞尔沃：短小而甜美，但毫无疑问，这背后有很多深度。李开复，中国创新创业公司首席执行官。非常感谢您抽出时间。
李开复：谢谢。谢谢你邀请我。
本文作者可以追加内容哦 !
