【有本好书送给你】万维钢：如果AGI来了，人往哪里去？

重阳说

查理·芒格先生有一句广为流传的话：“我这一生当中，未曾见过不读书就智慧满满的人。没有。一个都没有。沃伦（巴菲特）的阅读量之大可能会让你感到吃惊。我和他一样。我的孩子们打趣我说，我就是一本长着两条腿的书。”

熟悉重阳的朋友们一定知道，阅读，一直是我们非常推崇的成长路径。

现在，我们希望和你一起，把阅读这件事坚持下去。

每一期专栏，我们依旧聊书，可能是书评、书单或者书摘。

每一期会有一个交流主题，希望你通过留言与我们互动。

我们精选优质好书，根据留言质量不定量送出。

世界莽莽，时间荒荒，阅读生出思考的力量，愿你感受到自己的思想有厚度且有方向，四通八达，尽情徜徉。

提示：本公众号所发布的内容仅供参考，不构成任何投资建议和销售要约。如您对重阳产品感兴趣，欢迎扫码咨询。

【好书】第238期：《拐点：站在AI颠覆世界的前夜》

万维钢 著

台海出版社&得到图书

推荐人  营销编辑大瑶

2024年4月

互动话题：结合这本书，如果AGI来了，人往哪里去？

留言时间：2024年4月18日-2024年4月25日

（鼓励原创，只要你的内容足够优秀，期期选中也有可能哦）

筛选及书籍寄送：2024年4月26日后

（选中会收到提交寄送地址的私聊，逾期未提交/信息不全视为放弃，参与期间尽量不要修改头像及昵称，以防错失良机）

     万维钢：如果AGI来了，人往哪里去？   

作者/万维钢  摘编台海出版社《拐点》 来源：得到app

你好，欢迎来到《得到精选》，我是李南南。 最近，万维钢老师的新书终于来了，书的名字叫做《拐点：站在AI颠覆世界的前夜》。听这本书的书名你就知道，它探讨的是，AI这个技术到底会让我们所生活的世界发生怎样的改变。关于这个问题，书里有很多具体的探讨。包括AI对不同行业的影响，以及AI技术的发展逻辑，等等。 但是，除了这些具体的讨论之外，万维钢老师还在这本书里勾画出了一个AI世界的终极图景。这个图景什么样呢？借用万维钢老师的话说，他说那将是一个普遍富裕的，并且法宝满天飞，崇尚创造和自由的，人人如龙的世界。 那为什么这么说呢？接下来就有请万维钢老师给你讲一讲。

  1、 

2024年1月，OpenAI公司的总裁布罗克曼在X上分享了一段经历[1]。布罗克曼的妻子5年前一脚踩空导致骨折，从此身上开始出现各种疼痛——先是偏头痛，又是慢性疲劳，接着是关节痛……他们看了很多医生，骨科、神经科、肠胃科、皮肤科都看遍了，也没有治好。最近遇到了一个专门治疗过敏症的医生，把她的所有症状汇总在一起综合考虑，才找到了病根。 我们关心的不是这个病，而是为什么这个诊断整整用了5年才等到。因为医院本质上是个「头痛医头、脚痛医脚」的系统。医生都是各管一科的专才，很难全面考虑患者的问题，他们接受的训练都是追求某个领域的深度，而牺牲了广度。 布罗克曼一家拥有最好的医疗条件尚且如此，那普通人岂不是更难吗？很多时候你到医院都不知道该看哪个科，而这个科的医生往往不知道，也不在乎你的病情不属于这个科的诊疗范畴。理想的治病应该搞一个会诊，把各科医生都请来给你一个人看，大家相互取舍，商量一个综合的治疗方案。可是那意味着，每个医生的工作量都得增加很多倍。 布罗克曼的论点是，AGI，也就是通用人工智能可以解决这个问题。我看这就是AGI最好的应用案例。AGI不需要在每个领域都*超过*最好的人类水平，它只要能*达到*最好的人类水平，就已经能做到像给每个病人都来个专家会诊这种现在我们根本做不了的事情了。 如果你觉得AI的智能还很有限，我要提醒你的是，人的智能本来就非常有限。GPT-4刚一出来就有人用它正确诊断了医生没诊断出来的病情。如果你去过边远地区的医院，你只会恨那里的医生没用上GPT。 有些业内人士认为，AI必须达到像爱因斯坦创造相对论那样的水平才能叫AGI，我认为不必如此。只要能普遍提供专家水平的智能，就已经可以深刻改变世界。 AGI意味着，你随时能请教高水平专家，你可以就任何问题发起一场会诊。AGI首先解决的是智能的规模化。 如果立即就能得到高质量答案，你会问更多的问题。你会不厌其烦地详细描述一个问题或者一个观点，然后迅速从ChatGPT的输出中找到有价值的点。这比跟真人对话都方便。你不但会更愿意问问题，也会更愿意思考。你会对疑问和灵感非常敏感，随时都能发生。你的思维会变敏锐。 就如同挠痒痒一样。 对学者来说，这意味着你有一个贴身的讨论伙伴。你可以对任何问题发起调研，对任何观点寻求反馈。这个持续的「表达-反馈」过程能大大强化你的思考，有研究表明，一对一的、相互信任的讨论效果是最好的[2]。如果爱因斯坦在世，他一定很爱和AI聊天。 而对老百姓来说，这意味着你有个忠诚的军师。我在微博经常看到人们会说一些很愚蠢的话。我经常想，如果这帮人发帖之前先问问ChatGPT这话该不该说，说出来对自己的形象有好的影响还是坏的影响，他们的发言质量会高很多。那我们能不能再进一步，在生活中的一言一行都先参考一下AI的意见呢？能不能不用你问，AI自动就会跟你说话呢？ 结果是，你办错事儿、说错话的次数大大减少了。每个人都变得更好。科技会把人人都变成君子——而且是中国春秋时代，孔子那个意义上的君子。 要知道，古代的「君子」「小人」是身份标签，而不是道德标签，有贵族血统、有权力、有地位、从事文化活动的叫君子，从事低端体力劳动的叫小人。是孔子主张了君子的道德责任，中国社会才把「君子」「小人」作为道德评价标准。道德和身份很多时候是矛盾的。这位兄弟有修养、讲情怀，志趣高雅，可是没考上研究生，现在是个服务员，每天就盼着能多收点小费，这是君子吗？ AI可以让每个人都踏踏实实做真正的君子，因为AI将接管一切小人的工作。现在大模型的一个热点应用是「agent」，也就是「代理人」，它能代表你相当自主地去调用工具、执行任务和安排事情。当然大权必须掌握在你手里，但是你可以把跟自己相关的各种信息都告诉AI代理，把所有不重要的事情都交给它去做，而它不必事事请示你。从哪家店买什么菜，哪天理发，孩子生日送什么礼物，家里有东西坏了找谁来维修，甚至工资到账后怎么安排，这些最好都不要问我，反正我这个人、我的日程表和账户就在这里，AI代理看着办吧！ 甚至有人想象了这么一个场景。比如，你要找对象相亲。有了AI代理，你既不需要填表说明自己是个什么人，也不必上网站一个个找人。你可以让你的AI代理去相亲社区跟其他人的AI代理对话交流。你也不需要设定什么相貌、学历、收入之类的硬指标，你的AI代理会帮助你综合判断。代理之间的交流会非常充分且迅速。你的代理可以同时跟很多个代理聊天，它1个小时就谈了10000个代理，并且帮你选定了一个人——当然，谈的结果是这个人的代理也选定了你。然后你俩再亲自出面。想想，你在这种情况下出场，是一种什么样的仪式感。 但我们再想想，何必非得是相亲呢？任何两个人的交流都可以先交给代理。这意味着我们在社会上接触任何人都会是一见如故。代理的普及会把整个世界变成一个熟人社会。那么人的信誉和声望就会无比重要。 如果奥特曼主张的「全民基本收入」能够实现，你不就可以像大清的八旗子弟那样领一份铁杆庄稼，专门研究精神生活吗？如果你能从各种日常琐事中抽身出来，不就可以思考哲学吗？如果你衣食无忧还爱琢磨哲学，你的一言一行都处在AI驱动的社会评价体系之中，你必然会讲道德讲礼仪，你不就是君子吗？ 何其幸运，我们这一代人正处在通往那个世界的拐点上。

  2、 

我认为，世界很快会有一个决定性的改变。

我们的生活、生产、社会行为和地缘政治将会全面升级。山姆·奥特曼在2024年年初表示，打算筹集7万亿美元去实现他用AGI改变世界的梦想——要知道，2023年美国GDP才27万亿美元。考虑到拐点的大尺度，这个数字似乎不算太离谱。 拐点肯定是拐点，没有悬念。 但你也不能说未来已经完全确定了。很多事情我们还来不及看清楚，或者至少没有被所有人看清楚。以我们眼光所及，当前有三大悬念，是人们争论的焦点。 第一个悬念是，大语言模型究竟有没有智能。 GPT到底是真聪明，是真实世界的投影，还是仅仅是个只会背诵统计结果的学舌鹦鹉？这个问题，我在《拐点》这本书里会反复讨论。 第二个悬念是，到底应不应该限制AI的发展。 《拐点》这本书里也有讨论，但现在的局面是，争论双方已经到了势同水火的地步。 第三个悬念是，除了大语言模型，还有没有别的实现AGI的路线？ 的确有人在尝试其他路线。也是在2024年，澳大利亚西悉尼大学即将上线一台叫做「深南」的「神经态超级计算机（neuromorphic supercomputer）」[3]。它跟传统计算机的架构完全不同，它不分CPU和内存，更没有GPU，它的计算和存储是一起进行的，因为它是在模拟人脑突触的计算机制。 我不知道深南这个路线是否能通往AGI，但是这绝对是我们应该尝试的路线。大模型最大的难点就是对算力要求太高，动不动就需要上万张GPU，耗电量更是惊人——可是人脑的能耗才多少？一个真·像人脑的AGI难道不应该是省电的吗？而神经态计算机从设计上就是省电的，据说耗电量只有传统计算机的10%，我们拭目以待。 算力终可数，智能总无穷。 你体会一下这个AGI将到未到，大风刚起，暴风还在后面的感觉。这就是身处拐点的感觉。

  3、何为领导力？ 

而拐点已经到来。套用丘吉尔发明的一个句式，AI带给我们的不但不是人类文明的结束，而且不是结束的开始……如果你把工业革命至今这几百年都算做文明的开始，那么我们正在经历的AI革命，可以说是开始的结束。我们正在迎来文明的繁荣丰盛阶段，它的特点是高级智能——包括AGI的智能和人的智能，处处大显身手。 那将是一个普遍富裕的，法宝满天飞的，崇尚创造和自由的，特别把人当「人」的，人人如龙的世界。 [1] Greg Brockman' tweet, Jan 8, 2024, https://twitter.com/gdb/status/1744446603962765669 [2] Yanai, I., Lercher, M.J. It takes two to think. Nat Biotechnol 42, 18–19 (2024). [3] Novella, Steven. "Deep South – A Neuromorphic Supercomputer." NeuroLogica Blog, 14 December 2023; Woodford, James. "Supercomputer that simulates entire human brain will switch on in 2024." New Scientist, 12 December 2023.

内容简介

ChatGPT和大语言模型，引领我们进入了AI新纪元。但是，人类应该如何应对？我们个人又要怎么做才能在这波AI大潮里不落后、不掉队，甚至成为驾驭AI的少数人呢？

对于AI，你关心的种种问题，都能在书里找到启发： ·我们该怎么理解这个AI大时代的哲学?AI 作为一个新的智慧形态，它的能力边界、它的底牌和命门，究竟是什么? ·大语言模型的智能为什么是出乎意料的?它的原理对我们有什么启示? ·当AI渗透进经济活动，会如何提升生产力?路径和逻辑又是什么? ·当AI干预了道德，甚至法律，我们的社会将会变成什么样子? ·AI还在以更快的速度迭代，面对这个局面，教育应该怎么办?公司应该怎么办?人应该怎么办? ·如果 AGI 和超级人工智能也有了人的意识和情绪，人应该放弃这些能力和价值吗?

作者简介

万维钢

前物理学家，现科学作家，“中国好书”“文津图书奖”得主。

1999年毕业于中国科学技术大学，2005年获得美国科罗拉多大学物理学博士学位，曾长期从事核聚变等离子体物理研究，现居美国，专职从事写作；他主张以科学精神钻研社会现象，擅长让高端的道理落地，乐于激发读者思考。

著有畅销书《万万没想到》《智识分子》《高手》《你有你的计划，世界另有计划》《学习究竟是什么》《相对论究竟是什么》《博弈论究竟是什么》《量子力学究竟是什么》《科学思考者》等。

他在得到App开设的专栏《精英日课》，已经成为得到的“镇校之宝”，连续4季有10w+用户追更。

往期回顾

第237期：诺奖得主丹尼尔·卡尼曼去世，重温《思考，快与慢》

第236期：基辛格：改变历史的伟大领导者，有哪些特质？

第235期：稻盛和夫：经营者必须要懂哲学

- The End -