伊利亚———人工智能发展的长期方向

$人工智能(BK0800)$  

OPENAI首席科学家、联合创始人伊利亚，刚刚他的一个公开演讲说了一个非常激进的观点人工智能预训练时代即将终结。

接下来是智能体时的到来。什么是预训练，当人工智能上的做法就是让AI在海量数据里面打基础，相当于读完了全世界的书，然后再微调，甚至可以有超越人类的能力，那整个过程那就叫预训练。GPU的算力还在呈指数级别的增长，但是数据不会。因为人类只有一个文明，一个互联网。AI靠从互联网上“吃饱喝足”的做法，已经走到了极限。“学习的速度太快，数据枯竭了”。发展在发展，即使产生新的数据也是太慢了，根本赶不上AI的进化速度。相反AI需要更聪明的学习方法，需要更多样化的数据来源，自己创造训练材料，也就是自我合成数据（这就是一种新的扩展AI的方式）。那么AI自我合成数据自我训练会发生什么？解锁了AI新的能力，就是【智能体】会到来…推理是不可预测的…AI也是不可预测的，包括自我意识，为什么不呢？…耶利亚用一个通俗的比喻：非人类灵长动物都在大致沿着一条倾斜的直线分布。他们的体重和大脑是沿着某种特定规律增长的，但是人类包括类人族群的直线斜率突然变了，我们在更小的身体上进化出了更长的大脑，明显于与其他哺乳类动物的标准线，也就是说人类并没有乖乖的排队。而是在某一个“奇点”站在那另一条轨迹上。他在暗示我们今天对于人工智能的进展，还是在第一阶段，就算力和数据正在按照一定的规律增长，经常就像大多数的哺乳类动物一样，大脑按部就班随着体重增长。AI可能正在孕酿一场像人类一样的非线性突破，就是站在另一条超越想象的轨迹，但是以上所有的观点必须要有一个前提，那就是要允许自己相信，人工智能神经网络和大脑神经元，在工作原理上，他有足够的相似性，没有这样的想象力和包容性，那么今天可能就是人工智能发展的尽头。

超级系统（AI）不是被动的等待指令，而是主动的采取行动，他们会有自己的目标，自己的目的，甚至重新定义自己，他们会自主的寻找机会，数据、工具、信息。实现哪些自定的目标，甚至重新审视及定义与人的关系。