在GTC演讲中,黄仁勋再度直言道,“在过去一年里,几乎全世界在这个问题上都犯了错误。AI的计算需求及其扩展定律实际上更具韧性,甚至呈现出超加速的趋势。由于代理型 AI(Agentic AI)和推理能力的发展,目前所需的计算量轻松达到了去年同期我们以为所需的100倍。”
对于这一论点,他给出了更详细的阐释。黄仁勋表示,具备推理能力的AI会对问题进行逐步拆解,并以各种不同方式得出最佳答案,而不是一次性地随意给出一个结果。模型变得更加复杂,生成的token数量显著增加了10倍。为了保证模型的响应速度、使其具备交互性,避免用户在等待思考的过程中失去耐心,计算速度也得提高10倍。“因此,最终所需的计算量轻松达到原来的100倍。”
追加内容
本文作者可以追加内容哦 !