人工智能时代,公共大模型和私有大模型并用的混合式人工智能正在为包括终端设备、基础设施以及解决方案和服务在内的整个行业创造丰富的增长机遇。
谈及AI时代的机遇和挑战,王茜莺提到,在人工智能时代,一方面,基础模型的性能得到显著增长,但是仍然具有局限性。她表示,大模型的参数在逐渐提升,比如Google Gemini1.5 Pro的上下文窗口比GPT-4大125倍。但另一方面,大模型在语义识别、技术稳定方面还存在不确定性。
另一方面,大模型加速多模态应用,但是缺乏物理定律理解并加剧安全挑战。比如OpenAI推出SORA,可以生成60秒一镜到底的视频, GPT-4o可以协同视频语音在多个场景应用。但是生成视频无法理解物理定律,同时,视频生成带来金融欺诈等安全问题。
大模型带来计算行业的蓬勃发展,但也带来持续的能源挑战。王茜莺表示,英伟达的市值一度达到全球第二。同时,以GPT-3为例,该模型有1750个参数,据估计,其训练过程使用了大约1287兆瓦时的电力,约合128.7万度电。“这相当于美国121个家庭一整年的用电量,相当于3000辆特斯拉电动汽车共同开跑,每辆车跑20万英里。ChatGPT响应一个请求平均耗电2.9瓦时,相当于将一个60瓦的灯泡点亮略少于三分钟,ChatGPT每天响应约2亿个需求,消耗超过50万度电力,相当于1.7万个美国家庭平均一天的用电量。



追加内容

本文作者可以追加内容哦 !