推理算力芯片需求创新高叠加制裁可能加剧,看好国产算力,字节跳动用户活跃度成为全球第一题量!活跃度数据迅速上升,推动字节推理算力需求进一步增长包大模型的日均tokens调用量超过4万亿,自5月发布以来,整体增长超过33倍;多模态方面,截至9月份日均生成图片5000万张。经测算,仅考虑文字和文生图的情况下,推理峰值所需算力达96.68Eflops,转化为H20所需规模为65.33万张,预计实际所需峰值算力更高,同时我们认为到2025年随着字节在AI的进一步发力,豆包等大模型的应用会进一步对推理算力的需求提升。英伟达在国内或面临制裁,美国芯片或迎来更严苛制裁,国产算力份额有望快速提升#复盘记录#
追加内容
本文作者可以追加内容哦 !