从“通用”到“真正有用”,大模型应用价值正在释放!在C端,AI会议、AI绘图、AI音乐、AI PPT、AI视频等新兴应用层出不穷。在B端,大模型在智能客服、智能营销、知识问答等场景中的应用效果开始显现。

对于绝大多数AI开发者和中小型企业,模型本身的训练和迭代成本依旧高昂!据Sam Altman 透露,GPT-4 的训练成本超过1亿美元。伴随模型精细化,数据量和计算资源的成倍增加,训练成本还在水涨船高!

因此,API已成为开发者和企业使用大模型的重要途径。为了让开发者和企业便捷高效使用大模型讯飞星火持续打磨「内功」,API再次上新!

Spark Max模型和4.0 Ultra模型生成速度提升70%,逻辑推理、创作、联网搜索等能力实现突破,高效解决复杂任务。同时,Spark Max-32K序列模型全新上线,轻松应对长文本任务。

“顶配版”星火API

生成速度提升70%,效果更强

“更快、更高、更强”是奥林匹克精神,也是开发者对技术进步的追求!

依托源头技术积累,讯飞构建起完善的大模型API矩阵,覆盖通用大模型、多模态大模型与语音大模型。同时,构建起“角色模拟、PPT生成、星火知识库”等场景化能力,全面支持开发者与企业的个性化需求。

讯飞星火大模型产品矩阵

作为星火大模型API产品矩阵中的“顶配版”,Spark Max和4.0 Ultra模型生成速度提升70%,相比人眼20字/秒的阅读速度,达到46字符/s。效果方面,逻辑推理、创作能力、搜索能力等也进一步强化。

逻辑推理:推理速度和准确性提升

逻辑推理能力往往是衡量模型性能的重要标准,其决定了模型在求解数学题、完成复杂任务等方面上的能力。以下面的场景为例,新模型不仅给出准确答案,还有详细推理过程。

创作能力:文章书写更具逻辑和实用

内容创作是大模型的核心能力之一。新模型在故事类内容生成的效果有明显提升,生成有内容、有情节、且富有戏剧性的长篇故事。以小红书文案为例,大模型会根据小红书文案特点,自带丰富的emoji,以及#话题。

Function Call:指令命中准确率提升至90%以上

“今年重阳节是哪一天?”借助Function Call,大模型能够自主理解用户意图,调用日期插件查询,给出精准答案。新升级的模型,将指令命中准确率提升至90%以上。

搜索能力:支持在触发检索的情况下,返回检索信源

与传统搜索引擎相比,AI搜索可理解用户自然语言表达的意图,输出提炼后的答案,并且可有效减少大模型因“幻觉”产生的胡说八道。

Ultra4.0 在触发检索的情况下,将自动返回检索信源。针对单个问题,自动搜索多个信源,总结后给出完整答案,实现准确性大幅提升。

一方面是生成速度的提升,另一方面是是回答质量的优化。但Spark Max和Ultra 4.0模型的价格均保持不变,实现“加量不加价”,让利开发者。

Spark Max-32K序列模型上线

支持40000+汉字输入

在“顶配版”API效果增强的同时,Spark Max-32K序列模型也正式上线!

Spark Max-32K上线

随着大模型的发展,尤其面对法律、金融等行业常常需要处理大篇幅文本时,上下文长度支持8K的Spark Max无法满足用户需求Spark Max-32K序列模型正式上线,输入长度扩展为32k,相当于48000个中文汉字。

输入长度4倍的增长,极大地提升了模型处理大篇幅文本的能力,使得在进行复杂任务处理时,模型能够更加准确地理解与生成连贯性更强的内容,适用于有长文档阅读、私有知识问答等场景的开发者。

性价比+高性能+稳定服务

加速大模型落地应用 

让开发者轻松调用,降低使用门槛!讯飞星火构建了丰富的“新手指南、开发文档、交流社区”等资源。同时,在正式选用模型之前,星火调试中心支持相关能力效果的快速调试,通过可视化的参数调整快速生成专属应用场景的代码。

实际选用大模型过程,价格、性能、服务稳定性是企业和开发者考虑的重要因素。作为大模型的“头部玩家”,讯飞对此有着独特优势。

价格:Lite版本0成本用 1亿Tokens免费领

讯飞星火推出了永久免费Lite版本,让开发者可以0成本构建大模型产品!同时,4.0 Ultra首单买一赠一,Max版本可免费领取1亿Tokens极大降低开发者的试错成本。

性能:自主可控的通用底座,全面对标GPT-4 Turbo

作为人工智能“国家队”,讯飞基于25年深耕人工智能领域的技术储备,在大模型时代以自主可控通用底座和深耕场景的应用表现,稳居国内大模型头部梯队。

性能评测方面,讯飞星火V4.0七大核心能力全面升级,全面对标GPT-4 Turbo,并实现在文本生成、语言理解、知识问答、逻辑推理、数学能力等方面的整体超越。

服务稳定性:零故障SRE体系,7x24小时响应

讯飞开放平台携手百万开发者,共同成长14年!

一套全面且成熟的SRE(站点可靠性工程)体系扛过众多挑战。服务监控系统架构优化、基于云原生技术栈的观察分析工具链等,确保讯飞星火自发布以来,实现零故障运行。同时,来自大模型核心团队的技术专家,7x24小时全天候响应开发者服务需求。

尽管通用大模型具有巨大潜力,但面向垂直场景还需与领域知识相结合,尤其是某些特定行业需要通过业务数据进行精细化调优,以实现更佳性能!

帮助开发者快速构建专属的大模型,讯飞星火上线了大模型定制训练平台,提供星火系列、stable_diffusion、Llama-3-8B等数十种热门模型,通过轻量级的训练和丰富的训练方法,让大模型表现出特定的风格,完成更加复杂的任务。

追加内容

本文作者可以追加内容哦 !