Q*算法,牛,牛.牛。

百倍提升7B模型推理能力 昆仑万维携手新加坡南洋理工大学发布Q*算法

2024年06月25日 15:58 中国网科技

文章摘要。

近日，昆仑万维(31.790, 1.83, 6.11%)携手新加坡南洋理工大学成功开发了一个名为Q*的算法，能够显著提升现有大模型的推理能力。在GSM8K数据集上，Q*帮助Llama-2-7b提升至80.8%的准确率，超越了ChatGPT；在MATH数据集上，Q*帮助DeepSeek-Math-7b提升至55.4%的准确率，超越了Gemini Ultra；在MBPP数据集上，Q*帮助CodeQwen1.5-7b-Chat提升至77.0%的准确率，缩小了与GPT-4的编程水平差距。

Q*能够帮助小模型达到参数量比其大数十倍、甚至上百倍模型的推理能力，这一算法不仅大幅提升了小模型的性能，还显著降低了计算资源的需求，为人工智能的广泛应用带来了全新可能，开创了高效智能的新纪元。

......打破OpenAI封锁 提升现有模型能力......

不过迄今为止OpenAI没有公开关于Q*算法的具体细节，其效果究竟如何我们并不得而知。

昆仑万维自Q*项目曝光以来，一直密切关注Q*的动向，且在第一时间就成立研究小组尝试开发自己的Q*算法，希望打破OpenAI的封锁，提升现有开源模型的推理能力。经过数月的尝试，团队提出了一种新颖的Q*框架，并且帮助现有开源模型在GSM8K、MATH和MBPP数据集上，分别超越了ChatGPT和Gemini Ultra。......

实验结果表明，昆仑万维本次所提出的Q*框架，可以显著地提升LLM的推理能力，在GSM8K数据集上，Q*帮助Llama-2-7b提升至80.8%的准确率，超越了ChatGPT；在MATH数据集上，Q*帮助DeepSeek-Math-7b提升至55.4%的准确率，超越了Gemini Ultra; 在MBPP数据集上，Q*帮助CodeQwen1.5-7b-Chat提升至77.0%的准确率，缩小了与GPT-4的编程水平差距。......

研究证明，Q*能够帮助参数量仅为7b的小模型达到参数量比其大数十倍甚至百倍模型的推理能力，大幅提升模型的性能，并显著降低了计算资源的需求。目前，Q*的研究尚在初级阶段，算法在各个环节还有进一步的改进空间。未来，昆仑万维会继续深入此项研究，不断提升国产开源模型推理能力，打破OpenAI闭源封锁，为人工智能前沿技术发展带来全新可能。