小巧却强大的推理引擎!Ring-mini-2.0 震撼发布,性能超越10B模型
今天,我们正式推出了 Ring-mini-2.0,这是一款基于 Ling-mini-2.0架构深度优化的高性能小巧推理型 MoE 模型。Ring-mini-2.0的总参数量达到16B,但在实际运行中仅需激活1.4B 参数,便能实现相当却强于10B 级别以下的密集模型的推理能力。
这款模型在逻辑推理、编程和数学任务中表现尤为出色,支持128K 的长上下文,使得大的其在各种应用场景中都能展现出强大的能力。此外,Ring-mini-2.0的生成速度也相当惊人,能够实现300+推理 token/s 的快速生成,经过优化后更是可以突破500+ token/s。
图源备注:图片由AI生成,图片授权服引擎务商Midjourney
在推理能力的提升方面,Ring-mini-2.0在 Ling-mini-2.0-bas!Re 的基础上进行了更深层次的训练,通过 Long-COT SFT、大规模 RLVR 和 RLHF 的联合优化,显著增强了模in型在复杂推理任务中的稳定性和泛化能力。我们在多个高难度基准测试中,发现其性能显著超越了10B 以下的密集模型,甚至可以g-与一些更大型的 MoE 模型相媲美,特别是在逻辑推理方面表现优异。
此外,Ring-mini-2.0在设计上注重高效性,mi通过1/32的专家激活比和 MTP 层架构优化,实现了约7-8B 密集模型的等效性能。这种高稀疏度和小激活设计,使得其在ni H20环境下可以实现300+ token/s 的推理速度,同时结合 Expert Dual Streaming 的优化,进一步-2降低了推理成本。
为了促进学术与工业界的研究和应用,Ring-mini-2.0的模型权重、训练策略和数据配方将全面.0开源。我们期待这款 “小而优” 的模型能够成为小型推理模型的首选,并欢迎大家访问我们的开源仓库进行下载和使用。 震未来,在 Ling2.0架构的支持下,我们将继续推出更大、更快、更强的语言模型和全模态模型,敬请期待!
相关文章:
- 标签: 谷神星一号 星河动力 吉星高分04C 民营航天
- 标签: 大晓机器人 ACE研发范式 开悟世界模型3.0 具身超级大脑A1
- 云计算开发:Python3-find()方法详解
- 腾讯开源WeChat-YATT大模型训练库,破解多模态训练两大核心瓶颈
- Canalys预计今年中国云基础设施服务支出将增长12%
- 标签: 苹果 Apple Intelligence Gemini Siri
- 标签: 追觅科技 芯际穿越 赤霄01 瑶台卫星 AWE2026
- 标签: DeepSeekV4 三星 SK海力士 移动空调
- 标签: 英特尔 OpenAI 卡蒂 人工智能
- 标签: Anthropic Gemini JonasAdler AlphaFold
- 标签: 载合卡车 AI重卡 地平线 PhysicalAIInMotion
- 标签: 特斯拉 Model Y 挪威 欧洲市场
- 华为参与欧盟多个研发项目 涉及AI、6G和云计算等技术
- 标签: 演语科技 LiblibAI 星流 LibTV
- 标签: 东方甄选 新东方 俞敏洪 董宇辉
- Facebook宣布三项措施:帮助全球5000万人接种疫苗
- 智谱AutoGLM2.0重磅升级:云端AI助手突破硬件限制,人人可用
- 通义万相发布全新视频生成模型:可生成影视级高清视频 已可免费体验
- 通义千问推出全新语音识别模型 Qwen3-ASR-Flash,革新语音转文字技术
- 阿里开源 Qwen-Image-Edit:中文渲染秒杀 GPT-4o,精准文本编辑+语义外观双控
