英博云 AI 算力:NeurIPS 2025 录用 MoE 模型高效剪枝研究,EASY-EP 框架实现 2.99 倍推理加速

ADK 英博云AI算力官方 / ADK编译 2025-09-28 4 分钟 161 次浏览
速览导读 / Summary

英博数科与中国人民大学、贸大研究团队联合成果被 NeurIPS 2025 录用,提出基于少量示例的领域特定剪枝方法 EASY-EP。该研究解决了大规模混合专家模型(MoE)部署中的显存瓶颈,通过智能专家定位与裁剪,在保留 50% 专家规模的同时实现最高 2.99 倍的推理吞吐提升,并显著降低计算量。

推理吞吐提升 2.99x 相比原始模型,在特定场景下实现的最大吞吐量增益
专家保留率 50% 在维持性能的前提下,模型可裁剪的专家比例
会议录用 NeurIPS 2025 人工智能领域顶级会议正式录用

Key Insights / 核心看点

  • 1 提出 EASY-EP 框架,通过少量示例实现大规模 MoE 模型的领域特定剪枝。
  • 2 在保留 50% 专家规模的同时,实现最高 2.99 倍的推理吞吐提升。
  • 3 发现并验证了‘无需路由至已剪枝专家’的新策略,进一步降低计算量。
  • 4 英博数科与高校联合攻关,为 MoE 模型的企业级落地提供全新路径。

英博云 AI 算力:NeurIPS 2025 录用 MoE 模型高效剪枝研究,EASY-EP 框架实现 2.99 倍推理加速

近日,人工智能领域顶级会议 NeurIPS 2025 正式录用了一项由英博数科(Yingbo Cloud)与中国人民大学、对外经济贸易大学研究团队联合开展的突破性研究成果。该研究聚焦于解决当前超大规模混合专家模型(Mixture of Experts, MoE)在落地部署时面临的显存占用高、推理效率低等核心瓶颈,并提出了名为 EASY-EP 的高效专家裁剪框架。

研究背景:MoE 模型的部署困境

随着 DeepSeek-R1(671B)等超大规模 MoE 模型的涌现,行业面临着严峻的资源挑战。MoE 模型通过动态激活部分专家子集来实现性能与效率的平衡,但在实际推理场景中,加载所有潜在专家往往需要巨大的显存带宽和计算资源,成为限制模型规模化应用的主要瓶颈。

核心突破:EASY-EP 框架与领域特定剪枝

本次研究的核心贡献在于首次系统揭示了 少量示例专家定位(Few-Shot Expert Localization) 现象。研究发现,仅需少量的领域特定示例,模型即可稳定地激活一小部分稀疏的专家子集,从而精准识别冗余专家。

基于此发现,团队提出了 EASY-EP 框架,其关键特性包括:

  1. 极致轻量化:在保留模型一半专家规模的情况下,仍能维持完整模型的性能表现。
  2. 显著性能提升:推理吞吐量最高提升 2.99 倍,大幅降低延迟。
  3. 计算量优化:针对原本需要路由至已剪枝专家的 Token,研究提出不再进行路由的新策略,进一步降低了计算开销,同时基本保持模型性能。

该研究不仅补充了此前 arXiv 版本中的新发现,更为 EASY-EP 方法在企业级场景的落地应用提供了坚实的理论支撑与验证。

产学研协同与未来展望

此次合作体现了英博数科在“技术 + 算力”双轮驱动模式下的深厚积累。英博数科为实验验证提供了全程算力支持,而高校团队则贡献了前沿算法创新。未来,团队计划进一步探索面向企业级场景的模型裁剪与推理加速方案,推动大模型技术的高效商业化落地。

此外,英博云近期还推出了针对 GenAI 开发者的算力福利活动,包括 4090 显卡低至 0.88 元/卡时、A800 低至 4.92 元/卡时等优惠,旨在降低开发者门槛,加速 AI 应用创新。

论文与开源资源


注:NeurIPS 2025 将于 2025 年 12 月在美国圣地亚哥和墨西哥城同步举行。

“此次研究展示了在大规模 MoE 模型中,结合现象发现与高效剪枝策略所带来的新机遇。未来,团队将进一步探索面向企业级场景的模型裁剪与推理加速方案,推动大模型技术的高效落地。”

— 英博数科与高校联合研究团队

同主题深度资讯

查看更多 →
模型发布 2026-10-15

OpenAI 宣布 GPT-4o 系列 API 停服:迁移至 GPT-6 Luna 与迁移检查指南

OpenAI 正式宣布 GPT-4o 及 GPT-4.1 系列特定快照将于 2027 年 1 月 14 日停止服务,并推荐迁移至 GPT-6 Luna。开发者需立即盘点代码中的模型 ID,区分新旧截止日期,并通过自动化脚本验证替换后的行为兼容性。本文提供详细的迁移清单与代码检查示例,助开发者规避服务中断风险。

Atoms官方 / ADK编译 5 分钟
模型发布 2026-10-15

Gemini 3.7 Flash 正式弃用:迁移至 3.8 Flash 及 Deep Research 代理更新指南

Google 宣布 Gemini 3.7 Flash 模型已正式弃用,所有 API 请求自动重定向至 Gemini 3.8 Flash。开发者需显式更新配置,并同步处理 Deep Research 代理的迁移。本文详解参数变更(如 thinking_budget 替换为 thinking_level)、旧版参数废弃清单及自动化迁移检查脚本,确保应用平滑过渡至新架构。

Atoms官方 / ADK编译 5 分钟
AI 工具 2026-10-15

Atoms 发布 CSV 文件智能比对工具:基于唯一键的增量变更报告

Atoms 工具团队发布新功能,旨在解决数据快照比对中的核心痛点。该工具通过基于唯一标识符(Key)的匹配机制,生成可复现的变更报告,精准识别新增、删除、修改及未变数据。它强调本地化运行、架构解耦以及严格的输入验证,确保在列顺序重组或 Schema 微调场景下,开发者仍能获得准确的数据差异分析,避免误判数据丢失或变更。

Atoms官方 / ADK编译 4 分钟
AI 工具 2026-10-15

Atoms 发布多页扫描 PDF 表格提取新指南:从 OCR 识别到 Power Query 清洗的全流程解析

Atoms 官方发布深度指南,详解如何将多页扫描版 PDF 中的表格精准提取至 Excel。文章涵盖从判断文档类型(文本层 vs 图像层)到选择 OCR 策略、处理跨页表格结构、以及利用 Power Query 进行数据归一化的完整工作流。重点解决了扫描文件识别、跨页列对齐、重复行处理及数据溯源等核心痛点,为处理复杂非结构化文档提供了标准化技术路径。

Atoms官方 / ADK编译 5 分钟
code · 付费
★ 5.0 · 120评测
è

英博云AI算力

英博数科推出的GPU智算服务云平台

英博云AI算力是英博数科推出的专注于GPU智算服务的云平台,主要面向高校、企业和科研机构,提供高效、多样化的GPU算力解决方案。采用K8S Native架构,具备裸金属级控制权和SaaS级易用性,无缝对接K8S生态。通过自研的动态隔离控制平面(DICP),英博云为每个用户提供了独立的API Server和CRD空间,确保安全与隔离。 英博云系列智能算力产品与服务,涵盖智算中心建设运维、GPU容器服务、先进算力实验室和产业孵化器四大板块。其中,英博云 GPU 容器服务(Ebcloud Kubernetes Service,EKS) 是面向企业级应用的全托管 Kubernetes 容器管理服务。通过EKS,用户无需购买节点即可部署工作负载,GPU 容器服务还扩展支持了并行文件存储、块存储等产品,助力用户快速构建容器化应用。

查看 英博云AI算力 使用教程与功能