端侧 AI 新洞察:重新定义“在本地发生”的 AI
9 月 3 日,元空智能与惠普在上海联合发布了主题为"AI,在本地发生"的发布会。元空智能创始人兼 CEO 逄大嵬在发布会上提出了一个颠覆性的观点:端侧 AI 不应仅仅是将大模型压缩后装入设备,而应是一个能创造生产力的新品类。
为什么端侧 AI 终于迎来了爆发窗口?
逄大嵬指出,过去端侧 AI 未能爆发的核心原因在于缺乏“生产力”。传统的理解往往止步于"AI 帮你写几句话、出个主意",但这无法解决企业面临的三大现实难题:
- 数据安全:敏感数据上传云端存在泄露风险。
- 成本压力:Token 费用随使用量增加,直接影响企业财报。
- 稳定性:长任务在云端易中断,无法保证持续输出。
逄大嵬认为,端侧 AI 的爆发需要三个条件同时成熟:模型能力、Agent 能力和芯片算力。目前,中等规模模型(20B-100B)的智能密度已大幅提升,Agent 的任务编排能力增强,且端侧算力(CPU/GPU/NPU)快速迭代,三者交汇使得端侧 AI 真正具备了“干活”的能力。
核心突破:构建“生产力方程式”
元空智能提出了一个核心方程式:生产力 = 端侧 AI = 模型 × Agent × 设备。
1. 模型:Boxer 端侧大模型
此次发布会首次公开了元空自研的端侧大模型 Boxer。不同于盲目追求超大模型或极小模型,Boxer 定位在 20B 至 100B 参数量 的区间。这一选择旨在平衡任务复杂度、模型规模与生产成本,确保模型在端侧设备上既能高效运行,又能具备处理复杂逻辑的“大脑”能力。
2. Agent:元空 AI Work Agent 与 AI 4Science Agent
元空智能推出了两大端侧智能体,分别面向工作与科研场景,展现了真正的“断网干活”能力:
- 元空 AI Work Agent:在完全断网环境下,该 Agent 能直接连接本地数据库,读取销售、库存、价格等数据,自动完成指标计算、商品诊断和渠道分析,并生成动态看板、经营分析报告及 PPT。这标志着 AI 从“辅助建议”进化为“直接执行”。
- AI 4Science Agent:专为科研场景设计,助力本地化科研数据处理。
3. 技术壁垒:Memory 持续认知系统
在 Agent 工程化方面,元空智能联合创始人大学姚佳雨博士介绍了其独特的 Memory 技术,为 Agent 打造了“持续认知系统”。这使得 Agent 具备长期记忆与上下文理解能力,能够跨越多次交互保持任务连贯性,解决了长任务执行中的状态丢失问题。
生态合作:标准化硬件交付
端侧 AI 落地的最后一公里在于标准化交付。元空智能与惠普达成战略合作,将 Boxer 模型和 Work Agent 预装于惠普 Z 系列商用 PC 及工作站中,实现“开机即用”。
- FDE 模式:惠普利用其覆盖全国的销售与服务体系,推动端侧 AI 进入企业真实生产环境,形成类似 FDE(Field Deployed Edge)的服务交付模式。
- 存量升级方案:企业无需全员更换新电脑,仅需接入惠普 ZGX Nano G1n AI 工作站,即可在现有 PC 上运行端侧 AI Agent 应用。
结语
逄大嵬强调,判断一家企业是否真正在做端侧 AI,需看三个指标:AI 能否真正干活、能否真正落地、能否规模化交付。元空智能与惠普的合作,正是将模型、Agent、设备、Memory 和服务打包成标准化产品,让端侧 AI 从概念走向产业,真正实现了数据不出本地的智能生产力。