Kimi 发布 WorldVQA:首个聚焦原子级视觉世界知识的 MLLM 评测基准

ADK Kimi智能助手官方 / ADK编译 2026-02-13 4 分钟 48 次浏览
速览导读 / Summary

Kimi 团队正式发布 WorldVQA,这是一个旨在衡量多模态大语言模型(MLLMs)原子级视觉世界知识事实正确性的全新基准。该数据集包含 3500 个高质量图文对,覆盖自然、地理、文化等 9 大类,并严格区分长尾知识。评测显示,即便是顶尖模型在长尾知识上的准确率也常低于 50%,且普遍存在过度自信(Overconfidence)问题。Kimi-K2.5 在该基准上表现最佳,ECE 为 37.9%,Slope 为 0.550,但仍需大幅提升自我认知能力。

数据集规模 3,500 个图文对 经过多阶段人工验证的高质量数据
覆盖类别 9 大类 自然、地理、文化、体育等全方位知识
Kimi-K2.5 ECE 37.9% 预期校准误差,数值越低越准确
Kimi-K2.5 Slope 0.550 自信度与准确度的相关性,理想值为 1.0
长尾知识准确率 < 50% 顶尖模型在罕见知识上的表现瓶颈

Key Insights / 核心看点

  • 1 发布 WorldVQA 基准,首个聚焦原子级视觉世界知识事实正确性的评测标准。
  • 2 数据集包含 3500 个高质量图文对,覆盖 9 大类,严格区分常识与长尾知识。
  • 3 揭示顶尖模型普遍存在过度自信问题,长尾知识准确率常低于 50%。
  • 4 Kimi-K2.5 表现最佳(ECE 37.9%, Slope 0.550),但仍需提升自我认知能力。
  • 5 开源数据集与评估脚本,推动社区共建更可靠的多模态 AI。

Kimi 发布 WorldVQA:重塑多模态 AI 的“事实可靠性”标准

在视觉理解领域,多模态大语言模型(MLLMs)虽然展现了惊人的描述与推理能力,但其对视觉世界知识的“事实可靠性”却备受质疑。Kimi 团队近日正式推出了 WorldVQA,这是一个专门用于评估 MLLMs 原子级视觉世界知识事实正确性的全新基准。

核心挑战:区分“看见”与“幻觉”

WorldVQA 的核心设计初衷在于回答一个关键问题:模型是真正识别了它看到的特定实体,还是仅仅基于视觉模式进行了幻觉(Hallucination)?

评测结果令人警醒:即使是当前最先进的模型,在面对长尾视觉知识时,准确率也往往低于 50%。这一基准旨在推动多模态 AI 向更事实可靠、知识更渊博的方向发展。

数据集设计:严苛的“黄金标准”

WorldVQA 数据集由 3,500 个 高质量图像 - 问题对组成,经过多阶段人工验证,确保无噪音与歧义。其设计遵循三大核心原则:

  1. 事实性与无歧义性:每个问题都有单一、可验证的正确答案,排除主观或模糊场景。
  2. 丰富分类体系:覆盖 9 个 类别,确保世界知识广度的测试,包括:
    • 自然与环境(如:栗短翅鸫、扶桑花)
    • 地理与建筑(如:善化寺遗址、好望角)
    • 文化与工艺(如:《天鹅湖》、战国水晶杯)
    • 物体与产品(如:贝壳包、iPhone 17 Pro)
    • 交通与工艺(如:歼 -20 战斗机、防滚架)
    • 娱乐与媒体(如:《你的名字。》中的角色)
    • 品牌与标志(如:埃及航空)
    • 体育与场馆(如:上海体育场、跳马项目)
  3. 头尾分布分离:明确将数据分为 Head(常识) 和 Tail(长尾/罕见知识),以量化模型性能随知识隐蔽度增加而下降的趋势。

关键发现:过度自信是普遍顽疾

在对比模型自信度与实际准确性的实验中,团队采用了两个关键指标:

  • ECE (Expected Calibration Error):衡量主观自信与客观准确之间的平均差距,理想值为 0。
  • Slope (加权平均斜率):衡量准确率与自信度之间的相关性,理想值为 1.0。

分析显示,所有被评估的模型均表现出严重的过度自信(Overconfidence)趋势,预测集中在 90%-100% 的高置信区间。

尽管 Kimi-K2.5 在两项指标上均取得最佳成绩(ECE: 37.9%,Slope: 0.550),但距离理想的“诚实”与“对齐”仍有巨大差距。提升多模态模型的自我认知边界,是未来探索的关键方向。

开源社区共建

Kimi 团队已开源 WorldVQA 数据集及评估脚本,旨在帮助整个社区共同解决多模态模型在事实可靠性上的痛点,推动下一代 AI Agent 的进化。

“WorldVQA 是一个简单但极具挑战性的基准,它是下一代 AI Agent 进化所必须跨越的一步。” —— Kimi 团队

“WorldVQA is a simple but challenging benchmark for evaluating the atomic visual knowledge of frontier models. Improving performance on WorldVQA is a necessary step for the next generation of AI agents.”

— Kimi Team

同主题深度资讯

查看更多 →
AI 工具 2026-10-16

WonderCV 发布“超级职场攻略”:AI 驱动简历优化与全周期求职赋能

WonderCV(超级简历)于 2026 年 10 月 16 日重磅推出“超级职场攻略”系列,整合 AI 生成、专家点评与行业案例,构建从简历撰写到面试实战的全周期求职体系。通过 AI 简历生成、HR 视角的分数评估及大牛案例库,帮助求职者提升通过率,实现从“白开水”简历到“心动 Offer”的蜕变。

超级简历官方 / ADK编译 4 分钟
模型发布 2026-10-15

OpenAI 宣布 GPT-4o 系列 API 停服:迁移至 GPT-6 Luna 与迁移检查指南

OpenAI 正式宣布 GPT-4o 及 GPT-4.1 系列特定快照将于 2027 年 1 月 14 日停止服务,并推荐迁移至 GPT-6 Luna。开发者需立即盘点代码中的模型 ID,区分新旧截止日期,并通过自动化脚本验证替换后的行为兼容性。本文提供详细的迁移清单与代码检查示例,助开发者规避服务中断风险。

Atoms官方 / ADK编译 5 分钟
AI 工具 2026-10-15

Atoms 发布 Claude Motion:基于代码的动画生成与 MP4 导出功能详解

Atoms 平台正式推出 Claude Motion 的 Beta 版本,支持团队与企业用户创建基于代码的动画。该工具利用文本、图表和图像生成可编辑的 MP4 视频,强调内容准确性而非生成式视频。文章详细阐述了从组织权限配置、提示词编写到最终视频导出的完整工作流,并提供了针对内部演示文稿和定价说明的实战案例。

Atoms官方 / ADK编译 4 分钟
模型发布 2026-10-15

Gemini 3.7 Flash 正式弃用:迁移至 3.8 Flash 及 Deep Research 代理更新指南

Google 宣布 Gemini 3.7 Flash 模型已正式弃用,所有 API 请求自动重定向至 Gemini 3.8 Flash。开发者需显式更新配置,并同步处理 Deep Research 代理的迁移。本文详解参数变更(如 thinking_budget 替换为 thinking_level)、旧版参数废弃清单及自动化迁移检查脚本,确保应用平滑过渡至新架构。

Atoms官方 / ADK编译 5 分钟
chat · 免费+付费
★ 5.0 · 120评测
K

Kimi智能助手

月之暗面推出的AI智能助手

Kimi智能助手是北京月之暗面推出的AI智能助手,支持联网搜索能力,可实时获取最新信息结合搜索结果为用户提供准确且详细的回答。支持多种文件格式(如PDF、Word、Excel、PPT等),能帮助用户快速整理和提取关键信息。Kimi智能助手具备长文本处理能力,最高支持200万字的输入和输出,适合处理复杂的长篇内容。 k2.5:月之暗面开源的全新一代全能旗舰模型,具备顶尖的代码生成、视觉理解能力,支持自主 Agent 集群协作 k2:月之暗面Kimi推出的具备超强代码和 Agent 能力的 MoE 架构基础模型,发布即开源。 k1.5:月之暗面Kimi推出的多模态思考模型,具备强大的推理和多模态处理能力。 用户可以通过网页端、手机端APP或浏览器插件使用Kimi智能助手。具备Kimi探索版和Kimi+等特色功能,能满足用户在不同场景下的多样化需求。

查看 Kimi智能助手 使用教程与功能