MMMU-Pro vision
College-level exam questions where the whole question and its options are shown inside the image.
评估集信息
- 所属套件
- Decision Index Vision
- 分组
- 多模态决策（图像输入）
- 决策类型
- 图像 + 文本决策
- 主指标
- accuracy
- 优化方向
- 越高越好
- 参评模型
- 20 个
- 最佳分
- 40.7
- 平均分
- 22.3
- 基准权重
- 0.25
- 上游数据集
- MMMU-Pro vision
- 数据许可证
- 见上游原始数据集
这个评估集测什么
The model has to read and reason from the image alone.
Ten options inside the image; a quarter weight in the index.
示例：A photographed exam page asks which of ten options explains the graph.
在该评估集上的模型成绩（20 个）
| # | 模型 | 得分 | 对比 | 其他指标 | 模态 | 官方链接 |
|---|---|---|---|---|---|---|
| 1 | Xor 1.2 / Xor 26B-A4B
Juspay Technologies · Decision Index · Vision |
40.7 | public | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 2 | JEV-27B-VL
未标注 · Decision Index · Vision |
40.1 | public | 图像 | 排行榜 ↗ Decision Index Vision 子榜 ↗ | |
| 3 | JPT-9B
社区 · Decision Index · Vision |
34.3 | public | 图像 | HF · 9B ↗ Hugging Face 权重 ↗ | |
| 4 | Surogate Rune 26B-A4B v3
Surogate · Decision Index · Vision |
30.7 | public | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 5 | Winnow 12B
EldanRing · Decision Index · Vision |
30.6 | public | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 6 | Intern-Decision-4B
Intern Large Model · Decision Index · Vision |
29.3 | public | 图像 | Hugging Face 权重 ↗ 代码仓库 ↗ | |
| 7 | JPT-4B
社区 · Decision Index · Vision |
29.0 | public | 图像 | HF · 9B ↗ Hugging Face 权重 ↗ | |
| 8 | Perplexity Decider v1.1 (27B)
Perplexity · Decision Index · Vision |
28.0 | public | 图像 | Hugging Face 权重 ↗ 官方文档 ↗ | |
| 9 | djev (26B-A4B)
· Decision Index · Vision |
27.3 | public | 图像 | Hugging Face 权重 ↗ Decision Index Vision 子榜 ↗ | |
| 10 | razorback16 diffgemma
· Decision Index · Vision |
24.5 | public | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 11 | NeoHorse Jev 4B
TokenRhythm · Decision Index · Vision |
23.8 | public | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 12 | RSI-Jev v5.0 VL 3B
社区 · Decision Index · Vision |
23.4 | public | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 13 | Jev-Omni (12B)
社区 · Decision Index · Vision |
19.1 | public | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 14 | Intern-Decision-2B
Intern Large Model · Decision Index · Vision |
17.2 | public | 图像 | Hugging Face 权重 ↗ 代码仓库 ↗ | |
| 15 | Winnow-E4B
EldanRing · Decision Index · Vision |
14.0 | public | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 16 | mmastrac diffgemma
· Decision Index · Vision |
12.1 | public | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 17 | JPT-0.8B
社区 · Decision Index · Vision |
8.6 | public | 图像 | HF · 9B ↗ Hugging Face 权重 ↗ | |
| 18 | Intern-Decision-0.8B
Intern Large Model · Decision Index · Vision |
8.2 | public | 图像 | Hugging Face 权重 ↗ 代码仓库 ↗ | |
| 19 | OneJev 0.8B
OmniJev · Decision Index · Vision |
8.1 | public | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 20 | Solomon v1.1 (27B)
Doccy Health · Decision Index · Vision |
-2.6 | public | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ |