CharXiv
Reasoning over charts from scientific papers: read values, compare trends and find the right series.
评估集信息
- 所属套件
- Decision Index Vision
- 分组
- 多模态决策（图像输入）
- 决策类型
- 图像 + 文本决策
- 主指标
- accuracy
- 优化方向
- 越高越好
- 参评模型
- 20 个
- 最佳分
- 79.7
- 平均分
- 48.5
- 基准权重
- 1
- 上游数据集
- CharXiv
- 数据许可证
- 见上游原始数据集
这个评估集测什么
Decisions often hinge on reading a chart correctly.
Reasoning questions converted to 4-way multiple choice with distractors from the same figure.
示例：In this plot, which method has the highest score at the largest dataset size?
在该评估集上的模型成绩（40 个）
| # | 模型 | 得分 | 对比 | 其他指标 | 模态 | 官方链接 |
|---|---|---|---|---|---|---|
| 1 | JEV-27B-VL
未标注 · Decision Index · Vision |
79.7 | public | 图像 | 排行榜 ↗ Decision Index Vision 子榜 ↗ | |
| 2 | Perplexity Decider v1.1 (27B)
Perplexity · Decision Index · Vision |
77.2 | public | 图像 | Hugging Face 权重 ↗ 官方文档 ↗ | |
| 3 | Solomon v1.1 (27B)
Doccy Health · Decision Index · Vision |
74.9 | public | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 4 | Surogate Rune 26B-A4B v3
Surogate · Decision Index · Vision |
73.4 | public | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 5 | Xor 1.2 / Xor 26B-A4B
Juspay Technologies · Decision Index · Vision |
71.2 | public | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 6 | JPT-4B
社区 · Decision Index · Vision |
69.7 | public | 图像 | HF · 9B ↗ Hugging Face 权重 ↗ | |
| 7 | JPT-9B
社区 · Decision Index · Vision |
69.2 | public | 图像 | HF · 9B ↗ Hugging Face 权重 ↗ | |
| 8 | Winnow 12B
EldanRing · Decision Index · Vision |
67.4 | public | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 9 | RSI-Jev v5.0 VL 3B
社区 · Decision Index · Vision |
66.7 | public | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 10 | JEV-27B-VL
未标注 · Decision Index · Vision |
66.1 | private | 图像 | 排行榜 ↗ Decision Index Vision 子榜 ↗ | |
| 11 | NeoHorse Jev 4B
TokenRhythm · Decision Index · Vision |
64.2 | public | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 12 | Solomon v1.1 (27B)
Doccy Health · Decision Index · Vision |
63.2 | private | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 13 | Jev-Omni (12B)
社区 · Decision Index · Vision |
62.9 | public | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 14 | Winnow 12B
EldanRing · Decision Index · Vision |
60.4 | private | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 15 | Intern-Decision-2B
Intern Large Model · Decision Index · Vision |
58.1 | public | 图像 | Hugging Face 权重 ↗ 代码仓库 ↗ | |
| 16 | Intern-Decision-4B
Intern Large Model · Decision Index · Vision |
57.1 | public | 图像 | Hugging Face 权重 ↗ 代码仓库 ↗ | |
| 17 | Perplexity Decider v1.1 (27B)
Perplexity · Decision Index · Vision |
56.6 | private | 图像 | Hugging Face 权重 ↗ 官方文档 ↗ | |
| 18 | Xor 1.2 / Xor 26B-A4B
Juspay Technologies · Decision Index · Vision |
54.8 | private | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 19 | Surogate Rune 26B-A4B v3
Surogate · Decision Index · Vision |
52.9 | private | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 20 | OneJev 0.8B
OmniJev · Decision Index · Vision |
52.1 | public | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 21 | JPT-0.8B
社区 · Decision Index · Vision |
52.1 | public | 图像 | HF · 9B ↗ Hugging Face 权重 ↗ | |
| 22 | Intern-Decision-0.8B
Intern Large Model · Decision Index · Vision |
48.4 | public | 图像 | Hugging Face 权重 ↗ 代码仓库 ↗ | |
| 23 | JPT-9B
社区 · Decision Index · Vision |
45.3 | private | 图像 | HF · 9B ↗ Hugging Face 权重 ↗ | |
| 24 | JPT-4B
社区 · Decision Index · Vision |
45.3 | private | 图像 | HF · 9B ↗ Hugging Face 权重 ↗ | |
| 25 | Winnow-E4B
EldanRing · Decision Index · Vision |
43.4 | public | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 26 | Intern-Decision-4B
Intern Large Model · Decision Index · Vision |
42.5 | private | 图像 | Hugging Face 权重 ↗ 代码仓库 ↗ | |
| 27 | Jev-Omni (12B)
社区 · Decision Index · Vision |
38.7 | private | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 28 | NeoHorse Jev 4B
TokenRhythm · Decision Index · Vision |
37.8 | private | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 29 | JPT-0.8B
社区 · Decision Index · Vision |
36.8 | private | 图像 | HF · 9B ↗ Hugging Face 权重 ↗ | |
| 30 | djev (26B-A4B)
· Decision Index · Vision |
35.3 | public | 图像 | Hugging Face 权重 ↗ Decision Index Vision 子榜 ↗ | |
| 31 | RSI-Jev v5.0 VL 3B
社区 · Decision Index · Vision |
33.1 | private | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 32 | Winnow-E4B
EldanRing · Decision Index · Vision |
28.4 | private | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 33 | OneJev 0.8B
OmniJev · Decision Index · Vision |
26.5 | private | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 34 | razorback16 diffgemma
· Decision Index · Vision |
25.8 | public | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 35 | Intern-Decision-2B
Intern Large Model · Decision Index · Vision |
25.5 | private | 图像 | Hugging Face 权重 ↗ 代码仓库 ↗ | |
| 36 | mmastrac diffgemma
· Decision Index · Vision |
25.3 | public | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 37 | Intern-Decision-0.8B
Intern Large Model · Decision Index · Vision |
21.8 | private | 图像 | Hugging Face 权重 ↗ 代码仓库 ↗ | |
| 38 | mmastrac diffgemma
· Decision Index · Vision |
12.3 | private | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ | |
| 39 | djev (26B-A4B)
· Decision Index · Vision |
10.4 | private | 图像 | Hugging Face 权重 ↗ Decision Index Vision 子榜 ↗ | |
| 40 | razorback16 diffgemma
· Decision Index · Vision |
8.6 | private | 图像 | Hugging Face 权重 ↗ Decision Index 排行榜 ↗ |