decision.host
首页 / 模型 / Jev-Omni (12B)

Jev-Omni (12B)

社区 ChoiceNoulScore图像 开源权重 12B(活跃 12B) curateddidi_visions1mb

12B 多模态决策模型,Vision 榜第 13(48.3)。

S1MB Task Avg
47.9
第 16 名 · 覆盖 137/137(100%)
Decision Index Full
42.4
第 44 名 · public 41.0
Vision Full
48.3
第 13 名 · public 51.9
校准 ECE
0.161
越低越好 · Brier 0.534

模型信息

厂商
社区
类别
开源权重
参数规模
12B(活跃 12B)
基座模型
google/gemma-4-12B
权重
可下载(开源)
许可证
未标注 许可不明
输入模态
文本 图像
决策原语
ChoiceNoulScore
可微调
可以
微调方法
LoRA + head
训练方式
LoRA + head

数据来源与链接

本站聚合自: curated、di、di_vision、s1mb。 分数与链接均指向原始出处。

Decision Index 领域得分

知识与推理
57.4
语言理解
75.3
检索与分类
42.0
工具与自动化
81.0
艺术与人类品味
48.7

S1MB · 137 个基准

基准类型该模型全场最佳 全场均值对比来源
open jev / mailroom control v1 Choice 100.0 100.0 82.9 来源 ↗
open jev / sponsor segment control v1 Choice 96.2 100.0 52.2 来源 ↗
open jev / browser control v1 Choice 95.7 100.0 67.4 来源 ↗
open jev / mailroom control v1 Noul 95.3 100.0 62.5 来源 ↗
s1mb generalization contextual choice Choice 94.8 100.0 82.6 来源 ↗
open jev / entity alignment control v1 Noul 94.4 100.0 35.9 来源 ↗
dbpedia Choice 94.4 98.9 83.5 来源 ↗
arc Choice 94.1 98.5 64.4 来源 ↗
s1mb generalization diverse noul Noul 94.0 100.0 59.2 来源 ↗
s1mb generalization diverse choice Choice 93.4 100.0 69.5 来源 ↗
s1mb generalization diverse score Score 92.8 95.3 42.8 来源 ↗
open jev / email selection control v1 Noul 92.3 100.0 40.6 来源 ↗
laya / enron spam Noul 92.0 100.0 54.6 来源 ↗
hatecheck Noul 90.0 98.0 47.5 来源 ↗
s1mb generalization contextual noul Noul 90.0 98.0 62.0 来源 ↗
open jev / email selection control v1 Choice 89.6 100.0 23.4 来源 ↗
openbookqa Choice 88.9 97.2 53.7 来源 ↗
open jev / customer control v1 Noul 88.2 100.0 58.0 来源 ↗
open jev / drone control v1 Noul 88.2 100.0 50.2 来源 ↗
bbq Choice 85.0 98.3 53.8 来源 ↗
open jev / amount extraction control v1 Choice 84.3 100.0 55.0 来源 ↗
open jev / vizdoom basic v1 Score 84.3 100.0 29.6 来源 ↗
open jev / painting geometry v1 Choice 84.2 100.0 46.2 来源 ↗
open jev / ir control v1 Choice 84.0 88.0 44.8 来源 ↗
open jev / customer control v1 Choice 82.6 82.6 64.3 来源 ↗
s1mb generalization contextual score Score 82.2 92.7 42.1 来源 ↗
sdoh nli Noul 82.0 92.0 60.8 来源 ↗
argument quality Choice 81.6 95.9 37.4 来源 ↗
quartz Choice 78.6 88.1 49.1 来源 ↗
impli Noul 78.0 88.0 46.7 来源 ↗
lonli Choice 77.0 86.9 39.2 来源 ↗
followir robust04 Noul 76.7 90.9 46.9 来源 ↗
laya / ag news Choice 76.1 94.0 75.4 来源 ↗
hans Noul 76.0 100.0 43.3 来源 ↗
open jev / vizdoom basic v1 Noul 75.7 100.0 39.0 来源 ↗
open jev / reasoning control v1 Choice 75.0 95.0 28.4 来源 ↗
scone Choice 74.0 92.0 34.2 来源 ↗
open jev / workflow controls v1 / security incidents Noul 72.9 100.0 37.8 来源 ↗
miqa Choice 72.7 95.5 61.9 来源 ↗
open jev / citation control v1 Choice 72.7 100.0 40.9 来源 ↗
open jev / silent failure control v1 Noul 72.0 100.0 38.8 来源 ↗
open jev / phone extraction control v1 Choice 71.7 100.0 32.4 来源 ↗
scicite Choice 71.0 71.0 44.0 来源 ↗
creak Noul 70.0 88.0 38.8 来源 ↗
ethos Noul 70.0 76.0 43.7 来源 ↗
open jev / phone extraction control v1 Noul 70.0 100.0 50.4 来源 ↗
scitail Noul 70.0 98.0 53.0 来源 ↗
synthetic relevance / nanocoir Noul 69.0 73.0 33.6 来源 ↗
synthetic relevance / nanobeir / nanohotpotqa Noul 68.1 70.8 28.4 来源 ↗
babi nli Noul 68.0 84.0 37.0 来源 ↗
defeasible nli Choice 67.4 80.4 32.8 来源 ↗
ethics Choice 66.7 83.3 20.9 来源 ↗
qasper Noul 66.0 88.0 41.6 来源 ↗
open jev / amount extraction control v1 Noul 65.6 100.0 33.3 来源 ↗
winobias Choice 65.2 91.3 30.1 来源 ↗
few nerd Choice 64.9 86.4 43.9 来源 ↗
open jev / ir control v1 Noul 64.3 100.0 47.3 来源 ↗
paws Noul 64.0 88.0 45.7 来源 ↗
synthetic relevance / nanobeir / nanonq Noul 60.5 67.2 39.5 来源 ↗
open jev / workflow controls v1 / invoice processing Noul 59.1 100.0 34.6 来源 ↗
massive Choice 58.9 96.7 64.5 来源 ↗
open jev / workflow controls v1 / customer service Noul 58.5 100.0 41.6 来源 ↗
open jev / customer control v1 Score 56.6 99.3 36.7 来源 ↗
snli Choice 56.5 98.4 46.0 来源 ↗
open jev / context retention control v1 Noul 56.0 100.0 19.0 来源 ↗
synthetic relevance / nanobeir / nanomsmarco Noul 54.0 62.5 37.3 来源 ↗
gretel pii Choice 53.6 94.5 43.1 来源 ↗
ruletaker Noul 52.0 96.0 27.7 来源 ↗
robust lr Choice 51.7 66.7 18.8 来源 ↗
open jev / painting geometry v1 Noul 50.5 100.0 27.2 来源 ↗
open jev / reasoning control v1 Score 50.5 90.7 27.7 来源 ↗
lexcomp Noul 50.0 52.0 22.5 来源 ↗
synthetic relevance / nanobeir / nanodbpedia Noul 48.8 52.1 29.0 来源 ↗
contract nli Choice 48.5 76.0 31.8 来源 ↗
aegis2 Noul 48.3 62.3 32.8 来源 ↗
synthetic relevance / nanobeir / nanofiqa2018 Noul 47.1 54.0 28.6 来源 ↗
arct Choice 46.8 89.4 39.4 来源 ↗
open jev / workflow controls v1 / agent trace observability Noul 46.4 100.0 27.8 来源 ↗
mtop Choice 46.3 86.9 58.6 来源 ↗
synthetic relevance / nanobeir / nanonfcorpus Noul 45.3 46.2 25.1 来源 ↗
synthetic relevance / nanobeir / nanohotpotqa Score 44.3 63.6 13.9 来源 ↗
ethics Noul 43.9 68.6 23.9 来源 ↗
go emotions Noul 42.5 61.3 38.3 来源 ↗
canttalk Noul 42.0 86.0 43.9 来源 ↗
synthetic relevance / nanobeir / nanoscidocs Noul 41.7 41.7 17.3 来源 ↗
crows pairs Choice 41.7 70.8 30.4 来源 ↗
synthetic relevance / nanobeir / nanotouche2020 Noul 41.5 47.0 26.6 来源 ↗
synthetic relevance / nanobeir / nanoarguana Noul 39.9 48.2 15.6 来源 ↗
open jev / painting geometry v1 Score 38.7 100.0 15.2 来源 ↗
synthetic relevance / nanobeir / nanodbpedia Score 37.6 44.9 17.6 来源 ↗
laya / typed decisions Noul 37.0 47.8 24.4 来源 ↗
winowhy Noul 36.0 62.0 18.8 来源 ↗
fol nli Choice 34.4 54.1 10.4 来源 ↗
open jev / snake v1 Choice 34.0 83.5 8.1 来源 ↗
temporal nli Choice 33.9 80.7 18.3 来源 ↗
followir core17 Noul 33.6 46.6 21.2 来源 ↗
synthetic relevance / nanobeir / nanotouche2020 Score 32.7 44.3 20.6 来源 ↗
sgd Choice 32.2 96.6 24.4 来源 ↗
esci Choice 31.5 46.6 13.0 来源 ↗
civil comments Noul 31.1 36.7 21.4 来源 ↗
patent similarity Score 30.7 48.3 17.7 来源 ↗
boardgameqa Choice 29.7 62.5 15.6 来源 ↗
open jev / ir control v1 Score 29.6 98.6 10.1 来源 ↗
banking77 Choice 29.5 93.7 54.6 来源 ↗
clinc Choice 29.0 99.3 57.3 来源 ↗
hwu64 Choice 28.7 92.5 56.8 来源 ↗
cladder Noul 28.0 94.0 17.7 来源 ↗
gsm8k Choice 25.7 78.6 23.5 来源 ↗
laya / typed decisions Choice 24.2 34.5 18.9 来源 ↗
stepgame Choice 23.8 82.1 17.8 来源 ↗
open jev / entity alignment control v1 Score 23.1 100.0 8.1 来源 ↗
logical entailment Noul 22.0 72.0 12.2 来源 ↗
synthetic relevance / nanobeir / nanofiqa2018 Score 21.9 46.7 15.2 来源 ↗
synthetic relevance / nanobeir / nanomsmarco Score 21.7 52.6 17.8 来源 ↗
ud ewt Choice 20.8 56.7 13.2 来源 ↗
synthetic relevance / nanobeir / nanonfcorpus Score 19.8 38.6 10.7 来源 ↗
wiqa Choice 19.1 58.7 19.3 来源 ↗
followir news21 Noul 18.0 42.7 14.9 来源 ↗
tracie Noul 18.0 34.0 8.7 来源 ↗
laya / typed decisions Score 17.7 63.5 26.5 来源 ↗
aqua rat Choice 15.5 77.5 10.7 来源 ↗
hh rlhf Choice 15.4 23.1 3.1 来源 ↗
synthetic relevance / nanobeir / nanoscidocs Score 12.7 36.7 7.2 来源 ↗
nlsat Noul 10.0 22.0 2.1 来源 ↗
argument quality Noul 9.8 23.9 5.4 来源 ↗
spartqa Choice 8.1 38.7 4.4 来源 ↗
open jev / snake v1 Noul 5.7 100.0 9.0 来源 ↗
open jev / reasoning control v1 Noul 4.0 100.0 25.3 来源 ↗
synthetic relevance / nanobeir / nanoarguana Score 4.0 36.0 7.7 来源 ↗
corr2cause Choice 0.0 91.7 3.8 来源 ↗
open jev / drone control v1 Choice 0.0 100.0 4.8 来源 ↗
open jev / drone control v1 Score 0.0 99.2 1.1 来源 ↗
open jev / tic tac toe v1 Choice 0.0 48.5 3.5 来源 ↗
plane Noul 0.0 100.0 11.1 来源 ↗
poem sentiment Choice 0.0 57.1 4.0 来源 ↗
synthetic relevance / nanobeir / nanonq Score 0.0 49.4 9.3 来源 ↗
synthetic relevance / nanocoir Score 0.0 44.3 4.3 来源 ↗

Decision Index · 42 个基准

基准类型该模型全场最佳 全场均值对比来源
ARC-Easy 混合(Choice 98.0 99.5 87.3 来源 ↗
BFCL 混合(Choice 96.8 98.8 80.5 来源 ↗
ARC-Challenge 混合(Choice 95.0 98.2 79.4 来源 ↗
FinEntity 混合(Choice 90.8 97.1 73.8 来源 ↗
NLI4CT 混合(Choice 82.3 86.2 69.3 来源 ↗
HellaSwag 混合(Choice 81.0 98.5 73.0 来源 ↗
RAGTruth 混合(Choice 80.0 86.0 52.1 来源 ↗
PhishNChips 混合(Choice 80.0 99.9 62.1 来源 ↗
RouterBench 混合(Choice 77.6 80.1 73.2 来源 ↗
MMLU 混合(Choice 77.5 91.9 64.4 来源 ↗
BPoMP 混合(Choice 76.7 97.0 73.8 来源 ↗
WinoGrande 混合(Choice 72.1 97.5 69.8 来源 ↗
ContractNLI 混合(Choice 69.8 86.5 59.9 来源 ↗
CLadder 混合(Choice 66.8 97.7 62.5 来源 ↗
BBH 混合(Choice 66.6 92.9 58.3 来源 ↗
HoVer 混合(Choice 65.8 89.4 63.8 来源 ↗
ANLI 混合(Choice 64.7 98.6 54.0 来源 ↗
ToolRet 混合(Choice 64.4 69.1 55.1 来源 ↗
When2Call 混合(Choice 63.0 91.7 57.8 来源 ↗
Humicroedit 混合(Choice 61.5 75.1 57.2 来源 ↗
cfcolor 混合(Choice 60.5 70.2 57.9 来源 ↗
New Yorker 混合(Choice 59.9 82.0 52.9 来源 ↗
MuSR 混合(Choice 55.7 86.2 56.0 来源 ↗
VAST 混合(Choice 54.6 82.0 50.1 来源 ↗
Amazon ESCI 混合(Choice 53.5 61.6 40.9 来源 ↗
API-Bank 混合(Choice 52.4 93.1 56.3 来源 ↗
CRUXEval 混合(Choice 50.7 87.9 50.7 来源 ↗
SGD 混合(Choice 50.4 73.4 47.4 来源 ↗
MMLU-Pro 混合(Choice 48.9 82.7 42.3 来源 ↗
BRIGHT 混合(Choice 46.5 50.9 36.1 来源 ↗
Home appliances 混合(Choice 42.0 98.9 23.2 来源 ↗
Habermas 混合(Choice 41.5 71.8 42.2 来源 ↗
iSarcasmEval 混合(Choice 41.1 71.0 38.4 来源 ↗
GPQA Diamond 混合(Choice 36.7 78.3 37.7 来源 ↗
BANKING77 混合(Choice 31.0 94.1 68.7 来源 ↗
GSM8K 混合(Choice 27.8 83.5 36.0 来源 ↗
SATA-Bench 混合(Choice 26.7 37.2 20.3 来源 ↗
CLINC150 混合(Choice 16.9 97.4 67.8 来源 ↗
ACOS 混合(Choice 16.0 57.3 14.6 来源 ↗
ChessBench 混合(Choice 12.8 40.2 14.2 来源 ↗
HLE 混合(Choice 10.0 20.4 12.3 来源 ↗
POP909 混合(Choice 4.2 74.6 12.6 来源 ↗

Decision Index · Vision · 20 个基准

基准类型该模型全场最佳 全场均值对比来源
KIE (CORD+FUNSD) 图像 90.5 92.7 80.0 来源 ↗
Winoground 图像 80.0 93.0 70.7 来源 ↗
Winoground 图像 75.5 93.0 70.7 来源 ↗
KIE (CORD+FUNSD) 图像 71.2 92.7 80.0 来源 ↗
InfographicVQA 图像 70.5 98.7 77.3 来源 ↗
CV-Bench 图像 69.8 76.6 49.1 来源 ↗
InfographicVQA 图像 68.7 98.7 77.3 来源 ↗
CharXiv 图像 62.9 79.7 48.5 来源 ↗
Moderation (Hateful Memes) 图像 54.0 54.0 28.6 来源 ↗
RealWorldQA 图像 47.6 75.3 41.1 来源 ↗
Mind2Web 图像 46.1 79.7 49.7 来源 ↗
CharXiv 图像 38.7 79.7 48.5 来源 ↗
Moderation (Hateful Memes) 图像 35.5 54.0 28.6 来源 ↗
Mind2Web 图像 35.3 79.7 49.7 来源 ↗
CV-Bench 图像 34.0 76.6 49.1 来源 ↗
RealWorldQA 图像 20.7 75.3 41.1 来源 ↗
MMMU-Pro vision 图像 19.1 40.7 22.3 来源 ↗
R-Bench-M 图像 5.8 35.4 19.0 来源 ↗
BLINK 图像 -5.5 63.0 32.0 来源 ↗
BLINK 图像 -33.3 63.0 32.0 来源 ↗