openbookqa

这是 S1MB 英文套件中的一个基准，取自 openbookqa 子集，上游数据为 allenai/openbookqa（Apache-2.0）。从作者给出的若干备选里选一个，返回每个备选的概率分布，主指标取「选中项上的目标概率质量」，越高越好。该基准包含 100 个 case、100 个判断。评测协议：S1MB 把原始任务改写为类型化决策问题，模型必须输出概率分布，分数经过「忽略输入的基线」校正后折算到 0–100（50 分代表补上了一半差距，不是答对一半）。

这是 S1MB 英文套件中的一个基准，取自 openbookqa 子集，上游数据为 allenai/openbookqa（Apache-2.0）。从作者给出的若干备选里选一个，返回每个备选的概率分布，主指标取「选中项上的目标概率质量」，越高越好。该基准包含 100 个 case、100 个判断。评测协议：S1MB 把原始任务改写为类型化决策问题，模型必须输出概率分布，分数经过「忽略输入的基线」校正后折算到 0–100（50 分代表补上了一半差距，不是答对一半）。