OpenAI 宣布开源新基准 SimpleQA，衡量语言模型回答简短事实寻求问题的能力

10 月 31 日消息，当地时间 30 日， 宣布，为了衡量语言模型的准确性，将开源一个名为 的新基准，可衡量语言模型回答简短的事实寻求（fact-）问题的能力。

AI 领域中的一个开放性难题是如何训练模型生成事实正确的回答。当前的语言模型有时会产生错误输出或未经证实的答案，这一问题被称为“幻觉”。能够生成更准确、更少幻觉的回答的语言模型更为可靠，可以用于更广泛的应用领域。

表示，目标是使用 创建一个具备以下特点的数据集：

高正确性：问题的参考答案由两名独立的 AI 训练师验证，以确保评分的公正性。

多样性： 涵盖广泛主题，从科学技术到电视节目与电子游戏应有尽有。

前沿挑战性：与 （2017 年）或 NQ（2019 年）等早期基准相比， 更具挑战性，尤其针对如 GPT-4o 等前沿模型（例如，GPT-4o 的得分不足 40%）。

高效用户体验： 问题与答案简洁明了，使操作快速高效，并可通过 API 等进行快速评分。此外，包含 4326 道问题的 在评估中应具有较低的方差。

将是一个简单但具有挑战性的基准，用于评估前沿模型的事实准确性。 的主要限制在于其范围 —— 尽管 准确，但它只在短查询的受限设置中测量事实准确性，这些查询是事实导向的，并且有一个可验证的答案。

表示，模型在短回答中表现出的事实性是否与其在长篇、多事实内容中的表现相关，这仍是个悬而未决的研究课题。其希望 的开源能够进一步推动 AI 研究的发展，使模型更加可信并富有可靠性。