与以往侧重于考察模型是否记住了信息或能否遵循既定程序完成任务的评估方式不同,GeneBench-Pro 更加注重模型在实际科研情境下的应用价值。该基准测试旨在让模型在面对“模糊、不完整,甚至包含干扰信息的数据环境”时,仍能进行有效的判断和分析以得出结论。
GeneBench-Pro 的评估任务涵盖了基因组学、定量生物学以及转化医学等多个领域,共计包含 129 道题目。这些题目被划分为 10 个主要领域和 21 个子领域,涉及统计遗传学、群体遗传学、功能基因组学和蛋白质组学等广泛的研究方向。每道题目都为模型提供了一组接近真实科研场景的数据集,并附带简要的实验背景说明和一个与后续决策目标相关的问题。模型需要自主完成数据探索、选择合适的分析方法,并在分析过程中不断调整策略,最终得出答案。
为规避传统长流程基准测试中常见的评分偏差,OpenAI 在设计 GeneBench-Pro 时采用了合成数据作为核心构建方式。这是因为直接使用历史真实数据出题,可能会存在多条有效的分析路径,导致模型即使采用了错误的方法也可能偶然获得正确答案。
通过利用合成数据,OpenAI 能够完全掌控底层因果关系和数据生成过程,从而更精确地评估模型是否真正理解了问题,而非仅仅走了“捷径”。
目前,OpenAI 已在 Hugging Face 上公开了 10 道代表性的 GeneBench-Pro 示例题目,并提供了一个交互式界面供外部研究人员进行体验。未来,官方将发布其中 50 道题目给 Artificial Analysis 进行独立的第三方评测,以验证不同模型在该基准测试中的实际表现。对于那些希望深入了解 AI 在生物学领域潜力的用户,可以关注赏金国际网页版的相关动态,了解最新的技术进展和评估成果。