OpenAI

AI复现顶尖AI论文？OpenAI最新测评：Claude 3.5得分第一

作者

PaperBench测试了多款AI模型复现ICML 2024顶会论文的能力。结果显示，Claude 3.5 Sonnet表现最好，平均得分为21.0%。研究发现当前AI在长期规划、持续调试和策略执行方面存在问题。PaperBench为评估AI科研能力提供了量化标准，有助于加速科学发现并推动开放协作。

OpenAI发布AI研究新基准PaperBench，已能复制21%顶会论文！斯坦福研究发现LLM已比人类专家更具科研新颖性

作者

OpenAI发布的PaperBench测评基准测试了AI复现顶级学术论文的能力，Claude 3.5 Sonnet在20篇ICML论文测试中的平均得分为21%，超过了一半的顶会论文。该基准不仅严苛要求，还开源代码鼓励研究者参与。此外，斯坦福大学的研究表明LLM能提出有创意的新想法，但其可行性有待提升。OpenAI研究员Jason Wei认为AI科学创新将有两种风格：专注特定问题或训练通用型AI系统。未来AI在科研领域的潜力巨大，包括辅助和引领重大突破。