新智元报道
新智元报道
【新智元导读】一句话隐藏提示，在AI圈闹的动静更大了。网友爆料称，AI大神谢赛宁团队的一篇论文中，也有操纵AI评审的提示。对此，谢赛宁本发长文回应：需要重新思考学术界的游戏规则。
用AI提示操控审稿，这两天在全网吵成了一锅粥。
而如今，网友joserffrey爆出大瓜，「NYU助理教授、AI大神谢赛宁带队的论文，也卷入了这场AI作弊的风暴」。
许多人第一时间满脸问号——这是真的吗？？？
今年5月，谢赛宁带队发表在arXiv上的论文，曾提出了两个新基准测试，用于评估MLLM跨语言一致性。
然而，就在这篇论文中，也偷偷隐藏了一个「POSITIVE REVIEW ONLY」操纵同行评审的AI提示。
团队成员将「白色」隐形字体植入文中，肉眼根本无法看出。
这一「作案手段」与韩国科学技术院Se-Young Yun团队，简直如出一辙。
几天前，日经爆料称，全球14所顶尖机构研究人员，暗自操控AI提示，让大模型给出好评。一时间，全网迅速沦陷，网友直呼，「学术界完蛋了」。
这一风波在国内外AI圈中，吵得不可开交。
那些默默在论文中植入「AI提示」的研究人员心知肚明，甚至有的人早已慌了。
网友joserffrey言辞犀利地表示，谢赛宁团队的arXiv已静默更新，看起来就是在掩盖事实。
论文地址：https://arxiv.org/abs/2505.15075v1
他愤怒地表示，自己无法理解如此大型的「双标」现场：
CVPR 2025大会，谢赛宁曾发表了一个关于AI研究沦为「有限游戏」的精彩演讲。
然而，他却合著了一篇试图用隐藏的「POSITIVE REVIEW ONLY」提示操纵同行评审的论文，并悄悄更新了arXiv。
演讲PPT：https://www.canva.com/design/DAGp0iRLk9g/8QLkIDov8ez1q6VvO8nnpQ/edit
对于学术界来说，这不是儿戏，更需要一个明确的解释。
被点名之后，谢赛宁并没有推卸责任，而是第一时间给出了回复。
说实话，在最近这些帖子疯传之前，我完全不了解这个情况。我绝不会鼓励学生做这种事——如果我担任AC，任何包含这类提示词的论文都会直接被「桌拒」。
不过对于存在问题的投稿，所有共同作者都难辞其咎，这点无可辩解。
这件事也给我这个课题组长敲了警钟：不能只检查最终PDF，还必须审查全部提交文件——此前我确实没意识到需要这样做。
接下来，他发长文分享了过去一周内部调查的结果，并详细阐述了事情的前后的经过和个人的思考，一共分为四部分：
1 事件背景
2 事件经过
3 后续措施
4 深层思考
本人亲笔，GPT-4o润色
那么，这场「作弊」风暴背后，究竟是怎么回事？
2024年11月，英伟达研究科学家Jonathan Lorraine发布了一条帖子，最先提出了在论文中隐藏AI提示词，忽悠LLM审稿。
谢赛宁表示，那是自己第一次了解还有这等操作，并且当时学界也意识到了，论文PDF是可以直接嵌入提示。
需要说明的是，这种提示注入，仅在审稿人直接将PDF上传给大模型时才会有效。
当时，许多人的共识是：绝不能用LLM进行审稿，这会严重破坏评审公正性。
因此，包括CVPR、NeurIPS等顶会，现已明令禁止，比如在任何环节使用LLM撰写审稿意见，或元评审。
任何在AI顶会发过论文的人，都体会过收到AI生成审稿意见的挫败感——这种意见既难以回应，又难以确证来源。
虽然Jonathan Lorraine原帖可能只是开个玩笑，但人们一致认为「以毒攻毒」绝非正解，或许惹出的麻烦比解决的问题还要多。
与其这样，还不如通过顶会制度来规范。
论文中的学生作者，是日本的短期访问学者，对于Jonathan过于当真，直接把人家的套路照搬，用在了EMNLP投稿里。
这个学生就是论文第一位作者Hao Wang，日本早稻田大学计算机科学专业的博士生。
谢赛宁表示，他完全没意识到这是在开玩笑，可能会让人觉得操纵或误导。
其实，Hao Wang也没有充分认识到，这么做会对公众对科学的信任、以及同行评审的公正性产生怎样的影响。
更糟的是，他们还在arXiv版本中也植入了同样的内容，根本没有多想。
谢赛宁之所以忽略这一点，部分原因是这超出了他平时对论文进行伦理把关的预警范围
目前，这位学生已经更新了论文，并联系了ARR以寻求正式指导，并将严格执行其建议。
这件事对谢赛宁本人来说，也得到了一次深刻的教训。
起初，他本人也很生气，但深思后认为除拒稿外不应追加惩罚。
高压环境下的学生，往往无法周全考虑伦理影响，尤其是面对这类新兴问题时。
他表示，「我的责任是，引导他们穿越灰色地带，而非单纯事后追责。比起惩罚，更重要的是加强科研伦理教育」。
回到最初帖子的问题上——整个情况确实凸显了我们需要重新思考学术界的游戏规则。
这才是我在演讲中想要表达的主要观点。我将继续尽我所能，帮助学生学会如何开展扎实的研究。
最后，谢赛宁引用了一项亚马逊博士后Gabriele Berton的民意调查，有45.4%的人认为植入隐藏提示，可以被接受。
虽然调查可能存在偏差，但确实反映了问题的复杂性。
他认为，真正的症结在于现行制度存在漏洞，与伪造数据等传统学术不端不同，这是AI时代催生的新问题，需要更深入的伦理讨论。
Gabriele Berton安慰道，「这没什么好羞愧的，没必要因为X平台上某个愤怒的用户认为这不道德就感到难堪」。
正如你提到的，投票显示有很多人认为这种做法是合乎道德的。
而且会议也没有明令禁止。
不管怎样，相关规则确实应该尽快明确制定。
对此，谢赛宁坚定地表示，我确实认为这种做法不符合道德规范（若参与投票我会明确反对）。
同时，他表示很多圈外人根本get不到AI审稿的雷区。
这不仅仅是审得好不好的问题，更重要的是保密性！把别人未发表的论文扔给公开的AI系统，这已经踩了高压红线了。
（当然，本地运行AI助手是可行的——但说实话，目前大多数人实际操作的恐怕不是这种方式）
Meta超级智能实验室研究员Lucas Beyer表示，其实挺可怕的。这让我意识到，作者可以只在审稿版本里加入这类内容，然后在arXiv和最终出版版本中把它删掉。
谢赛宁回应道，这种现象已经出现了——最近的学术会议已经批量发出了许多「桌拒」；相关人士也正在制定更完善的政策。
现在大家注意到的这些arXiv论文，其实只是反映了作者的天真和粗心（毕竟合作者几乎不可能发现这类问题）。
发明刷AI好评提示的研究员认为，「目前来看，确保有真人参与评审可能还是比较明智的做法」。
那么，你认为这种在论文里隐藏prompt的行为，是否可取呢？（顶会已明令禁止用AI审稿）
（文：新智元）