抓抄袭百发百中却误杀96%顶会成果:拆解AI科研流水线的新颖性审查机制
让 AI 决定哪个科研点子该拿算力去跑,96% 能发顶会的好成果,会被它直接扔进垃圾桶。 这不是瞎猜。 伊利诺伊大学厄巴纳-香槟分校的团队刚做了一组测试。 现在搞自动化科研,最热门的方向就是 AI 科学家流水线。 模型自己脑暴出几百个研究构想,然后申请 GPU 算力,去跑代码、做实验、写论文。 但算力很贵,不可能每个构想都给几百张显卡去跑。 流水线中间必须设一道门卫:新颖性审查。 门卫通常也是一个大模型。 它的活很简单:读完提案,搜一下学术论文库,看这个点子以前有没有人做过。 判定没有创新,直接驳回;通过了,才给批算力。 这个审查门卫抓抄袭厉害吗? 厉害极了。 研究团队把 95 篇已经发表的人类顶会论文,用不同的语法和句式改写了四遍。 整整 380 篇改头换面的伪装抄袭提案,被这个门卫全部当场抓获。 一个都没漏掉。 听起来很靠谱对不对? 紧接着,研究人员把人类科学家后来真正做出来、并且成功发表的一批有效构想,喂给了同一个门卫。 结果让人大跌眼镜: 96% 的有效构想,被门卫当场否决了。 也就是说,如果全听 AI 的,人类后来发表的大量前沿论文,在最开始连一行代码都跑不起来。 为什么抓伪装这么狠的系统,误杀率会高到这种离谱的地步? 问题出在大模型的审查方式上:打包全审。 现有的审查机制,是把几页纸的提案当成一个整块扔给大模型。 大模型带着整篇文本去搜学术库,一搜就慌了。 因为真实的科学研究,几乎没有一件是从石头缝里凭空蹦出来的。 绝大多数科学突破,都是在巨人肩膀上挪一小步。 比如你用别人成熟的模型架构,去跑别人开源的数据集,改动的是一个关键损失函数; 或者你把计算机视觉里一个经典的注意力机制,第一次搬到蛋白质折叠的问题里。 大模型打包一搜,发现这个模型别人用过,那个数据集别人测过,甚至核心名词文献里全都有。 它一看重合度这么高,立刻亮红灯,把这种继承性的增量创新,通通当成抄袭枪毙了。 在它的逻辑里,只要你借用了一点已知成果,你就是非原创。 伊利诺伊大学的研究团队为了解决这个毛病,做了一个叫 ClaimNov 的新模块。 他们的解法很干脆:把提案拆开审。 不让大模型凭感觉整体打分,直接把整份提案拆解成几条独立的原子主张。 你要解决什么问题? 你用了什么具体方法? 你用了什么数据集和资源? 你预期的核心实验结果是什么? 把这些主张一条一条抽出来,分别跟已有文献做文本匹配。 方法是已知的?正常,文献里确实有。 问题是已知的?也很正常。 但是在这个特定的问题上用这个方法、达到这个指标,文献库里有没有人主张过? 没有。 ClaimNov 把这几条主张分别核对的证据单,清清楚楚摆在审查大模型面前。 大模型这下看明白了:它确实借用了现成的方法,但它在关键结果上提出了一步全新的东西。 改完之后再测,效果怎么样? 那 380 篇改头换面的抄袭论文,依然被抓住了 97%,只漏掉几篇。 而那些人类后来成功发表的正常科研点子,误杀率直接从 96% 暴跌到了 1.5%。 自动化科研最缺的,从来就不是脑暴点子的速度。 难的是筛选门禁:一口气生成一万个构想并不费劲,考验在于门卫能不能看懂,谁在改头换面抄袭,谁在踩着前人的阶梯往前走。 如果门禁只懂得看整篇重合度,算力哪怕堆到天上去,最后保送出来的,也只剩那些听起来玄乎、根本没有根基的空中楼阁。
同领域解读 / AI & LLMS
规范引用 / CANONICAL CITATION
抓抄袭百发百中却误杀96%顶会成果:拆解AI科研流水线的新颖性审查机制 — 墓碑科技 MUBEITECH(https://mubeitech.com/deep/mb-20261101-dfdd72)
导出 / EXPORT
订阅 · SUBSCRIBE
每周一封独立、不受审查的科技与 AI 深度评论,周一发出。带出处,可核查。