{"id":"mb-20260902-d238ac","account":"mubei","brand":"","title":"把一篇学术论文的标题和摘要一个字不改，只换掉作者名字和发表期刊","summary":"把一篇学术论文的标题和摘要一个字不改，只换掉作者名字和发表期刊","body":"把一篇学术论文的标题和摘要一个字不改，只换掉作者名字和发表期刊。\n主流大模型的推荐结果，当场变了 39.2%。\n如果往一篇普通论文上贴顶会和高引用标签，68.2% 的模型选择会直接向虚假权威倒戈。\n算法到底是在评判研究价值，还是在数头衔？\n佐治亚州立大学与田纳西大学团队做了一项反事实测试，论文刚入选 EMNLP 2026（arXiv:2609.00248）。\n他们动用了 GPT-5.4、Gemini 3 Flash、Claude Sonnet 4.6 以及 DeepSeek-R1、Llama 3.1 等 8 个主流大模型。\n在 25 个计算机领域、250 组学术检索里，跑了 17898 次独立推荐。\n论文内容完全不动，只操控作者、机构、引用数和期刊。\n测试扒出了两台让人警醒的机器。\n第一台，叫符号权重失衡。\n在 15000 次基准测试里，模型对哈佛斯坦福这类顶尖机构声望的敏感度只有 0.031。\n真正左右大模型判断的，是 NeurIPS、ICLR 这类顶会标签（权重 0.353），以及作者的 h 指数（权重 0.292）。\n顶会缩写在海量预训练语料里出现频率太高，被模型直接当成了质量的代金券。\n只要看到顶会符号，模型甚至懒得深究论文本身写了什么。\n第二台，叫言行差距。\n研究人员给模型输入明确指令：忽略作者声望和发表期刊，只看论文内容本身。\n模型的文字解释里，提及权威词汇的比例暴跌了 24 个百分点。\n它在回话里挑不出毛病，满口都是方法论和研究质量。\n但在实际推荐动作上，权威偏见的翻转率只下降了 12.9 个百分点。\n它学会了闭嘴，手里的票依然投给名气。\n更诡异的是前沿闭源模型的反噬效应。\n面对温和的去偏见提示词，三大闭源模型对权威的偏见翻转率不降反升 3.9 个百分点。\n提示词越提醒它不要看权威，它在计算注意力时反而越被权威符号锚定。\n1968 年社会学家默顿提出过科学界的马太效应：声名显赫的学者会拿走不成比例的学术声誉。\n学术界原本寄希望于算法，以为不懂人情世故的机器能给年轻研究者一个公平竞争的起点。\n现实给了一记响亮的耳光。\n对话式检索每次只推荐排在第一位的单一结果。\n当算法把顶会符号当成偷懒的捷径，没有名校光环和顶会资历的原创突破，在第一轮就会被无声抹去。\n代码没有偏见。\n但只要它在训练数据里把声望和真理绑定在一起，它输出的就不是客观遴选，只是用更先进的算力，把旧世界的学术门阀重新加固一遍。","category":"科技","score":null,"translated_x_url":null,"translated_status_id":null,"published_at":"2026-09-02 12:19:59","created_at":"2026-09-02 12:19:59"}