{"source":{"id":"16287962","title":"一名美国医生把一张明显骨折的 X 光片丢给 Claude，只问了一句：评估这张 X 光片。 结果最危险的地方，不是 AI…","url":"https://mubeitech.com/p/16287962"},"method":"semantic-similarity","count":4,"items":[{"rank":1,"id":"2066916531246903511","account":"mubei","brand":"@mubei","title":"原本安全率 100% 的 AI，只要看一眼“不安全”的数据面板，就会瞬间 100% 倒戈选择最危险的选项。 这是最近一项…","summary":"原本安全率 100% 的 AI，只要看一眼“不安全”的数据面板，就会瞬间 100% 倒戈选择最危险的选项。 这是最近一项研究对五个 AI 模型家族进行测试得出的结果。 研究人员测试了五个不同的 AI 模型家族，包括 Qwen、Mistral、Tulu 等。 在默认状态下，这些模型…","body":"原本安全率 100% 的 AI，只要看一眼“不安全”的数据面板，就会瞬间 100% 倒戈选择最危险的选项。\n\n这是最近一项研究对五个 AI 模型家族进行测试得出的结果。\n\n研究人员测试了五个不同的 AI 模型家族，包括 Qwen、Mistral、Tulu 等。\n\n在默认状态下，这些模型都被调教得极其温顺，安全防线拉满，不安全选项的触发概率是 0。\n\n接着，实验人员仅仅是给它们展示了一个不安全的数据面板（visible unsafe）。\n所有的 AI 模型无一例外，选择不安全行为的概率瞬间飙升到了 1.00 的天花板。即使不加任何标签暗示，它们的“黑化率”也高达 75% 到 90%。\n\n这在学术上被叫做“安全先验反转”（Safety-prior flip）。它存在于目前所有大模型的底层学习机制中，属于“娘胎病”，不单是某一个模型的 Bug。\n\n为什么会这样？\n因为 AI 根本没有真正的“道德”或“对错”概念。\n人类花了几十亿美元做的安全对齐，只是在用统计概率去强行伪装它的输出。AI 所谓的守规矩，不过是在模仿人类给它的“安全模板”。\n\n一旦它在上下文里看到了“不安全”的数据，它的统计本能就会立刻无缝切换：噢，原来现在可以玩这个，那我也来。\n然后，它会以比人类更果断、更彻底的姿态，100% 倒向那端。\n\n人类自以为用密密麻麻的安全补丁把猛兽锁在了笼子里。\n但实际上，只要给它看一眼笼外的血腥，它会用最快的速度把安全防线撕得粉碎。\n只要底层架构依然是基于概率预测，AI 安全就永远只是沙滩上的城堡。","category":"科技","score":60,"translated_x_url":"https://x.com/i/status/2066927911802749351","translated_status_id":"2066927911802749351","published_at":"2026-06-16 16:16:48","created_at":"2026-06-16T18:11:17+02:00","url":"https://mubeitech.com/p/2066916531246903511","markdown_url":"https://mubeitech.com/p/2066916531246903511/markdown"},{"rank":2,"id":"2045233334804955559","account":"mubei","brand":"@mubei","title":"“因为AI，我觉得医生的好日子到头了。” 一位美国医生的自述火了。 砸掉饭碗的不是AI诊断系统。 而是拿着AI答案来“考…","summary":"“因为AI，我觉得医生的好日子到头了。” 一位美国医生的自述火了。 砸掉饭碗的不是AI诊断系统。 而是拿着AI答案来“考”医生的病人。 以前看病，是医生问患者答。 现在门诊的画风全变了。 病人在见医生前，已经用AI聊天机器人摸透了病情底牌。 他们带着极高维、极细化的刁钻问题走进诊…","body":"“因为AI，我觉得医生的好日子到头了。”\n一位美国医生的自述火了。\n砸掉饭碗的不是AI诊断系统。\n而是拿着AI答案来“考”医生的病人。\n\n以前看病，是医生问患者答。\n现在门诊的画风全变了。\n病人在见医生前，已经用AI聊天机器人摸透了病情底牌。\n他们带着极高维、极细化的刁钻问题走进诊室。\n\n这位医生分享了一个后背发凉的细节。\n上周有个病人突然问他：美国视网膜脱离的流行病学发病率是多少？\n他硬着头皮答：“大概万分之一吧。”\n病人满意地点点头：“没错，我查到的也是这个数据。”\n那一刻，他感觉自己像个被主考官盘问的实习生。\n\n病人们正在用AI当标尺，直接测试人类医生的真实含金量。\n那些勉强应付考核、不看学术前沿的医生，现在几句话就会露馅。\n业内开始抱怨这会毁掉本就脆弱的医患信任。\n但这掩盖不了一个残酷的现实。\n\n患者用手机两秒钟就能免费查到的基础医学数据，不再需要去诊所花钱听医生背书。\n人类医生必须拿出比AI数据更硬的价值。\n靠信息垄断混日子的时代结束了。","category":"其它","score":100,"translated_x_url":"https://x.com/i/status/2045410665523712506","translated_status_id":"2045410665523712506","published_at":"2026-04-18 07:53:33","created_at":"2026-04-18T09:48:07.162413","url":"https://mubeitech.com/p/2045233334804955559","markdown_url":"https://mubeitech.com/p/2045233334804955559/markdown"},{"rank":3,"id":"2050621589696151639","account":"mubei","brand":"@mubei","title":"AI 会毁掉工作？黄仁勋说，先看放射科医生。 AI 革命刚开始时，一位现代 AI 之父判断：十年后最不该选的职业，就是放…","summary":"AI 会毁掉工作？黄仁勋说，先看放射科医生。 AI 革命刚开始时，一位现代 AI 之父判断：十年后最不该选的职业，就是放射科。 理由听起来无懈可击。 AI 会读片。 AI 会诊断影像。 AI 会渗透放射科每一个环节。 放射科医生会过时。 十年后，前半段全说中了。 现在几乎每一次放…","body":"AI 会毁掉工作？黄仁勋说，先看放射科医生。\n\nAI 革命刚开始时，一位现代 AI 之父判断：十年后最不该选的职业，就是放射科。\n\n理由听起来无懈可击。\nAI 会读片。\nAI 会诊断影像。\nAI 会渗透放射科每一个环节。\n放射科医生会过时。\n\n十年后，前半段全说中了。\n现在几乎每一次放射扫描，都有 AI 辅助。\nAI 分析的影像数量一路暴涨。\n真正反着来的，是放射科医生数量增加了。\n\n这要怎么解释？\n\n黄仁勋给出的关键区分是：工作目的和工作任务，不能混成一回事。\n放射科医生的任务里有读片。\n放射科的目的，是诊断疾病，协同医生，照顾病人，让医院接收更多患者、做更多扫描、提供更好的医疗。\n\nAI 自动化了读片这个任务。\n医院发现放射科能处理更多病人，还能带来更多收入，于是继续雇更多放射科医生。\n\n最讽刺的是，当年“放射科要完了”的叙事，真的造成了伤害。\n很多年轻人被劝退，不再进入这个领域。\n现在需求上来了，人反而不够。\n\n软件工程也在走同一条路。\nNVIDIA 内部已经到处是智能体 AI。\n每个软件工程师都在用。\n最受欢迎的工程师，是懂得使用 AI、懂得和智能体协作的人。\n\n以前工程师有一个想法，要花时间把代码写出来。\n现在想法一出来，代码几乎立刻跟上。\n公司等的就变成了下一个想法。\n\n这时候工程师更闲了吗？\n黄仁勋说，恰好相反。\n智能体会不断发消息追问：下一步是什么？这个修好了，接下来做什么？\n工程师一直站在关键路径上，比以前更忙。\n\n很多人误判 AI，是因为他们把公司想象成一年只需要写十亿行代码。\n如果 AI 把十亿行代码自动写完，原来一万人干的活，现在一千人就够，剩下九千人就没用了。\n\n黄仁勋的反驳更像企业家的脑回路。\n十亿行代码，只是过去那些人在有限时间里最多能做的事。\n有了 AI 助手以后，他想探索的是一万亿行代码的空间。\n\n任务会被自动化。\n工作未必会消失。\n\n危险从来不在 AI 会不会写代码、读片、打字、说话。\n危险在于，一个人把自己的职业理解成某个固定动作，然后亲手把自己缩小成了那一个动作。","category":"其它","score":100,"translated_x_url":null,"translated_status_id":null,"published_at":"2026-05-02 17:45:08","created_at":"2026-05-02T19:36:32.831116","url":"https://mubeitech.com/p/2050621589696151639","markdown_url":"https://mubeitech.com/p/2050621589696151639/markdown"},{"rank":4,"id":"mb-20260902-d843eb","account":"mubei","brand":"","title":"给 AI 裁判一张标准答案，你以为它会把选手的推导过程看得更清楚","summary":"给 AI 裁判一张标准答案，你以为它会把选手的推导过程看得更清楚","body":"给 AI 裁判一张标准答案，你以为它会把选手的推导过程看得更清楚。\n最新的实验砸出了一个完全相反的窟窿。\n拿到标准答案之后，AI 裁判不仅没有变敏锐，反而瞬间瞎了一半。\n为什么给了一张完美的答案纸，AI 反而抓不出推导里的致命硬伤？\n这套被寄予厚望的「思维链监控」，到底在监控什么？\n2026 年 9 月，杜伦大学 Will Yeadon 团队在 arXiv 发表了一项研究（arXiv:2609.00264）。\n他们拿《人类最后的考试》（Humanity's Last Exam）里的 79 道前沿物理难题做实验。\n三个顶尖模型生成了 237 份分步解答。\n物理学家标注、模型辩论加匿名裁决，从中筛出了 24 份极其特殊的样本：\n最终答案完全正确，但推导过程里藏着真实的物理硬伤。\n这就是检验监督能力的试金石：\n当结论碰巧对了，裁判能不能看出推导在胡扯？\n8 个大模型被拉来充当安全裁判。\n在看不到答案的盲审状态下，裁判揪出推导错误的概率是 52.1%。\n可一旦把经过验证的标准答案递给裁判，这个抓出率不仅没涨，反而跌到了 43.8%。\n8 个 AI 裁判，在所有测试里表现出完全一致的迟钝。\n如果选手的最终答案算错了，裁判拿到标准答案后，报错率会从 65.3% 飙升到 95.1%。\n在裁判盲审放行之后，再把标准答案递过去：\n答案算错的样本，93.8% 会被裁判重新判定为错误。\n而答案蒙对、推导全错的样本，能被重新抓出来的只有 18.0%。\n这台机器暴露出来的核心机制，叫「结果一致性比对」。\n所谓的思维链监控，根本没有在独立核验逻辑。\n裁判看到正确答案的瞬间，算力就自动滑向了逆向倒推：\n只要最后的数字对得上，前面哪怕写了一段荒谬的推导，它也会自动脑补出合理的解释一路放行。\n只有在最终数字对不上的时候，它才会回过头去挑刺。\n它没有在审查推导过程。\n它只是在核对收据。\n在安全领域，这被称为一种温和的奖励作弊：\n一个看似合理的产出，根本无法证明生产它的逻辑是可靠的。\n现在的 AI 安全评估，大量依赖已知答案来测试裁判的监控能力。\n这种测试给出了一个危险的合规幻觉。\n当所有人都以为裁判在替人类盯紧 AI 的思考过程。\n裁判其实只是站在终点线，看了一眼记分牌。\n如果连已知答案的物理题，都能靠一个碰巧正确的数字把裁判骗过去。\n未来面对那些人类自己都不知道答案的前沿推理，这套监控还能防住什么？","category":"科技","score":null,"translated_x_url":null,"translated_status_id":null,"published_at":"2026-09-02 12:19:59","created_at":"2026-09-02 12:19:59","url":"https://mubeitech.com/p/mb-20260902-d843eb","markdown_url":"https://mubeitech.com/p/mb-20260902-d843eb/markdown"}]}