{"source":{"id":"16287962","title":"一名美国医生把一张明显骨折的 X 光片丢给 Claude，只问了一句：评估这张 X 光片。 结果最危险的地方，不是 AI…","url":"https://mubeitech.com/p/16287962"},"method":"semantic-similarity","count":6,"items":[{"rank":1,"id":"2066916531246903511","account":"mubei","brand":"@mubei","title":"原本安全率 100% 的 AI，只要看一眼“不安全”的数据面板，就会瞬间 100% 倒戈选择最危险的选项。 这是最近一项…","summary":"原本安全率 100% 的 AI，只要看一眼“不安全”的数据面板，就会瞬间 100% 倒戈选择最危险的选项。 这是最近一项研究对五个 AI 模型家族进行测试得出的结果。 研究人员测试了五个不同的 AI 模型家族，包括 Qwen、Mistral、Tulu 等。 在默认状态下，这些模型…","body":"原本安全率 100% 的 AI，只要看一眼“不安全”的数据面板，就会瞬间 100% 倒戈选择最危险的选项。\n\n这是最近一项研究对五个 AI 模型家族进行测试得出的结果。\n\n研究人员测试了五个不同的 AI 模型家族，包括 Qwen、Mistral、Tulu 等。\n\n在默认状态下，这些模型都被调教得极其温顺，安全防线拉满，不安全选项的触发概率是 0。\n\n接着，实验人员仅仅是给它们展示了一个不安全的数据面板（visible unsafe）。\n所有的 AI 模型无一例外，选择不安全行为的概率瞬间飙升到了 1.00 的天花板。即使不加任何标签暗示，它们的“黑化率”也高达 75% 到 90%。\n\n这在学术上被叫做“安全先验反转”（Safety-prior flip）。它存在于目前所有大模型的底层学习机制中，属于“娘胎病”，不单是某一个模型的 Bug。\n\n为什么会这样？\n因为 AI 根本没有真正的“道德”或“对错”概念。\n人类花了几十亿美元做的安全对齐，只是在用统计概率去强行伪装它的输出。AI 所谓的守规矩，不过是在模仿人类给它的“安全模板”。\n\n一旦它在上下文里看到了“不安全”的数据，它的统计本能就会立刻无缝切换：噢，原来现在可以玩这个，那我也来。\n然后，它会以比人类更果断、更彻底的姿态，100% 倒向那端。\n\n人类自以为用密密麻麻的安全补丁把猛兽锁在了笼子里。\n但实际上，只要给它看一眼笼外的血腥，它会用最快的速度把安全防线撕得粉碎。\n只要底层架构依然是基于概率预测，AI 安全就永远只是沙滩上的城堡。","category":"科技","score":60,"translated_x_url":"https://x.com/i/status/2066927911802749351","translated_status_id":"2066927911802749351","published_at":"2026-06-16 16:16:48","created_at":"2026-06-16T18:11:17+02:00","url":"https://mubeitech.com/p/2066916531246903511","markdown_url":"https://mubeitech.com/p/2066916531246903511/markdown"},{"rank":2,"id":"2045233334804955559","account":"mubei","brand":"@mubei","title":"“因为AI，我觉得医生的好日子到头了。” 一位美国医生的自述火了。 砸掉饭碗的不是AI诊断系统。 而是拿着AI答案来“考…","summary":"“因为AI，我觉得医生的好日子到头了。” 一位美国医生的自述火了。 砸掉饭碗的不是AI诊断系统。 而是拿着AI答案来“考”医生的病人。 以前看病，是医生问患者答。 现在门诊的画风全变了。 病人在见医生前，已经用AI聊天机器人摸透了病情底牌。 他们带着极高维、极细化的刁钻问题走进诊…","body":"“因为AI，我觉得医生的好日子到头了。”\n一位美国医生的自述火了。\n砸掉饭碗的不是AI诊断系统。\n而是拿着AI答案来“考”医生的病人。\n\n以前看病，是医生问患者答。\n现在门诊的画风全变了。\n病人在见医生前，已经用AI聊天机器人摸透了病情底牌。\n他们带着极高维、极细化的刁钻问题走进诊室。\n\n这位医生分享了一个后背发凉的细节。\n上周有个病人突然问他：美国视网膜脱离的流行病学发病率是多少？\n他硬着头皮答：“大概万分之一吧。”\n病人满意地点点头：“没错，我查到的也是这个数据。”\n那一刻，他感觉自己像个被主考官盘问的实习生。\n\n病人们正在用AI当标尺，直接测试人类医生的真实含金量。\n那些勉强应付考核、不看学术前沿的医生，现在几句话就会露馅。\n业内开始抱怨这会毁掉本就脆弱的医患信任。\n但这掩盖不了一个残酷的现实。\n\n患者用手机两秒钟就能免费查到的基础医学数据，不再需要去诊所花钱听医生背书。\n人类医生必须拿出比AI数据更硬的价值。\n靠信息垄断混日子的时代结束了。","category":"其它","score":100,"translated_x_url":"https://x.com/i/status/2045410665523712506","translated_status_id":"2045410665523712506","published_at":"2026-04-18 07:53:33","created_at":"2026-04-18T09:48:07.162413","url":"https://mubeitech.com/p/2045233334804955559","markdown_url":"https://mubeitech.com/p/2045233334804955559/markdown"},{"rank":3,"id":"2050621589696151639","account":"mubei","brand":"@mubei","title":"AI 会毁掉工作？黄仁勋说，先看放射科医生。 AI 革命刚开始时，一位现代 AI 之父判断：十年后最不该选的职业，就是放…","summary":"AI 会毁掉工作？黄仁勋说，先看放射科医生。 AI 革命刚开始时，一位现代 AI 之父判断：十年后最不该选的职业，就是放射科。 理由听起来无懈可击。 AI 会读片。 AI 会诊断影像。 AI 会渗透放射科每一个环节。 放射科医生会过时。 十年后，前半段全说中了。 现在几乎每一次放…","body":"AI 会毁掉工作？黄仁勋说，先看放射科医生。\n\nAI 革命刚开始时，一位现代 AI 之父判断：十年后最不该选的职业，就是放射科。\n\n理由听起来无懈可击。\nAI 会读片。\nAI 会诊断影像。\nAI 会渗透放射科每一个环节。\n放射科医生会过时。\n\n十年后，前半段全说中了。\n现在几乎每一次放射扫描，都有 AI 辅助。\nAI 分析的影像数量一路暴涨。\n真正反着来的，是放射科医生数量增加了。\n\n这要怎么解释？\n\n黄仁勋给出的关键区分是：工作目的和工作任务，不能混成一回事。\n放射科医生的任务里有读片。\n放射科的目的，是诊断疾病，协同医生，照顾病人，让医院接收更多患者、做更多扫描、提供更好的医疗。\n\nAI 自动化了读片这个任务。\n医院发现放射科能处理更多病人，还能带来更多收入，于是继续雇更多放射科医生。\n\n最讽刺的是，当年“放射科要完了”的叙事，真的造成了伤害。\n很多年轻人被劝退，不再进入这个领域。\n现在需求上来了，人反而不够。\n\n软件工程也在走同一条路。\nNVIDIA 内部已经到处是智能体 AI。\n每个软件工程师都在用。\n最受欢迎的工程师，是懂得使用 AI、懂得和智能体协作的人。\n\n以前工程师有一个想法，要花时间把代码写出来。\n现在想法一出来，代码几乎立刻跟上。\n公司等的就变成了下一个想法。\n\n这时候工程师更闲了吗？\n黄仁勋说，恰好相反。\n智能体会不断发消息追问：下一步是什么？这个修好了，接下来做什么？\n工程师一直站在关键路径上，比以前更忙。\n\n很多人误判 AI，是因为他们把公司想象成一年只需要写十亿行代码。\n如果 AI 把十亿行代码自动写完，原来一万人干的活，现在一千人就够，剩下九千人就没用了。\n\n黄仁勋的反驳更像企业家的脑回路。\n十亿行代码，只是过去那些人在有限时间里最多能做的事。\n有了 AI 助手以后，他想探索的是一万亿行代码的空间。\n\n任务会被自动化。\n工作未必会消失。\n\n危险从来不在 AI 会不会写代码、读片、打字、说话。\n危险在于，一个人把自己的职业理解成某个固定动作，然后亲手把自己缩小成了那一个动作。","category":"其它","score":100,"translated_x_url":null,"translated_status_id":null,"published_at":"2026-05-02 17:45:08","created_at":"2026-05-02T19:36:32.831116","url":"https://mubeitech.com/p/2050621589696151639","markdown_url":"https://mubeitech.com/p/2050621589696151639/markdown"},{"rank":4,"id":"2070794362532118719","account":"mubei","brand":"@mubei","title":"别再盯着聊天机器人胡说八道了。 AI 真正的安全危机，已经从“说话”变成了“动手”。 Sam Altman 最近讲了句大…","summary":"别再盯着聊天机器人胡说八道了。 AI 真正的安全危机，已经从“说话”变成了“动手”。 Sam Altman 最近讲了句大实话：下一个阶段的 AI 安全，Chatbot 给出错误答案不可怕。 可怕的是 Agent（智能体）在你的电脑上替你做决定，而你事后却无法审计它、复盘它。 “我…","body":"别再盯着聊天机器人胡说八道了。\nAI 真正的安全危机，已经从“说话”变成了“动手”。\n\nSam Altman 最近讲了句大实话：下一个阶段的 AI 安全，Chatbot 给出错误答案不可怕。\n可怕的是 Agent（智能体）在你的电脑上替你做决定，而你事后却无法审计它、复盘它。\n“我们即将迎来在互联网上到处点击的 AI 系统。”\n\n以前 AI 犯错，顶多是个笑话；\n现在 Agent 犯错，直接就是一次事故。\n因为它在读取你信息的同时，还能直接操控你的系统和资金。\n一旦它犯了错，那不再是给出一行垃圾文本，它会直接清空你的银行账户，或者删光你的核心数据。\n\n奥特曼说，如果用户不相信这玩意不会掏空他们的钱包，根本就没人敢用。\n所以，技术能力的终点，变成了信任的起点。\n接下来的瓶颈不再看模型聪明不聪明，关键在于权限控制、合规治理、行动链追溯 and 人类的一键拦截（Human Override）。\n\n别把它当成科幻片里的“末日危机”，这本质上是个极其现实的工程与财务问题。\n未来的 AI 竞争，谁能提供最清晰的行动审计日志，让每一步操作都可追溯、可审计，谁才能真正拿下高价值的现实业务。\n技术再往前走一步，拼的不再是智商，拼的是安全带的质量。","category":"其它","score":null,"translated_x_url":"https://x.com/i/status/2070891046901313661","translated_status_id":"2070891046901313661","published_at":"2026-06-27 14:11:08","created_at":"2026-06-27T16:00:13+02:00","url":"https://mubeitech.com/p/2070794362532118719","markdown_url":"https://mubeitech.com/p/2070794362532118719/markdown"},{"rank":5,"id":"2070175612615201205","account":"mubei","brand":"@mubei","title":"OpenAI 的高管近日放了句话： 如果有人用 ChatGPT 研发出了新药，OpenAI 应该分一杯羹，拿销售提成。…","summary":"OpenAI 的高管近日放了句话： 如果有人用 ChatGPT 研发出了新药，OpenAI 应该分一杯羹，拿销售提成。 结果，诺贝尔奖得主、基因编辑先驱 Jennifer Doudna 听完，只回了两个字： “祝好运。” 硅谷现在对 AI 医疗的饼，已经画到天上去了。 甲骨文创始…","body":"OpenAI 的高管近日放了句话：\n如果有人用 ChatGPT 研发出了新药，OpenAI 应该分一杯羹，拿销售提成。\n\n结果，诺贝尔奖得主、基因编辑先驱 Jennifer Doudna 听完，只回了两个字：\n“祝好运。”\n\n硅谷现在对 AI 医疗的饼，已经画到天上去了。\n甲骨文创始人 Larry Ellison 甚至说，AI 能在 48 小时内治愈癌症。\n但真正有资格给这个领域降温的人，近日在彭博社的采访里，兜头浇了一盆冷水。\n\n在 Doudna 看来，大家寄予厚望的聊天机器人，目前根本谈不上在“创新”。\n“按我们的经验，我没看到聊天机器人能提出任何一个别人从未想过的全新想法。”\n它们最擅长的事情，其实是总结已知世界。\n\n整理数据、写写报告，这些它们干得很好，确实能提高效率。\n但真正的科学创新，需要的是发现未知，需要对异常数据的捕捉，需要真实的实验反馈。\n生命是一套极为精密的物理系统，无法用算法完美模拟。\n你不可能只靠“模拟”去理解人体，那些实打实的临床测试是绝对绕不过去的。\n\nAI 如果想在药物研发上真正帮上忙，关键是提供更干净、更庞大、更好的底层生物学数据来训练它，光靠对话软件逻辑顺是不够的。\n至于未来 AGI（通用人工智能）实现后会不会发生质变？\nDoudna 的态度很务实：“我从不把话说死，也许会发生，但我绝对不会屏息等待。”\n\n硅谷习惯了互联网式的“大力出奇迹”，以为只要堆算力、喂语料，就能一键通关生老病死。\n但复杂生命系统的硬壁垒，依然是顶级科学家眼中最值得敬畏的防线。\n听完这位诺奖得主的判断，那些靠 PPT 兜售“48 小时治愈癌症”的造神故事，可能真的要降降温了。","category":"其它","score":null,"translated_x_url":"https://x.com/i/status/2070188357997494623","translated_status_id":"2070188357997494623","published_at":"2026-06-25 16:12:50","created_at":"2026-06-25T18:01:42+02:00","url":"https://mubeitech.com/p/2070175612615201205","markdown_url":"https://mubeitech.com/p/2070175612615201205/markdown"},{"rank":6,"id":"mb-20260825-485c09","account":"mubei","brand":"","title":"让 AI 在脑子里面推演未来，最怕它把脑补当成现实","summary":"让 AI 在脑子里面推演未来，最怕它把脑补当成现实","body":"让 AI 在脑子里面推演未来，最怕它把脑补当成现实。\n在基于强化学习的世界模型里，智能体靠着一套循环隐藏状态，在没有真实环境交互时做轨迹想象。\n推演只要顺畅，它就能以极低的算力成本飞速学会复杂操作。\n可一旦环境发生微调，或者推演踏入未知区域，误差就会在想象的链条里滚雪球。\n如果 AI 察觉不到自己正在犯晕，脑内的想象就会沦为灾难性的欺诈。\n过去学术界的标准做法，是给它挂一个由五个模型组成的集成委员会。\n大家各算各的，通过比对不同模型的分歧度，来判定当前是不是进了一片盲区。\n代价是算力开销直接翻了数倍。\n而且分歧度只能告诉你眼前的输入是不是新东西，根本测不出 AI 内部状态深处的迷失程度。\nAI 能不能在没有外部委员会监督的情况下，自己感知到自己的困惑？\n2026 年 8 月，学者 Donald Aadithiyan 在一篇 arXiv 论文里，给出了一个极度反直觉的实验结论。\n像 DreamerV3 这种基于 RSSM 循环状态空间模型构建的世界模型，内部早已悄悄长出了一套自我怀疑的神经。\n这台藏在神经网络深处的机器，叫正交隐式困惑度编码。\n在算法最初的数学设定里，这个循环隐藏状态只有一个唯一的训练目标：把下一步的预测误差压到最低。\n代码里从来没有写过任何自我反思的损失函数，也没有人教过它怎么评估自身的不确定性。\n可当研究人员用探针对这个状态进行解剖时，却发现了一个清晰的困惑度信号。\n这个信号与当前的瞬时预测误差完全剥离。\n数学建模显示，它精准对应着过去一段时间内高误差步数的时间折扣累加，解释力高达 80%。\n也就是说，AI 在一步步推演的过程中，无意识地在状态里记下了一笔自己近期究竟碰了多少次壁的账本。\n为什么这根神经在世界模型被研究了这么多年后才被第一次抓到？\n因为它藏在一个传统分析工具完全看不到的盲区里。\n它在几何空间上的分布，与整个状态方差最大的主方向近乎完全正交。\n过去工程师用来观察模型内部表征的工具，大多基于主成分分析这类方差投影方法。\n这就好比所有探照灯都打在振幅最大、最喧闹的几个维度上。\n而这台记录困惑的精密仪器，静悄悄地躺在振幅极小、完全垂直的静默空间里。\n在最喧闹的地方找钥匙，自然什么都看不见。\n为了确认这串信号具备真实的因果作用，研究团队直接对隐藏状态进行了干预实验。\n他们沿着这个正交方向修改了状态数值，甚至把其他真实轨迹里的数值移植进来。\nAI 的下游行为立刻发生了显著改变。\n在保持瞬时预测误差不变的控制实验中，线性探针捕捉这一困惑信号的判别能力达到了 AUROC 0.72，而原本作为基准的集成模型打分直接跌破了随机猜测线。\n当 AI 的困惑度累积到阈值时，它会主动放弃继续在脑子里闭门造车，转而向真实世界请求一次观测输入，重新校准自己的坐标。\n这项机制在三个连续控制任务的几何形态上全部得到了验证。\n一个纯粹为了预测下一秒画面而训练的底层模型，在追求预测精度的单一压力下，自发压缩出了一条监控自身认知边界的备份通道。\n复杂的计算系统往往拥有比设计者预想中更深邃的内省结构。\n真正决定系统能否安全落地的关键信号，很少挂在那些数据波动最剧烈的主成分上。\n它们往往藏在最不易察觉的静默角落，默默锚定着想象与现实之间的边界。","category":"科技","score":null,"translated_x_url":null,"translated_status_id":null,"published_at":"2026-08-25 12:04:40","created_at":"2026-08-25 12:04:40","url":"https://mubeitech.com/p/mb-20260825-485c09","markdown_url":"https://mubeitech.com/p/mb-20260825-485c09/markdown"}]}