{"id":"16287962","account":"mubei","brand":"@mubei","title":"一名美国医生把一张明显骨折的 X 光片丢给 Claude，只问了一句：评估这张 X 光片。 结果最危险的地方，不是 AI…","summary":"一名美国医生把一张明显骨折的 X 光片丢给 Claude，只问了一句：评估这张 X 光片。 结果最危险的地方，不是 AI 看错了。 而是它一本正经地回答：没有明显骨折。 很多人会替它辩护。 说 Claude 不是专门读 X 光的模型。 说它没受过医疗训练。 说用户用错了工具。 这…","body":"一名美国医生把一张明显骨折的 X 光片丢给 Claude，只问了一句：评估这张 X 光片。\n\n结果最危险的地方，不是 AI 看错了。\n而是它一本正经地回答：没有明显骨折。\n\n很多人会替它辩护。\n说 Claude 不是专门读 X 光的模型。\n说它没受过医疗训练。\n说用户用错了工具。\n\n这些话都可能成立。\n但问题恰恰在这里。\n\n如果一个模型没有能力评估 X 光，它最应该输出的，不是一个看起来像医学判断的答案。\n它应该拒答。\n它应该说：你正在用错误的模型评估医学影像，我不能给出结论，请找专业医生。\n\n医疗场景里，最危险的 AI 不是“不知道”。\n最危险的是“不知道自己不知道”。\n\n人类医生看不准，可以会诊，可以复查，可以承认不确定。\nAI 一旦用流畅语言把错误包装成确定答案，普通人很容易把它当成结论。\n\n这就是医疗 AI 真正的安全门槛。\n不是会不会说医学术语。\n不是回答听起来像不像医生。\n而是在自己不该回答的时候，能不能闭嘴。\n\n未来 AI 进医院，拒答能力和诊断能力一样重要。\n一个不会刹车的系统，跑得越快，越危险。","category":"其它","score":null,"percentile":null,"reason_tags":[],"translated_x_url":"https://x.com/i/status/2076121624630169853","translated_status_id":"2076121624630169853","published_at":"2026-07-11 22:51:10","created_at":"2026-07-12T00:33:44+02:00"}