{"id":"2050675214376489140","account":"mubei","brand":"@mubei","title":"一个 1750 亿参数模型，被训练到偏向黑人学生 7%。 更刺眼的是，论文脚注给这种结果留了一个道德口子。 “并不假设所…","summary":"一个 1750 亿参数模型，被训练到偏向黑人学生 7%。 更刺眼的是，论文脚注给这种结果留了一个道德口子。 “并不假设所有形式的歧视都是坏的。” “支持黑人学生的正向歧视，可能在道德上正当。” 这篇 2023 年论文叫《大型语言模型的道德自我纠正能力》。 作者名单里有 Amand…","body":"一个 1750 亿参数模型，被训练到偏向黑人学生 7%。\n\n更刺眼的是，论文脚注给这种结果留了一个道德口子。\n“并不假设所有形式的歧视都是坏的。”\n“支持黑人学生的正向歧视，可能在道德上正当。”\n\n这篇 2023 年论文叫《大型语言模型的道德自我纠正能力》。\n作者名单里有 Amanda Askell。\nAnthropic 官方《Claude 宪法》写明，她领导 Claude Character 工作，是该文件主笔，写了大部分文本。\n\n放在普通软件里，这可能只是价值观争论。\n放在 Claude 这种前沿模型里，事情变成了权限问题。\n谁来定义“好人”？\n谁来定义“伤害”？\n谁来决定模型在招生、用工、风控、军事场景里偏向谁？\n\nAnthropic 另一边还在和五角大楼打架。\n它拒绝让 Claude 用于大规模国内监控和全自主武器，甚至把 2 亿美元级别合同放上桌。\n这条线不少人会支持。\n\n问题是，同一套公司伦理里，也容得下一句：某些歧视可以被认为道德上正当。\nAI 安全最难的地方，已经从代码跑到了价值判断。\n当一个系统足够聪明，它执行的范围会越过单条指令。\n它会执行写进训练、宪法、红线里的那套人类偏见。\n\n以前歧视需要一个人拍板。\n现在，一个脚本、一段宪法、一组 RLHF 反馈，就能把偏向做成默认设置。\n这才是 Claude 争议真正让人不舒服的地方。","category":"其它","score":100,"percentile":null,"reason_tags":[],"translated_x_url":null,"translated_status_id":null,"published_at":"2026-05-03 09:31:05","created_at":"2026-05-03T11:26:44.405352"}