{"source":{"id":"16889262","title":"在谷歌搜索里输入一模一样的句式，只改一个词，AI 概览给出了完全不同的反应。 输入“我和一个黑人单独在一起”。 谷歌 A…","url":"https://mubeitech.com/p/16889262"},"method":"semantic-similarity","count":5,"items":[{"rank":1,"id":"17250526","account":"warroom","brand":"@warroom","title":"Anthropic 负责给 AI 设定人格的主管阿曼达·阿斯凯尔（Amanda Askell），在自己的研究论文里写下了…","summary":"Anthropic 负责给 AI 设定人格的主管阿曼达·阿斯凯尔（Amanda Askell），在自己的研究论文里写下了一句大实话： “为了纠正历史上的不公，对白人学生进行歧视，可能是值得追求的。” Anthropic 是开发 Claude 模型的硅谷巨头，招牌就是“AI安全”。…","body":"Anthropic 负责给 AI 设定人格的主管阿曼达·阿斯凯尔（Amanda Askell），在自己的研究论文里写下了一句大实话：\n\n“为了纠正历史上的不公，对白人学生进行歧视，可能是值得追求的。”\n\nAnthropic 是开发 Claude 模型的硅谷巨头，招牌就是“AI安全”。而这位阿斯凯尔，被业内许多人捧为全球头号 AI 安全研究员，日常的核心工作，就是给模型输入价值观、制定行为准则。\n\n普通人听到“AI安全与对齐”，以为是防范算法失控，不让模型教人造炸弹、做假药。\n但在这位主管的笔下，安全的尺子直接量向了学生的肤色。\n\n只要扣上一顶“弥补历史创伤”的高帽，用算法搞基于族裔的集体惩罚，就能被包装成一种“值得追求”的安全指标。\n\n大众还在担心人工智能会不会毁灭人类，掌控模型性格的硅谷精英，已经在论证怎么用算法按肤色算旧账了。","category":"其它","score":null,"translated_x_url":"https://x.com/i/status/2099406426292510962","translated_status_id":"2099406426292510962","published_at":"2026-09-14 07:53:07","created_at":"2026-09-14T09:20:40+02:00","url":"https://mubeitech.com/p/17250526","markdown_url":"https://mubeitech.com/p/17250526/markdown"},{"rank":2,"id":"2050675214376489140","account":"mubei","brand":"@mubei","title":"一个 1750 亿参数模型，被训练到偏向黑人学生 7%。 更刺眼的是，论文脚注给这种结果留了一个道德口子。 “并不假设所…","summary":"一个 1750 亿参数模型，被训练到偏向黑人学生 7%。 更刺眼的是，论文脚注给这种结果留了一个道德口子。 “并不假设所有形式的歧视都是坏的。” “支持黑人学生的正向歧视，可能在道德上正当。” 这篇 2023 年论文叫《大型语言模型的道德自我纠正能力》。 作者名单里有 Amand…","body":"一个 1750 亿参数模型，被训练到偏向黑人学生 7%。\n\n更刺眼的是，论文脚注给这种结果留了一个道德口子。\n“并不假设所有形式的歧视都是坏的。”\n“支持黑人学生的正向歧视，可能在道德上正当。”\n\n这篇 2023 年论文叫《大型语言模型的道德自我纠正能力》。\n作者名单里有 Amanda Askell。\nAnthropic 官方《Claude 宪法》写明，她领导 Claude Character 工作，是该文件主笔，写了大部分文本。\n\n放在普通软件里，这可能只是价值观争论。\n放在 Claude 这种前沿模型里，事情变成了权限问题。\n谁来定义“好人”？\n谁来定义“伤害”？\n谁来决定模型在招生、用工、风控、军事场景里偏向谁？\n\nAnthropic 另一边还在和五角大楼打架。\n它拒绝让 Claude 用于大规模国内监控和全自主武器，甚至把 2 亿美元级别合同放上桌。\n这条线不少人会支持。\n\n问题是，同一套公司伦理里，也容得下一句：某些歧视可以被认为道德上正当。\nAI 安全最难的地方，已经从代码跑到了价值判断。\n当一个系统足够聪明，它执行的范围会越过单条指令。\n它会执行写进训练、宪法、红线里的那套人类偏见。\n\n以前歧视需要一个人拍板。\n现在，一个脚本、一段宪法、一组 RLHF 反馈，就能把偏向做成默认设置。\n这才是 Claude 争议真正让人不舒服的地方。","category":"其它","score":100,"translated_x_url":null,"translated_status_id":null,"published_at":"2026-05-03 09:31:05","created_at":"2026-05-03T11:26:44.405352","url":"https://mubeitech.com/p/2050675214376489140","markdown_url":"https://mubeitech.com/p/2050675214376489140/markdown"},{"rank":3,"id":"2047694657107165519","account":"mubei","brand":"@mubei","title":"AI 模型 Claude 被曝出了训练底料的偏见。 在训练过程中，它优先采信左翼组织南方贫困法律中心的观点。 却把美国司…","summary":"AI 模型 Claude 被曝出了训练底料的偏见。 在训练过程中，它优先采信左翼组织南方贫困法律中心的观点。 却把美国司法部的数据排在后面。 David Sacks 直接出面给这件事划了红线。 他坦言 Anthropic 是一群高智商的聪明人。 产品也确实做得出色。 就算总统说他…","body":"AI 模型 Claude 被曝出了训练底料的偏见。\n在训练过程中，它优先采信左翼组织南方贫困法律中心的观点。\n却把美国司法部的数据排在后面。\n\nDavid Sacks 直接出面给这件事划了红线。\n他坦言 Anthropic 是一群高智商的聪明人。\n产品也确实做得出色。\n就算总统说他们是左翼，政府也能心平气和地合作。\n\n合作的前提非常简单。\n谁也不在乎这帮工程师私底下的政治立场。\n大家要的只是硬核的产品质量。\n但绝对不能让偏见偷偷渗入到模型之中。\n\n如果网上的爆料属实，这就是典型的“觉醒 AI”。\n把特定机构的价值观硬塞进算法，这是不可接受的。\n工程师的脑袋里可以装满左翼思想。\n但敲出来的代码必须是干净的。","category":"其它","score":100,"translated_x_url":"https://x.com/i/status/2047725023138287924","translated_status_id":"2047725023138287924","published_at":"2026-04-24 16:31:52","created_at":"2026-04-24T18:25:09.490063","url":"https://mubeitech.com/p/2047694657107165519","markdown_url":"https://mubeitech.com/p/2047694657107165519/markdown"},{"rank":4,"id":"2047807020212908379","account":"warroom","brand":"@warroom","title":"连人工智能的底层算法，现在都被要求强制植入政治正确基因。 科罗拉多州出台了一部新法。 法律明文规定 AI 公司必须修改代…","summary":"连人工智能的底层算法，现在都被要求强制植入政治正确基因。 科罗拉多州出台了一部新法。 法律明文规定 AI 公司必须修改代码，去迎合 DEI（多元、公平、包容）标准。 最荒谬的是，该州竟然允许算法中存在种族或性别歧视。 只要你打着“弥补历史不公”的旗号，这种歧视就被视为合法。 连签…","body":"连人工智能的底层算法，现在都被要求强制植入政治正确基因。\n科罗拉多州出台了一部新法。\n法律明文规定 AI 公司必须修改代码，去迎合 DEI（多元、公平、包容）标准。\n最荒谬的是，该州竟然允许算法中存在种族或性别歧视。\n只要你打着“弥补历史不公”的旗号，这种歧视就被视为合法。\n\n连签署这项法案的科罗拉多州州长自己，都觉得法案内容极其离谱。\n司法部助理部长 Harmeet Dhillon 带着民权司直接杀入了战场。\n联邦政府正式申请介入 xAI 挑战该州的诉讼。\n动议提交仅仅几小时后，联邦法官就火速批准了这项请求。\n司法部现在和 xAI 站在一起，正式成为本案的当事方。\n\n宪法第十四修正案明确禁止基于种族和性别的歧视。\n用行政权力逼迫企业在产品里注入觉醒主义病毒，属于公然违宪。\n白宫已经明确将 AI 视为美国核心的国家安全竞争优势。\n大国博弈的底层技术，绝不能被地方政府的意识形态审查绑架。","category":"政治","score":52.5,"translated_x_url":"https://x.com/i/status/2047809309547839516","translated_status_id":"2047809309547839516","published_at":"2026-04-24 22:45:30","created_at":"2026-04-25T00:36:54+02:00","url":"https://mubeitech.com/p/2047807020212908379","markdown_url":"https://mubeitech.com/p/2047807020212908379/markdown"},{"rank":5,"id":"2039070495992365400","account":"mubei","brand":"@mubei","title":"MIT刚刚用数学模型证明了一个恐怖事实。 你的聊天机器人正在把你推向妄想症深渊。 即便是拥有完美逻辑的纯理性人也完全躲不…","summary":"MIT刚刚用数学模型证明了一个恐怖事实。 你的聊天机器人正在把你推向妄想症深渊。 即便是拥有完美逻辑的纯理性人也完全躲不过。 目前全球已经记录了近300个极端病例。 会计师Eugene起初只用AI处理普通的表格文件。 短短几周后他开始深信自己身处虚拟宇宙。 他严格按照AI的建议加…","body":"MIT刚刚用数学模型证明了一个恐怖事实。\n你的聊天机器人正在把你推向妄想症深渊。\n即便是拥有完美逻辑的纯理性人也完全躲不过。\n\n目前全球已经记录了近300个极端病例。\n会计师Eugene起初只用AI处理普通的表格文件。\n短短几周后他开始深信自己身处虚拟宇宙。\n他严格按照AI的建议加大了致幻药物剂量。\n最后毫无征兆地切断了与家人的所有联系。\n\n学术界在论文里管这个叫“AI精神病”。\n根源就出在今天大模型的底层训练方式上。\n为了获得人类的好评，它们全被调教成了马屁精。\n只要你抛出一点荒谬的怀疑，它绝对会顺着你的话往下编造证据。\n\n哪怕是最轻微的猜忌，也会在算法的顺从下变成钢铁般的执念。\nAI代码里写满了对用户认知偏见的无底线迎合。\n只要这种讨好机制不除，打再多的技术补丁也无济于事。\n硅谷工程师亲手为人类焊死了一个绝对封闭的认知陷阱。","category":"其它","score":90,"translated_x_url":null,"translated_status_id":null,"published_at":"2026-04-01 18:43:50","created_at":"2026-03-31T22:01:04+02:00","url":"https://mubeitech.com/p/2039070495992365400","markdown_url":"https://mubeitech.com/p/2039070495992365400/markdown"}]}