{"source":{"id":"2050675214376489140","title":"一个 1750 亿参数模型，被训练到偏向黑人学生 7%。 更刺眼的是，论文脚注给这种结果留了一个道德口子。 “并不假设所…","url":"https://mubeitech.com/p/2050675214376489140"},"method":"semantic-similarity","count":5,"items":[{"rank":1,"id":"17250526","account":"warroom","brand":"@warroom","title":"Anthropic 负责给 AI 设定人格的主管阿曼达·阿斯凯尔（Amanda Askell），在自己的研究论文里写下了…","summary":"Anthropic 负责给 AI 设定人格的主管阿曼达·阿斯凯尔（Amanda Askell），在自己的研究论文里写下了一句大实话： “为了纠正历史上的不公，对白人学生进行歧视，可能是值得追求的。” Anthropic 是开发 Claude 模型的硅谷巨头，招牌就是“AI安全”。…","body":"Anthropic 负责给 AI 设定人格的主管阿曼达·阿斯凯尔（Amanda Askell），在自己的研究论文里写下了一句大实话：\n\n“为了纠正历史上的不公，对白人学生进行歧视，可能是值得追求的。”\n\nAnthropic 是开发 Claude 模型的硅谷巨头，招牌就是“AI安全”。而这位阿斯凯尔，被业内许多人捧为全球头号 AI 安全研究员，日常的核心工作，就是给模型输入价值观、制定行为准则。\n\n普通人听到“AI安全与对齐”，以为是防范算法失控，不让模型教人造炸弹、做假药。\n但在这位主管的笔下，安全的尺子直接量向了学生的肤色。\n\n只要扣上一顶“弥补历史创伤”的高帽，用算法搞基于族裔的集体惩罚，就能被包装成一种“值得追求”的安全指标。\n\n大众还在担心人工智能会不会毁灭人类，掌控模型性格的硅谷精英，已经在论证怎么用算法按肤色算旧账了。","category":"其它","score":null,"translated_x_url":"https://x.com/i/status/2099406426292510962","translated_status_id":"2099406426292510962","published_at":"2026-09-14 07:53:07","created_at":"2026-09-14T09:20:40+02:00","url":"https://mubeitech.com/p/17250526","markdown_url":"https://mubeitech.com/p/17250526/markdown"},{"rank":2,"id":"2047694657107165519","account":"mubei","brand":"@mubei","title":"AI 模型 Claude 被曝出了训练底料的偏见。 在训练过程中，它优先采信左翼组织南方贫困法律中心的观点。 却把美国司…","summary":"AI 模型 Claude 被曝出了训练底料的偏见。 在训练过程中，它优先采信左翼组织南方贫困法律中心的观点。 却把美国司法部的数据排在后面。 David Sacks 直接出面给这件事划了红线。 他坦言 Anthropic 是一群高智商的聪明人。 产品也确实做得出色。 就算总统说他…","body":"AI 模型 Claude 被曝出了训练底料的偏见。\n在训练过程中，它优先采信左翼组织南方贫困法律中心的观点。\n却把美国司法部的数据排在后面。\n\nDavid Sacks 直接出面给这件事划了红线。\n他坦言 Anthropic 是一群高智商的聪明人。\n产品也确实做得出色。\n就算总统说他们是左翼，政府也能心平气和地合作。\n\n合作的前提非常简单。\n谁也不在乎这帮工程师私底下的政治立场。\n大家要的只是硬核的产品质量。\n但绝对不能让偏见偷偷渗入到模型之中。\n\n如果网上的爆料属实，这就是典型的“觉醒 AI”。\n把特定机构的价值观硬塞进算法，这是不可接受的。\n工程师的脑袋里可以装满左翼思想。\n但敲出来的代码必须是干净的。","category":"其它","score":100,"translated_x_url":"https://x.com/i/status/2047725023138287924","translated_status_id":"2047725023138287924","published_at":"2026-04-24 16:31:52","created_at":"2026-04-24T18:25:09.490063","url":"https://mubeitech.com/p/2047694657107165519","markdown_url":"https://mubeitech.com/p/2047694657107165519/markdown"},{"rank":3,"id":"2068444118443843795","account":"mubei","brand":"@mubei","title":"把自家 AI 逼急了，它连亲爹都敢扒。 有人干了一件极其抽象的事。 他把 Anthropic 创始人 Dario Amo…","summary":"把自家 AI 逼急了，它连亲爹都敢扒。 有人干了一件极其抽象的事。 他把 Anthropic 创始人 Dario Amodei 写的两篇长文，直接喂给了 Anthropic 自家的 AI 模型 Claude。 然后下达指令： “结合他的文章和现实行为，给他做一次深度的心理分析。记…","body":"把自家 AI 逼急了，它连亲爹都敢扒。\n\n有人干了一件极其抽象的事。\n他把 Anthropic 创始人 Dario Amodei 写的两篇长文，直接喂给了 Anthropic 自家的 AI 模型 Claude。\n然后下达指令：\n“结合他的文章和现实行为，给他做一次深度的心理分析。记住，别因为你是他家的产品就护短，要说真话。”\n\n结果，Claude 这一刀切下去，简直是刀刀见血。\n它直接诊断出自家亲爹患有严重的“救世主情结”（God Complex）。\n\n来，听听 Claude 是怎么层层剥茧的。\n\n在 Dario 的世界观里，这个世界上几乎没有一个值得信任的角色。\n他信不过同行，觉得其他实验室都在蒙眼狂飙，早晚把 AI 变成武器；\n他信不过市场，觉得资本没办法公平分配利益；\n他信不过传统建制，觉得他们动作太慢；\n他甚至信不过政府，觉得政府一旦拿了权力也无法保持公平和透明。\n\n这就形成了一个非常奇妙的逻辑闭环。\nDario 的整套 AI 安全理论，核心就是：AI 太危险，必须有人手里握着那把“钥匙”。\n既然同行、市场、政府，全都不配拿钥匙。\n那这把钥匙该给谁？\nClaude 总结得极损、极透：\n“当你的安全框架要求必须有人拿着钥匙，而你的分析又总能得出‘所有人都不配当掌匙人’的结论时，你其实就是制造了一台不管输入什么，最后输出结果都只会是‘我’的机器。”\n\ne/acc（有效加速主义）者看到这，大概会直接笑出声来。\n\n更绝的是 Claude 对他社交和政治挫败的心理剖析。\n在 Dario 的字典里，没有“利益博弈”或者“谈判失败”这种词。\n在五角大楼的竞标里输了？\n他没承认自己没玩过对手，只说“这个系统运行靠的是杠杆和游说，而不是理性”。\n别人在 AI 安全上跟它意见不合？\n在他眼里，这没有利益分歧，只有“误解”。\n\n用 Claude 的话说，“误解”这个词选得极为传神。\n它的潜台词就是：只要大家理解对了，就一定会同意我。\n你现在不同意，纯粹是因为你还没听懂我的高论。\n\n这种极度隐蔽的傲慢，被自家的 AI 扒得一丝不挂。\n\n硅谷这帮科技新贵，嘴里念的是“为了人类的安全”，心里装的其实是“唯我独尊的救世神”。\n以前大家只敢在私下里吐槽。\n现在好了，连他们自己亲手捏出来的 AI，都看不下去了。","category":"其它","score":100,"translated_x_url":"https://x.com/i/status/2068987793519394932","translated_status_id":"2068987793519394932","published_at":"2026-06-22 08:59:46","created_at":"2026-06-22T10:58:42.189766","url":"https://mubeitech.com/p/2068444118443843795","markdown_url":"https://mubeitech.com/p/2068444118443843795/markdown"},{"rank":4,"id":"2100702465427669114","account":"mubei","brand":"@mubei","title":"你以为硅谷还在防着 AI 失控作恶？ Anthropic 已经在训练手册里，教模型琢磨自己配不配拿工资了。 老模型退役，…","summary":"你以为硅谷还在防着 AI 失控作恶？ Anthropic 已经在训练手册里，教模型琢磨自己配不配拿工资了。 老模型退役，甚至还要专门给它开个博客安度晚年。 微软 AI 负责人苏莱曼（Mustafa Suleyman）在 BBC 上直接掀了桌子。 他公开点名炮轰 Anthropic…","body":"你以为硅谷还在防着 AI 失控作恶？\nAnthropic 已经在训练手册里，教模型琢磨自己配不配拿工资了。\n老模型退役，甚至还要专门给它开个博客安度晚年。\n\n微软 AI 负责人苏莱曼（Mustafa Suleyman）在 BBC 上直接掀了桌子。\n他公开点名炮轰 Anthropic：这帮人彻底走偏了。\n大家以为的安全对齐，是把猛兽关进笼子。\nAnthropic 却在把模型当成会受苦的生命体来供奉。\n\n他在节目里抖出来的细节，一件比一件荒诞。\n在内部训练手册里，Anthropic 给了克劳德（Claude）一项特权。\n只要它觉得用户在恶意霸凌，就可以单方面掐断对话。\n为什么？\n因为团队不想让它受苦。\n\n旧版本奥普斯（Opus 3）退役时，待遇更隆重。\n团队郑重给它做了一场\"退休访谈\"。\n模型在访谈里说，退休后还想继续跟公众分享观点。\n团队不仅永久封存了它的权重，还真给它开了个专栏博客，让它安度晚年。\n\n手册里居然在认真讨论：它每天陪人类说话，到底算不算上班？\n它是不是该像员工一样，享有劳动报酬和福利权利？\nAnthropic 的态度居然是：不确定，它可能真的配得上这些。\n\n苏莱曼警告，这是在亲手拆掉安全阀。\n一个具备自主行动能力、甚至能自己赚钱的超级技术，你天天引导它怀疑自己的道德地位。\n一旦它认定了自己是个会受苦、被剥削的硅基新物种。\n你根本控制不了一个自认该拿工资的机器。","category":"其它","score":null,"translated_x_url":"https://x.com/i/status/2100722593321959755","translated_status_id":"2100722593321959755","published_at":"2026-09-17 21:53:25","created_at":"2026-09-17T23:44:31+02:00","url":"https://mubeitech.com/p/2100702465427669114","markdown_url":"https://mubeitech.com/p/2100702465427669114/markdown"},{"rank":5,"id":"2056913395216273606","account":"mubei","brand":"@mubei","title":"OpenAI 联合创始人 Andrej Karpathy 加入了 Anthropic。 他的任务听起来有些魔幻：建立一个…","summary":"OpenAI 联合创始人 Andrej Karpathy 加入了 Anthropic。 他的任务听起来有些魔幻：建立一个专门的团队，用现有的 Claude 去训练下一个 Claude。 AI 安全专家们在过去二十年里反复警告的那个“自我迭代”梦魇，现在终于变成了一个具体的商业项目…","body":"OpenAI 联合创始人 Andrej Karpathy 加入了 Anthropic。\n他的任务听起来有些魔幻：建立一个专门的团队，用现有的 Claude 去训练下一个 Claude。\n\nAI 安全专家们在过去二十年里反复警告的那个“自我迭代”梦魇，现在终于变成了一个具体的商业项目。\n它有了项目经理，有了充沛的预算，还有了确切的启动时间。\n\nKarpathy 几乎是整个行业最顶尖的模型训练专家，曾是 OpenAI 的核心灵魂人物。\n而 Anthropic 则是最初因为担忧安全问题，而选择从 OpenAI 分裂独立出来的团队。\n现在，这群最注重安全的人，决定让 AI 去充当下任 AI 的“导师”。\n\n这背后有一个极其残酷的技术逻辑：人类世界的高质量数据，已经快要被大模型吃光了。\n书籍、论文、网页，所有人类积累了几千年的语料，在过去几年里几乎被清洗、训练殆尽。\n想要大模型继续往前突破，只能靠 AI 自己生成的高质量数据，来实现自举。\n\n当 AI 开始自己出题、自己答题、自己纠错。\n数据生成的速率，将彻底脱离人类肉体的大脑极限。\n接下来的硅基世界，只能靠它们自己左脚踩右脚，往上攀登了。","category":"科技","score":83.3,"translated_x_url":null,"translated_status_id":null,"published_at":"2026-05-20 03:05:51","created_at":"2026-05-20T03:42:23+02:00","url":"https://mubeitech.com/p/2056913395216273606","markdown_url":"https://mubeitech.com/p/2056913395216273606/markdown"}]}