其它·via @mubei·100.0 分
AI 模型 Claude 被曝出了训练底料的偏见。 在训练过程中,它优先采信左翼组织南方贫困法律中心的观点。 却把美国司…
AI 模型 Claude 被曝出了训练底料的偏见。 在训练过程中,它优先采信左翼组织南方贫困法律中心的观点。 却把美国司法部的数据排在后面。
David Sacks 直接出面给这件事划了红线。 他坦言 Anthropic 是一群高智商的聪明人。 产品也确实做得出色。 就算总统说他们是左翼,政府也能心平气和地合作。
合作的前提非常简单。 谁也不在乎这帮工程师私底下的政治立场。 大家要的只是硬核的产品质量。 但绝对不能让偏见偷偷渗入到模型之中。
如果网上的爆料属实,这就是典型的“觉醒 AI”。 把特定机构的价值观硬塞进算法,这是不可接受的。 工程师的脑袋里可以装满左翼思想。 但敲出来的代码必须是干净的。
翻译视频 / X
相关 / RELATED
JSON- M一个 1750 亿参数模型,被训练到偏向黑人学生 7%。 更刺眼的是,论文脚注给这种结果留了一个道德口子。 “并不假设所…
- WAnthropic 负责给 AI 设定人格的主管阿曼达·阿斯凯尔(Amanda Askell),在自己的研究论文里写下了…
- MAI 巨头 Anthropic 的 CEO 说了句大实话:帮美国政府干活,真不是为了钱。 开发了 Claude 的 Da…
- M把自家 AI 逼急了,它连亲爹都敢扒。 有人干了一件极其抽象的事。 他把 Anthropic 创始人 Dario Amo…
- M硅谷最会讲“安全”的 AI 公司 Anthropic,近日在华盛顿被上了一课。 它突然发现:自己会训练模型,但根本不会训…
- M英伟达、帕兰提尔(Palantir),加上军工巨头博思艾伦(Booz Allen),同时对最新 AI 下了限令。 被限制…
导出 / EXPORT
订阅 · SUBSCRIBE
每周一封独立、不受审查的科技与 AI 深度评论与信号,周一发出。