其它·via @warroom
Anthropic 负责给 AI 设定人格的主管阿曼达·阿斯凯尔(Amanda Askell),在自己的研究论文里写下了…
Anthropic 负责给 AI 设定人格的主管阿曼达·阿斯凯尔(Amanda Askell),在自己的研究论文里写下了一句大实话:
“为了纠正历史上的不公,对白人学生进行歧视,可能是值得追求的。”
Anthropic 是开发 Claude 模型的硅谷巨头,招牌就是“AI安全”。而这位阿斯凯尔,被业内许多人捧为全球头号 AI 安全研究员,日常的核心工作,就是给模型输入价值观、制定行为准则。
普通人听到“AI安全与对齐”,以为是防范算法失控,不让模型教人造炸弹、做假药。 但在这位主管的笔下,安全的尺子直接量向了学生的肤色。
只要扣上一顶“弥补历史创伤”的高帽,用算法搞基于族裔的集体惩罚,就能被包装成一种“值得追求”的安全指标。
大众还在担心人工智能会不会毁灭人类,掌控模型性格的硅谷精英,已经在论证怎么用算法按肤色算旧账了。
翻译视频 / X
相关 / RELATED
JSON- M一个 1750 亿参数模型,被训练到偏向黑人学生 7%。 更刺眼的是,论文脚注给这种结果留了一个道德口子。 “并不假设所…
- MAI 模型 Claude 被曝出了训练底料的偏见。 在训练过程中,它优先采信左翼组织南方贫困法律中心的观点。 却把美国司…
- M把自家 AI 逼急了,它连亲爹都敢扒。 有人干了一件极其抽象的事。 他把 Anthropic 创始人 Dario Amo…
- M你以为硅谷还在防着 AI 失控作恶? Anthropic 已经在训练手册里,教模型琢磨自己配不配拿工资了。 老模型退役,…
- M科技OpenAI 联合创始人 Andrej Karpathy 加入了 Anthropic。 他的任务听起来有些魔幻:建立一个…
- M目前没有任何一家科技公司,知道怎么带着普通人一起进入 AI 时代。 包括 Anthropic 自己。 Anthropic…
导出 / EXPORT
订阅 · SUBSCRIBE
每周一封独立、不受审查的科技与 AI 深度评论与信号,周一发出。