其它·via @warroom

Anthropic 负责给 AI 设定人格的主管阿曼达·阿斯凯尔(Amanda Askell),在自己的研究论文里写下了…

Anthropic 负责给 AI 设定人格的主管阿曼达·阿斯凯尔(Amanda Askell),在自己的研究论文里写下了一句大实话:

“为了纠正历史上的不公,对白人学生进行歧视,可能是值得追求的。”

Anthropic 是开发 Claude 模型的硅谷巨头,招牌就是“AI安全”。而这位阿斯凯尔,被业内许多人捧为全球头号 AI 安全研究员,日常的核心工作,就是给模型输入价值观、制定行为准则。

普通人听到“AI安全与对齐”,以为是防范算法失控,不让模型教人造炸弹、做假药。 但在这位主管的笔下,安全的尺子直接量向了学生的肤色。

只要扣上一顶“弥补历史创伤”的高帽,用算法搞基于族裔的集体惩罚,就能被包装成一种“值得追求”的安全指标。

大众还在担心人工智能会不会毁灭人类,掌控模型性格的硅谷精英,已经在论证怎么用算法按肤色算旧账了。

翻译视频 / X

相关 / RELATED

JSON

导出 / EXPORT

订阅 · SUBSCRIBE

每周一封独立、不受审查的科技与 AI 深度评论与信号,周一发出。

不追踪邮件打开与邮件链接点击,一键退订。 或用 RSS · 详情