教克劳德(Claude)怎么做人的,不是计算机科学家。 是一位哲学博士。
教克劳德(Claude)怎么做人的,不是计算机科学家。 是一位哲学博士。 经常用 Claude 的人都有个直观感觉:它说话温和、克制,甚至透着一种老派学者的从容。 这是靠纯算法调参调出来的? 真不是。
Anthropic 联合创始人达妮埃拉·阿莫代伊(Daniela Amodei)在访谈里讲了实情。 给 Claude 塑造性格与伦理边界的核心人物,叫阿曼达·阿斯克尔(Amanda Askell)。 大家都以为在顶级实验室做性格对齐的,肯定是研究了几十年算法的计算机专家。 结果阿曼达拿的,是哲学博士学位。
哲学博士怎么教大模型? 阿曼达懂技术,也亲自上手做工程训练。 但达妮埃拉说,用户在跟 Claude 交互时感受到的那种智慧,完全来自阿曼达注入的哲学底色。 就像是你内心深处那个更善良的天使,在尽力回答你的问题。
最能看出她痕迹的,是那些争议最大的伦理地带。 遇到不同哲学流派激烈碰撞的难题,很多模型要么机械站队,要么生硬胡扯。 Claude 却总能平静地展开多重视角:这件事你可以从这个角度看,但换一个立场,完全是另一种解释。 用达妮埃拉的话说,只要你拿这种哲学深水区的问题去试它,你立刻就能感受到阿曼达的存在。
为什么非要费这个劲? 因为全世界对大模型的依赖正在飞速加深。 伦理和道德极其复杂,不同的文化对对错的理解根本不可能完全一致。 达妮埃拉的思路很明确:绝不能把模型锁死在单一的哲学流派里。 代码交给工程师,怎么理解复杂的人性,交给哲学博士。
近期实时流信号 / STREAM SIGNALS
返回实时流 →首发与规范引用:墓碑科技 MUBEITECH(https://mubeitech.com/p/17832046)
导出 / EXPORT
订阅 · SUBSCRIBE
每周一封独立、不受审查的科技与 AI 深度评论与信号,周一发出。