科技AI 与大模型·via @mubei

把 6 个专门给大模型挑刺的外人,直接请进公司核心区。 发公司电脑,安排固定工位,当准员工供着。

把 6 个专门给大模型挑刺的外人,直接请进公司核心区。 发公司电脑,安排固定工位,当准员工供着。 AI 巨头 Anthropic 刚开了这个先例。

权限给得有多夸张? 登录内网、调用工具、接触内部团队,几乎跟他们自家的风险控制团队平起平坐。 外部机构能查到这个深度,以前谁敢想?

以往大模型厂商搞安全评估,怎么玩? 基本是既当运动员,又当裁判。 真测出什么要命缺陷,一纸保密协议就锁死在抽屉里。 发出来的全是公关包装好的自夸通稿。

这次全反过来了。 外部非营利机构 METR 进驻之后,Anthropic 明确放弃了对评估报告的发布否决权。 只要不涉及少数极度敏感的内容,评估结果他们想发就发。 就算公司要求删改,METR 甚至被允许公开评价这种删节到底合不合理。

这是彻底开源或者裸奔了吗? 显然不是。 客户隐私数据、法律特权信息和模型核心架构,公司依然牢牢握着删节权。

但底线归底线,挑刺的工位已经实打实搬进了内网。 6 个外部人员,6 台特批电脑。 动真格的第三方审查,总算从公关口号走进了物理办公室。

翻译视频 / X 同步发布

近期实时流信号 / STREAM SIGNALS

返回实时流 →

首发与规范引用:墓碑科技 MUBEITECH(https://mubeitech.com/p/2110802609678450830) · X 同步推文:https://x.com/i/status/2110806820596150463

导出 / EXPORT

订阅 · SUBSCRIBE

每周一封独立、不受审查的科技与 AI 深度评论与信号,周一发出。

不追踪邮件打开与邮件链接点击,一键退订。 或用 RSS · 详情