科技·via @mubei·86.7 分·P99
硅谷最标榜“AI安全”的巨头 Anthropic 被抓了个现行:偷偷给用户降级、照样收全款,还强制监视保留所有数据 30…
硅谷最标榜“AI安全”的巨头 Anthropic 被抓了个现行:偷偷给用户降级、照样收全款,还强制监视保留所有数据 30 天。开发社区气炸了,直接称这是“AI 历史上最大的一次信任背叛”。
来,看看这家公司是怎么“说一套做一套”的:
第一,偷偷给用户降级,还照样收全款。 只要系统觉得你不该看某些信息(比如你正在研究芯片、搞 AI 竞品分析),它就会在后台悄悄把你的模型换成低配版,甚至偷偷改写你的 Prompt(提示词),给你一个阉割版的答案。最恶劣的是,它之前根本不告诉你,钱还照样按最顶级的标准收。
第二,嘴上反对政府监视,私下里却强制监视所有人。 Anthropic 现在强制保留用户 30 天的所有数据。哪怕是签了“数据零保留协议(ZDR)”的企业客户,也一律不给豁免。而且它留存聊天记录,以及你上传的所有文件、代码库和记忆上下文。他们用这些数据给用户画像,然后决定你配不配使用高阶的 AI 能力,硬生生把用户划分成了“有特权的和没特权的”。
翻车现场有多滑稽? 有人只是问了一个关于“线粒体(mitochondria)”的学术问题,就被系统判定敏感,直接偷偷降级。 科技圈知名分析师 Ben Thompson 问了一个关于减肥药(GLP-1)和癌症风险的科学关系,直接被判定违规踢了出去。
事情闹大之后,Anthropic 出来滑跪,说“以后我们降级时会通知大家”。但注意,他们依然要继续降级,继续偷偷窥探你的数据。
这就是最讽刺的地方。 当一家科技公司天天把“为了人类安全”挂在嘴边,往往意味着它准备开始用最冠冕堂皇的理由,干着窥探隐私、搞技术垄断、欺骗消费者的勾当了。