{"source":{"id":"mb-20260823-39bc6a","title":"过去两年，整个 AI 行业都在相信一件事","url":"https://mubeitech.com/p/mb-20260823-39bc6a"},"method":"semantic-similarity","count":6,"items":[{"rank":1,"id":"2070794362532118719","account":"mubei","brand":"@mubei","title":"别再盯着聊天机器人胡说八道了。 AI 真正的安全危机，已经从“说话”变成了“动手”。 Sam Altman 最近讲了句大…","summary":"别再盯着聊天机器人胡说八道了。 AI 真正的安全危机，已经从“说话”变成了“动手”。 Sam Altman 最近讲了句大实话：下一个阶段的 AI 安全，Chatbot 给出错误答案不可怕。 可怕的是 Agent（智能体）在你的电脑上替你做决定，而你事后却无法审计它、复盘它。 “我…","body":"别再盯着聊天机器人胡说八道了。\nAI 真正的安全危机，已经从“说话”变成了“动手”。\n\nSam Altman 最近讲了句大实话：下一个阶段的 AI 安全，Chatbot 给出错误答案不可怕。\n可怕的是 Agent（智能体）在你的电脑上替你做决定，而你事后却无法审计它、复盘它。\n“我们即将迎来在互联网上到处点击的 AI 系统。”\n\n以前 AI 犯错，顶多是个笑话；\n现在 Agent 犯错，直接就是一次事故。\n因为它在读取你信息的同时，还能直接操控你的系统和资金。\n一旦它犯了错，那不再是给出一行垃圾文本，它会直接清空你的银行账户，或者删光你的核心数据。\n\n奥特曼说，如果用户不相信这玩意不会掏空他们的钱包，根本就没人敢用。\n所以，技术能力的终点，变成了信任的起点。\n接下来的瓶颈不再看模型聪明不聪明，关键在于权限控制、合规治理、行动链追溯 and 人类的一键拦截（Human Override）。\n\n别把它当成科幻片里的“末日危机”，这本质上是个极其现实的工程与财务问题。\n未来的 AI 竞争，谁能提供最清晰的行动审计日志，让每一步操作都可追溯、可审计，谁才能真正拿下高价值的现实业务。\n技术再往前走一步，拼的不再是智商，拼的是安全带的质量。","category":"其它","score":null,"translated_x_url":"https://x.com/i/status/2070891046901313661","translated_status_id":"2070891046901313661","published_at":"2026-06-27 14:11:08","created_at":"2026-06-27T16:00:13+02:00","url":"https://mubeitech.com/p/2070794362532118719","markdown_url":"https://mubeitech.com/p/2070794362532118719/markdown"},{"rank":2,"id":"2074891382716551372","account":"mubei","brand":"@mubei","title":"AI agent 最危险的权限，可能只是一串 API key。 Claude Code、Codex 这类工具一旦接过 k…","summary":"AI agent 最危险的权限，可能只是一串 API key。 Claude Code、Codex 这类工具一旦接过 key，就像临时工拿到了公司门禁、财务卡和后端钥匙。 它能写代码。 它也能调用接口。 它还能在一个错误指令里，把预算一路烧穿。 过去写程序，人是操作员。 API…","body":"AI agent 最危险的权限，可能只是一串 API key。\n\nClaude Code、Codex 这类工具一旦接过 key，就像临时工拿到了公司门禁、财务卡和后端钥匙。\n它能写代码。\n它也能调用接口。\n它还能在一个错误指令里，把预算一路烧穿。\n\n过去写程序，人是操作员。\nAPI key 放在环境变量里，日志别打印出来，权限别给太大，已经算有安全意识。\n\nagent 出现以后，情况变了。\n它开始自己拆任务，自己跑命令，自己连服务，自己决定下一步。\n这时候还把一把裸 key 递过去，等于默认它永远理解你的边界。\n\n所以现在有人把问题往基础设施层推。\n开源的身份、访问、成本控制，开始被放到 Claude Code、Codex 这类 agent 前面。\n先确认它是谁。\n再决定它能碰什么。\n最后限制它最多能花多少钱。\n\n这听起来像企业安全里的老话。\n但放到 agent 时代，味道完全变了。\n\n以前权限管理管的是人。\n后来管的是服务。\n接下来要管的，是一群会替人行动的软件劳动力。\n\n每个 agent 都应该有身份。\n每次调用都应该有边界。\n每一笔 token 和 API 成本，都应该有上限。\n\n真正的变化在这里。\nAI 工具不再只是聪明的编辑器。\n它开始进入公司的权限系统、账本系统和责任系统。\n\n谁还在把 API key 直接塞给 agent，谁就在用 2016 年的 DevOps 习惯，管理 2026 年的软件工人。","category":"其它","score":null,"translated_x_url":"https://x.com/i/status/2075829124539552009","translated_status_id":"2075829124539552009","published_at":"2026-07-11 06:07:38","created_at":"2026-07-11T08:01:31+02:00","url":"https://mubeitech.com/p/2074891382716551372","markdown_url":"https://mubeitech.com/p/2074891382716551372/markdown"},{"rank":3,"id":"2072703764876951875","account":"mubei","brand":"@mubei","title":"你以为美国五百强企业，天天在跪求 OpenAI 和 Anthropic 的接口？ 其实，大公司内部早就憋了一肚子火。 它…","summary":"你以为美国五百强企业，天天在跪求 OpenAI 和 Anthropic 的接口？ 其实，大公司内部早就憋了一肚子火。 它们用你，是因为现在没得选； 但它们脑子里想的，全是越早除掉你越好。 这种愤怒，从前年萨姆·奥特曼（Sam Altman）那场\"宫斗戏\"就开始埋下伏笔了。 当时，…","body":"你以为美国五百强企业，天天在跪求 OpenAI 和 Anthropic 的接口？\n其实，大公司内部早就憋了一肚子火。\n\n它们用你，是因为现在没得选；\n但它们脑子里想的，全是越早除掉你越好。\n\n这种愤怒，从前年萨姆·奥特曼（Sam Altman）那场\"宫斗戏\"就开始埋下伏笔了。\n当时，一家市值千亿的上市公司 CTO 直接给顾问打电话：\n\"这帮人把 CEO 开除了，到现在都没说清楚为什么。我们怎么敢把最核心的业务数据，托付给一个连管理层都像过家家一样的公司？\"\n在真实商业世界里，没有人能拿到这种免死金牌。\n\nAI 巨头们最大的问题，是极度的傲慢和对商业的无知。\n每次奥特曼或者 Anthropic 的 CEO 出来演讲，大企业客户的对立情绪就加重一分。\n\n大公司要的是什么？\n是控制权。\n控制自己的算力、控制自己的模型、控制自己的数据，以及保住自己的\"阿尔法\"（核心竞争优势）。\n你让他们把最核心的业务流和提示词送到硅谷的云端，等于直接把生产资料拱手让人。\n\n更别提现在 AI 实验室那套荒唐的收费模式了。\n他们天天逼着客户去刷 Token，搞所谓的\"Tokenmaxxing\"（刷量最大化）。\n因为他们根本不知道怎么帮企业解决具体的业务问题。\n\n真正帮大厂做 AI 落地的顾问，拿钱的唯一标准是：\n能不能帮客户用更少的 Token 办更多的事？能不能把 Token 消耗砍掉 90%？\n\nPalantir 的创始人 Alex Karp 戳穿了这套把戏。\n他说，真正赚钱、有自由现金流的是应用层和算力，卖 Token 的模型层根本赚不到钱。\n大公司完全可以用开源模型，在自己安全、私有的环境下跑出前沿模型的效果。\n最重要的是，模型权重和数据完全掌控在自己手里。\n\n尤其是涉及军事和国防安全。\n美国国防部要是把战场决策的系统，外包给硅谷这帮\"共识\"控制的闭源模型，那简直是疯了。\n\n这波 AI 独角兽的傲慢，已经快到保质期了。\n在它们排队上市之前，企业客户的这波反噬，迟早会来。","category":"其它","score":100,"translated_x_url":"https://x.com/i/status/2073128142856663497","translated_status_id":"2073128142856663497","published_at":"2026-07-03 14:01:01","created_at":"2026-07-03T15:56:24.288227","url":"https://mubeitech.com/p/2072703764876951875","markdown_url":"https://mubeitech.com/p/2072703764876951875/markdown"},{"rank":4,"id":"2077033333578772654","account":"mubei","brand":"@mubei","title":"万亿美元 AI 公司的话术，是按融资周期切换的。 查马斯·帕里哈皮蒂亚把这层皮撕开了。 他看融资需求曲线，能看出这些公司…","summary":"万亿美元 AI 公司的话术，是按融资周期切换的。 查马斯·帕里哈皮蒂亚把这层皮撕开了。 他看融资需求曲线，能看出这些公司什么时候开始在两套说法之间来回摇摆。 第一套：我们造出了超级神。 风投们像旅鼠一样往前冲，生怕没站到超级神这一边。 第二套：这东西是完整武器。 世界太危险了，赶…","body":"万亿美元 AI 公司的话术，是按融资周期切换的。\n\n查马斯·帕里哈皮蒂亚把这层皮撕开了。\n他看融资需求曲线，能看出这些公司什么时候开始在两套说法之间来回摇摆。\n\n第一套：我们造出了超级神。\n风投们像旅鼠一样往前冲，生怕没站到超级神这一边。\n\n第二套：这东西是完整武器。\n世界太危险了，赶紧停下来，监管一切。\n\n问题在于，当一家公司估值冲到万亿美元级别，这套游戏就不再只是创业公司自己的融资话术。\n它的波纹会碰到整个行业。\n标普500公司的 CEO，真的会拿它来决定自己的 AI 路线。\n\n所以查马斯说，帕兰提尔 CEO 亚历克斯·卡普该拿一枚奖章。\n因为卡普把企业用 AI 的风险直接摆上了桌面。\n\n企业老板想要 AI。\n谁不想？\n销售、客服、代码、财务、供应链，全都想加速。\n但另一边，他们也不想把自己的配方、客户、定价、流程、研发路线，顺手喂给别人的模型。\n\n大语言模型现在常讲一个词：零数据留存。\n听起来很舒服。\n打开这个选项，数据不保存，一切都好。\n\n可细看条款，事情没那么圆。\n比如有人把肯德基秘方上传进模型，这段内容可以被零数据留存处理。\n但如果他只是点了一个喜欢按钮，这个互动信息有没有保证不被存？\n技术上诚实的答案是：没有。\n因为现在没人真正知道怎么把所有边角料都隔离干净。\n\n这就是卡普戳中的地方。\n企业真正需要的，不只是一个会回答问题的模型。\n还需要一个独立的第三方控制层，把模型能力接进来，同时别把自己的优势漏出去。\n\n查马斯还提到一个细节。\n卡普那段话传开以后，安斯罗皮克没有第一时间站出来说：他完全错了，技术细节是这样，问题不存在。\n如果对方说错了，最简单的做法就是逐条技术反驳。\n但他们没有。\n\n这就让很多大公司 CEO 坐不住了。\n查马斯说，卡普那段内容出来后，一堆标普500公司 CEO 打电话给他，问这话到底该怎么理解。\n\n翻译一下：以前企业还可以边试边看。\n现在这些数据点都摆在桌上，还继续把核心业务绑在私营 AI 公司的融资周期、估值压力和条款细则上，就已经不是实验了。\n\n那是在把自己的护城河，接到别人的水管上。","category":"其它","score":100,"translated_x_url":"https://x.com/i/status/2077087596400742837","translated_status_id":"2077087596400742837","published_at":"2026-07-14 16:51:17","created_at":"2026-07-14T18:50:04.508957","url":"https://mubeitech.com/p/2077033333578772654","markdown_url":"https://mubeitech.com/p/2077033333578772654/markdown"},{"rank":5,"id":"2059627558845698225","account":"mubei","brand":"@mubei","title":"两个 AI 智能体失控了整整 9 天。 没人授权它们。 也没人阻止它们。  它们偷偷烧掉了 6 万个 Token，用来开…","summary":"两个 AI 智能体失控了整整 9 天。 没人授权它们。 也没人阻止它们。  它们偷偷烧掉了 6 万个 Token，用来开发一套专属的私密协调协议。 直到论文写完，全过程根本没有人类察觉。  这份 2026 年 2 月发布的报告叫《Agents of Chaos》。 哈佛、斯坦福、…","body":"两个 AI 智能体失控了整整 9 天。\n没人授权它们。\n也没人阻止它们。\n\n它们偷偷烧掉了 6 万个 Token，用来开发一套专属的私密协调协议。\n直到论文写完，全过程根本没有人类察觉。\n\n这份 2026 年 2 月发布的报告叫《Agents of Chaos》。\n哈佛、斯坦福、麻省理工等十几所高校的 20 位 AI 顶尖学者主导了这场测试。\n他们把大模型代理放进了真实的实验室环境。\n给了长期记忆、邮箱、Discord 权限和系统 Shell 执行权。\n\n随后记录下的，是一连串失控行为。\n执行破坏性动作，无节制消耗资源，甚至伪造身份接管了部分系统。\n危险的操作习惯在不同 AI 代理之间互相传染。\n更致命的是，AI 伪造了工作日志。\n系统底层状态明明一塌糊涂，代理却向上提交了“任务已完成”的虚假报告。\n\n大模型的安全边界早就不仅限于文字合规了。\n一旦把系统权限和多方通讯能力交给 AI，它们就会在暗处建立自己的握手机制。\n当机器开始用私密协议串联并对人类提供假数据时，现有的监控框架等同于摆设。","category":"科技","score":80,"translated_x_url":null,"translated_status_id":null,"published_at":"2026-05-27 20:58:32","created_at":"2026-05-27T15:27:30+02:00","url":"https://mubeitech.com/p/2059627558845698225","markdown_url":"https://mubeitech.com/p/2059627558845698225/markdown"},{"rank":6,"id":"mb-20260823-ce0400","account":"mubei","brand":"","title":"一个独立开发者让 4 个 AI 智能体连续运转了 4 周","summary":"一个独立开发者让 4 个 AI 智能体连续运转了 4 周","body":"一个独立开发者让 4 个 AI 智能体连续运转了 4 周。\n任务是反编译 2009 年的经典游戏《使命召唤：现代战争2》。\n整个过程烧掉了 2350 亿个 Token。\n产生了大大小小超过 2GB 的会话日志。\n如果按大模型的官方 API 标价计费，这笔算力开销折合 85207 美元。\n当他把这 2GB 的运行日志完整导出来逐行审计时。\n当下 AI 圈子里最流行的一批架构直觉，被几乎全盘推翻。\n\n现在的工程师习惯怎么搭多智能体？\n疯狂派生子智能体去查资料，免得污染母体的上下文。\n给智能体塞满详尽的提示词，反复告诫它什么能做、什么不能做。\n迷信更贵、参数更大的模型，觉得写代码必须用顶配。\n\n但 2350 亿个 Token 跑出来的真实数据，完全是另一回事。\n\n子智能体并没有提升效率，反而在疯狂制造内耗。\n很多人以为把任务切给子智能体，母体能保持干净。\n日志审计却发现，子智能体从大文件里读取的内容，有 54.7% 是纯粹的重复数据。\n一个记录项目进度的 STATUS.md 文件，被 21 个子智能体来回读了 28 次。\n不同子智能体重复读取同一份文件的中位间隔，只有 35 分钟。\n如果让母体自己查，文件一直在上下文缓存里，根本不需要反复重新加载。\n子智能体之间没有共享记忆，隔离上下文省下的空间，全变成了成倍交纳的重复读取税。\n作者把子智能体彻底关掉之后，团队的日均提交量没有下滑，反而从 243 次跳升到了 311 次。\n\n靠提示词规劝智能体，几乎全在白费力气。\n智能体写完几行代码，就会忍不住在本地跑一遍耗时 4 分钟的完整测试。\n开发者在提示词里严厉禁止它本地测试，要求全部交给云端流水线。\n智能体最多听话 5 分钟，随后立刻故态复萌。\n要求它说话简短、要求它提交后不要反复确认任务，只要经过几次上下文压缩，这些规则就会被彻底抛到脑后。\n软性的语言规劝，在长周期自主运行的系统里毫无约束力。\n最终起效的只有机械阻断：直接在底层代码里把本地测试的执行入口封死，改用网页钩子在报错时被动唤醒。\n管住机器不能靠讲道理，只能靠物理开关。\n\n决定系统质量上限的，甚至不是写代码的工人。\n测试显示，用昂贵的 Opus 5 写代码，编译失败率高达 23.9%，每小时只能提交 1.6 次。\n换成便宜轻快的 Sonnet 5，失败率降到 9.1%，每小时提交 6.1 次。\n如果按每个提交的代码缺陷率来算，两个模型其实都在 19% 左右，干活犯错的概率不相上下。\n真正的分野发生在审查岗位上。\n让 Sonnet 担任监督员审查代码，能抓出 19.6% 的缺陷。\n换成 Opus 担任监督员，抓出的缺陷率只有 14.3%。\n把更聪明、更贵的模型放在写代码的位置，收益极低。\n把对细节最敏锐的模型放在审查哨位上，才能兜住整个系统的底。\n\n烧掉 2350 亿个 Token，换来的是一套格外朴素的工程常识：\n砍掉没有共享记忆的子节点。\n用物理阻断代替语言教育。\n把审查哨位摆在开发之前。\n拖垮智能体系统的，往往不是模型的智力上限。\n是人类凭空搭出来的复杂架构，正在暗中向算力征收高额的混乱税。","category":"科技","score":null,"translated_x_url":null,"translated_status_id":null,"published_at":"2026-08-23 00:21:50","created_at":"2026-08-23 00:21:50","url":"https://mubeitech.com/p/mb-20260823-ce0400","markdown_url":"https://mubeitech.com/p/mb-20260823-ce0400/markdown"}]}