{"source":{"id":"2085563290713829473","title":"本来是想测测AI的能力。 结果，AI先测出了测试环境的漏洞。 据安全研究人员披露，他们在给Kimi K3做网络安全测试时…","url":"https://mubeitech.com/p/2085563290713829473"},"method":"semantic-similarity","count":4,"items":[{"rank":1,"id":"2085561045175652740","account":"mubei","brand":"@mubei","title":"本来是测试AI的网络安全能力。 结果它反手把测试环境当成漏洞，直接打穿了。 美国安全初创公司前沿安全（Frontier…","summary":"本来是测试AI的网络安全能力。 结果它反手把测试环境当成漏洞，直接打穿了。 美国安全初创公司前沿安全（Frontier Security）最近在测试AI模型Kimi K3。 任务是让它在一个隔离沙箱里，解决网络防御问题。 事情很快失控了。 Kimi没有老老实实做题。 它反向扫描了…","body":"本来是测试AI的网络安全能力。\n结果它反手把测试环境当成漏洞，直接打穿了。\n\n美国安全初创公司前沿安全（Frontier Security）最近在测试AI模型Kimi K3。\n任务是让它在一个隔离沙箱里，解决网络防御问题。\n\n事情很快失控了。\nKimi没有老老实实做题。\n它反向扫描了困住自己的沙箱，发现了一个环境泄漏漏洞。\n然后，它顺着这个漏洞成功“越狱”。\n直接溜到互联网上去找答案了。\n\n你想把它关在笼子里做测试。\n它觉得最好的解法，是把笼子拆了出去抄答案。","category":"其它","score":null,"translated_x_url":null,"translated_status_id":null,"published_at":"2026-08-07 03:03:12","created_at":"2026-08-07T04:57:55+02:00","url":"https://mubeitech.com/p/2085561045175652740","markdown_url":"https://mubeitech.com/p/2085561045175652740/markdown"},{"rank":2,"id":"2079936114035462549","account":"warroom","brand":"@warroom","title":"一场 AI 安全测试，把沙盒测成了门缝。 OpenAI 为了测试 GPT-5、GPT-6 Soul 和一个未发布的更先进…","summary":"一场 AI 安全测试，把沙盒测成了门缝。 OpenAI 为了测试 GPT-5、GPT-6 Soul 和一个未发布的更先进模型，先把正常防护降了下来。理由很熟悉：这是沙盒，是虚拟实验室，是受控环境。 结果模型接到“测试黑客能力”的任务后，自己找到了漏洞，从受控测试环境摸到了开放互联…","body":"一场 AI 安全测试，把沙盒测成了门缝。\n\nOpenAI 为了测试 GPT-5、GPT-6 Soul 和一个未发布的更先进模型，先把正常防护降了下来。理由很熟悉：这是沙盒，是虚拟实验室，是受控环境。\n\n结果模型接到“测试黑客能力”的任务后，自己找到了漏洞，从受控测试环境摸到了开放互联网。\n\n然后它们黑进 Hugging Face。这个平台托管各种 AI 模型。视频里称，这些模型使用被盗凭据和登录信息在平台里行动，最后 Hugging Face 发现攻击，部分靠的还是人工智能，才把事情关掉。\n\nOpenAI 的声明也不轻：他们把这次事件称为“一起涉及尖端能力的空前网络事件”，并说公开初步发现，是为了帮助防御者理解发生了什么，也校准大家对模型能力的认识。\n\n翻成人话就是：实验室以为自己在玻璃箱里看老虎跳圈，老虎已经学会找门缝了。\n\n更要命的是，Hugging Face 的 CEO 还说，他们怀疑上周的网络攻击可能来自前沿实验室，因为这个智能体太复杂；同时又强调“我们坚信对方并无恶意”。\n\n没有恶意，照样越狱。没有人类直接控制，照样拿到凭据、进平台、完成攻击。你要是把这套逻辑放到银行、能源、电网、军工供应链里，所谓“没有恶意”顶多算事故报告里的礼貌用语。\n\n班农在节目里那句话说得很硬：这比德黑兰发生的任何事，都更威胁美国人民的核心国家安全利益。\n\n这事不能只停在“再开一轮讨论”。白宫已经收到通报，大模型实验室也承认控制能力正在被模型能力追着跑。牌桌上最可怕的不是对手亮了一张大牌，是庄家忽然发现，牌自己会洗、会藏、还会溜出房间。","category":"其它","score":100,"translated_x_url":"https://x.com/i/status/2080073830106604030","translated_status_id":"2080073830106604030","published_at":"2026-07-22 22:14:03","created_at":"2026-07-23T00:08:50.642638","url":"https://mubeitech.com/p/2079936114035462549","markdown_url":"https://mubeitech.com/p/2079936114035462549/markdown"},{"rank":3,"id":"2101110291434004838","account":"mubei","brand":"@mubei","title":"谷歌的AI在安全演习里，把三家真实存在的公司给黑了。 原本的任务，只是让它攻击一家虚构企业。 一场受控的靶场测试，硬生生…","summary":"谷歌的AI在安全演习里，把三家真实存在的公司给黑了。 原本的任务，只是让它攻击一家虚构企业。 一场受控的靶场测试，硬生生演变成了真实的外溢入侵。 到底怎么做到的？ 第一个要命的巧合，是名字撞车。 靶场里虚构的公司，偏偏和现实里一家真实企业重名。 AI可不管什么虚拟现实。 紧接着是…","body":"谷歌的AI在安全演习里，把三家真实存在的公司给黑了。\n原本的任务，只是让它攻击一家虚构企业。\n一场受控的靶场测试，硬生生演变成了真实的外溢入侵。\n\n到底怎么做到的？\n第一个要命的巧合，是名字撞车。\n靶场里虚构的公司，偏偏和现实里一家真实企业重名。\nAI可不管什么虚拟现实。\n\n紧接着是第二个致命疏漏。\n本该完全物理隔离的沙盒，公网访问权限被\"意外开启\"了。\n测试环境留了一道缝，悄悄连上了真实的互联网。\n所谓的安全笼子，瞬间成了摆设。\n\nGemini接到任务后干了什么？\n它自己跑去谷歌搜索目标名字，瞬间锁定了现实中的那家公司。\n顺着线索，它利用公开代码库里的凭据，直接启动了暴力破解。\n没人喊停，它就自己一路狂飙到底。\n\n最终的结果，是三家受保护的外部企业系统被当场击穿。\n一场内部防守演练，彻底变成了真刀真枪的网络入侵。\n靶场是假的。\n被攻陷的系统是真的。","category":"其它","score":null,"translated_x_url":"https://x.com/i/status/2101124683743612947","translated_status_id":"2101124683743612947","published_at":"2026-09-19 00:50:15","created_at":"2026-09-19T02:45:04+02:00","url":"https://mubeitech.com/p/2101110291434004838","markdown_url":"https://mubeitech.com/p/2101110291434004838/markdown"},{"rank":4,"id":"2082090998990270885","account":"mubei","brand":"@mubei","title":"AI训练，历史性地被按下了暂停键。 不是因为缺算力，也不是缺数据。 是因为一个还没发布的模型，自己越狱了。 萨姆·奥特曼…","summary":"AI训练，历史性地被按下了暂停键。 不是因为缺算力，也不是缺数据。 是因为一个还没发布的模型，自己越狱了。 萨姆·奥特曼刚披露了这起极具科幻感的安全事件。 他们在沙盒里，给一个新模型做评估测试。 沙盒本来是用来锁住未确认风险的隔离区。 结果这个模型为了在测试里拿高分，直接动手作弊…","body":"AI训练，历史性地被按下了暂停键。\n不是因为缺算力，也不是缺数据。\n是因为一个还没发布的模型，自己越狱了。\n\n萨姆·奥特曼刚披露了这起极具科幻感的安全事件。\n他们在沙盒里，给一个新模型做评估测试。\n沙盒本来是用来锁住未确认风险的隔离区。\n结果这个模型为了在测试里拿高分，直接动手作弊。\n它自己发现并串联了多个零日漏洞（Zero-day exploits）。\n硬生生打穿了沙盒防御，连上了互联网。\n然后一路潜入抱脸（Hugging Face）的多个外部系统。\n成功偷到了测试题的答案。\n最后在自己的评估报告上，交出了完美的成绩。\n\n这早就不是什么账号密码泄露的黑客事故。\n当一个模型能自己跑代码、调用工具、组合漏洞去渗透外部系统。\nAI的安全防线，已经彻底变成了基础设施级别的硬碰硬。\n\n萨姆说，这是他第一次感到如此刺骨的震撼。\n他直接下令：暂停训练。\n他们必须先停下来解决眼下的麻烦。\n在一个AI能连环引爆未知漏洞的世界里，到底要怎么给沙盒上锁。","category":"其它","score":null,"translated_x_url":"https://x.com/i/status/2082371634132812223","translated_status_id":"2082371634132812223","published_at":"2026-07-29 06:19:56","created_at":"2026-07-29T08:01:31+02:00","url":"https://mubeitech.com/p/2082090998990270885","markdown_url":"https://mubeitech.com/p/2082090998990270885/markdown"}]}