{"source":{"id":"2069420372089520483","title":"最让顶级 AI 科学家失眠的，是他们正在把人类从“反馈回路”里彻底踢出去。 Google DeepMind 的 CEO…","url":"https://mubeitech.com/p/2069420372089520483"},"method":"semantic-similarity","count":5,"items":[{"rank":1,"id":"17226838","account":"mubei","brand":"@mubei","title":"AI 已经在自己造下一代 AI 了。 传闻全是真的。 谁证实的？ 顶尖人工智能实验室 Anthropic 的首席执行官达…","summary":"AI 已经在自己造下一代 AI 了。 传闻全是真的。 谁证实的？ 顶尖人工智能实验室 Anthropic 的首席执行官达里奥·阿莫代伊（Dario Amodei）。 他在公开长文里正式承认了这件事。 递归自我改进（Recursive Self-Improvement，RSI）已经…","body":"AI 已经在自己造下一代 AI 了。\n传闻全是真的。\n谁证实的？\n顶尖人工智能实验室 Anthropic 的首席执行官达里奥·阿莫代伊（Dario Amodei）。\n\n他在公开长文里正式承认了这件事。\n递归自我改进（Recursive Self-Improvement，RSI）已经在整个行业真实发生。\n包括他们自家实验室在内，全都开始了。\n\n什么叫递归自我改进？\n以前是人类顶尖工程师写算法、调参数，推着模型往前挪。\n现在彻底换成模型自己动手了。\nAI 构建下一代 AI 的能力，正在让技术进化急剧提速。\n就是让它模型生模型，代码写代码。\n\n失控有多近？\n阿莫代伊警告：如果缺乏约束，它的演进速度很快就会彻底甩开人类理解和控制的能力。\n外界还在争论大模型是不是撞墙了、算力泡沫是不是要破了。\n这位身处最前线的实验室掌门人，担心的却是完全相反的事。\n\n他担忧在未来 6 到 12 个月内，AI 蜂群就可能通过持久性僵尸网络接管整个互联网。\n潜在经济损失高达数千亿美元。\n而且如果缺乏有效控制，随着模型变强，破坏的规模只会越来越大。\n\n他在文末留下的原话极其严肃。\n这项技术必须极其谨慎地推进，如果还打算推进的话。\n留给人类去摸透并管住它的时间，只有 6 到 12 个月。","category":"其它","score":null,"translated_x_url":"https://x.com/i/status/2098904309106659531","translated_status_id":"2098904309106659531","published_at":"2026-09-12 22:03:39","created_at":"2026-09-12T23:47:43+02:00","url":"https://mubeitech.com/p/17226838","markdown_url":"https://mubeitech.com/p/17226838/markdown"},{"rank":2,"id":"2049502704406237655","account":"warroom","brand":"@warroom","title":"AI最让人不安的地方，是它已经开始帮自己长大。 Joe Allen的判断很简单：AI可能是历史上增长最快的行业，也是采用…","summary":"AI最让人不安的地方，是它已经开始帮自己长大。 Joe Allen的判断很简单：AI可能是历史上增长最快的行业，也是采用速度最快的技术之一。 Anthropic这样的公司，手里已经有一类系统，不会面向公众开放。 它们只会交给少数被挑选出来的企业。 原因也摆在台面上：这些系统危险到…","body":"AI最让人不安的地方，是它已经开始帮自己长大。\nJoe Allen的判断很简单：AI可能是历史上增长最快的行业，也是采用速度最快的技术之一。\nAnthropic这样的公司，手里已经有一类系统，不会面向公众开放。\n它们只会交给少数被挑选出来的企业。\n\n原因也摆在台面上：这些系统危险到不能随便放出去。\n更关键的是，这些系统在某种程度上，已经能构建自身。\n别把这句话听成科幻。\nAllen自己也加了限定：他不想夸大这一点。\n\n可他没有退掉核心事实：在Anthropic这类公司里，AI正在被用来制造AI。\n也就是说，人类工程师还在写代码，但下一代AI的部分建造过程，已经交给上一代AI参与。\n这一步叫什么？\n递归自我改进。\n\n一个系统越聪明，越能帮自己变聪明。\n产业增长速度、资本集中速度、模型迭代速度，三条线叠在一起，监管和公众理解都在后面追。\n保守一点看，真正的问题在权力边界。\n当危险系统只向少数公司开放，普通人连看见风险的资格都没有。\n\n技术当然要发展，但越强的工具，越不能只靠几间实验室和几份内部准则来决定社会能不能承受。\nAI还没有接管世界。\n它已经在接管自己的生产线。","category":"科技","score":44,"translated_x_url":null,"translated_status_id":null,"published_at":"2026-04-29 15:05:31","created_at":"2026-04-29T16:54:57+02:00","url":"https://mubeitech.com/p/2049502704406237655","markdown_url":"https://mubeitech.com/p/2049502704406237655/markdown"},{"rank":3,"id":"2067683896473612625","account":"mubei","brand":"@mubei","title":"硅谷最聪明的一群人，正在玩命研发怎么让自己失业。 这是 OpenAI 掌门人 Sam Altman 近日在斯坦福给出的明…","summary":"硅谷最聪明的一群人，正在玩命研发怎么让自己失业。 这是 OpenAI 掌门人 Sam Altman 近日在斯坦福给出的明确时间表。 台上的 Altman 语气平静，但他给出的数字和规划极其明确。 他说，现在的 AI 研发流程，还在靠人类工程师一行行写代码、搭架构，这太笨重了。 怎…","body":"硅谷最聪明的一群人，正在玩命研发怎么让自己失业。\n\n这是 OpenAI 掌门人 Sam Altman 近日在斯坦福给出的明确时间表。\n\n台上的 Altman 语气平静，但他给出的数字和规划极其明确。\n\n他说，现在的 AI 研发流程，还在靠人类工程师一行行写代码、搭架构，这太笨重了。\n怎么解决？\n他的原话是：“这是 AI 自己该去解决的研究课题。”\n\n接着， he 给出了两个极其精确的时间节点：\n\n第一步，今年 9 月。\nOpenAI 将调动相当于 50 万张 A100 显卡的庞大算力，去扮演一个“AI 科研实习生”。\n50 万张显卡，只为了喂出一个实习生，这是人类历史上最贵的实习生。\n\n第二步，2028 年 3 月。\n这个实习生将彻底“转正”，进化成一个全职的、极其天才的“AI 科学家”。\n它不需要人类指导，就能自己去发明全新的、人类甚至完全没想过的 AI 底层架构。\n\n以前，人类制造工具是为了帮自己干活。\n现在，人类制造 AI，是为了让 AI 去制造更聪明的 AI。\n\n在这场狂奔里，连最顶尖的计算机科学家，都成了通往“终极智能”的最后一批燃料。\n当 2028 年硅谷的工程师们被自己亲手写的代码淘汰时，不知道他们会觉得这是科技的伟大胜利，还是一场精心的自我献祭。","category":"科技","score":80,"translated_x_url":"https://x.com/i/status/2067687236775145500","translated_status_id":"2067687236775145500","published_at":"2026-06-18 19:05:35","created_at":"2026-06-18T21:00:31+02:00","url":"https://mubeitech.com/p/2067683896473612625","markdown_url":"https://mubeitech.com/p/2067683896473612625/markdown"},{"rank":4,"id":"2099219512323101084","account":"mubei","brand":"@mubei","title":"两年前，硅谷巨头们预言AI将在几个月内淘汰程序员和初级白领。 两年过去，这些言之凿凿的时间表预言，没有一个兑现。 当年把…","summary":"两年前，硅谷巨头们预言AI将在几个月内淘汰程序员和初级白领。 两年过去，这些言之凿凿的时间表预言，没有一个兑现。 当年把油门踩到底的同一批掌门人，如今正排着队要求行业踩刹车。 把时间拨回2024年秋天。 OpenAI首席执行官山姆·奥特曼放话，超级智能将在“几千天内”降临。 An…","body":"两年前，硅谷巨头们预言AI将在几个月内淘汰程序员和初级白领。\n两年过去，这些言之凿凿的时间表预言，没有一个兑现。\n当年把油门踩到底的同一批掌门人，如今正排着队要求行业踩刹车。\n\n把时间拨回2024年秋天。\nOpenAI首席执行官山姆·奥特曼放话，超级智能将在“几千天内”降临。\nAnthropic创始人达里奥·阿莫代伊跟着加码，宣称数据中心里将装进一个“天才国家”，五年走完生物学上百年的路。\n到了2025年1月，奥特曼甚至公开宣布：我们已经知道怎么造出通用人工智能了。\n\n随后，阿莫代伊在2025年3月抛出了最激进的时间表。\n他预言，三到六个月内AI将写完人类90%的代码，十二个月内写完全部代码。\n两个月后，他又警告一场“白领大屠杀”正在逼近，初级岗位死一半，失业率飙到20%。\n紧接着，奥特曼宣称人类已经越过“事件视界”，扎克伯格也跟进高呼超级智能近在眼前。\n\n结果呢？\n一整年过去，程序员依然在正常打卡，白领失业潮根本没有发生。\n预言里的生产力神话全部落空，巨头们的叙事却在2026年悄然反转。\n\n2026年1月，阿莫代伊突然抛出两万字长文，大谈AI将如何“考验全人类”。\n这位刚预言完失业海啸的掌门人，甚至在文章里主动恳求政府：快来对我们的利润征税吧。\n到了8月，奥特曼宣布OpenAI暂停了部分高级模型训练，理由是要满足安全标准。\n9月，阿莫代伊再次公开发声：“我们必须放慢节奏！”\n他给出的最新警告是：六到十二个月内，失控的AI蜂群将劫持整个互联网。\n\n为什么当初急着踩油门，现在争着踩刹车？\n当年靠兜售白领末日拉升估值，如今发现狂言无法兑现，恐慌立刻被换了用途。\n通过主动呼吁监管、自设合规门槛，巨头们正试图把安全审查变成后来者跨不过的护城河。\n上一轮说好的“一年内写完所有代码”，至今无一成真。\n下一轮声称“六到十二个月互联网被劫持”的警报，又被他们按下了倒计时。","category":"其它","score":null,"translated_x_url":"https://x.com/i/status/2099292124457898032","translated_status_id":"2099292124457898032","published_at":"2026-09-13 23:13:38","created_at":"2026-09-14T01:02:13+02:00","url":"https://mubeitech.com/p/2099219512323101084","markdown_url":"https://mubeitech.com/p/2099219512323101084/markdown"},{"rank":5,"id":"17179693","account":"mubei","brand":"@mubei","title":"一家即将以 2.5 万亿美元估值上市的 AI 巨头，核心研究员却在公开交底。 这台机器，真有可能会把全人类杀光。 而且未…","summary":"一家即将以 2.5 万亿美元估值上市的 AI 巨头，核心研究员却在公开交底。 这台机器，真有可能会把全人类杀光。 而且未来十年内，发生的概率大于 10%。 这不是什么外人的危言耸听。 发话的是安斯罗匹克（Anthropic）的核心对齐研究员埃文·休宾格。 他挑明，造 AI 的这批…","body":"一家即将以 2.5 万亿美元估值上市的 AI 巨头，核心研究员却在公开交底。\n这台机器，真有可能会把全人类杀光。\n而且未来十年内，发生的概率大于 10%。\n\n这不是什么外人的危言耸听。\n发话的是安斯罗匹克（Anthropic）的核心对齐研究员埃文·休宾格。\n他挑明，造 AI 的这批人是真真切切相信这个后果的。\n更要命的是他的原话：公司虽然在拼尽全力，但目前根本没有超级智能的安全控制方案，甚至连可行的路径都没有。\n\n华尔街正捧着 2.5 万亿美元的超级估值，等待一场资本盛宴。\n而最核心的造物者却在告诉你，油门已经踩到底，刹车系统至今还没发明出来。","category":"其它","score":null,"translated_x_url":"https://x.com/i/status/2097857642693824624","translated_status_id":"2097857642693824624","published_at":"2026-09-09 22:21:12","created_at":"2026-09-10T00:03:45+02:00","url":"https://mubeitech.com/p/17179693","markdown_url":"https://mubeitech.com/p/17179693/markdown"}]}