{"source":{"id":"mb-20260823-9f0a1d","title":"供应链传出消息，NVIDIA 最新一代 AI 服务器的出厂价格即将全线上调超过 15%","url":"https://mubeitech.com/p/mb-20260823-9f0a1d"},"method":"semantic-similarity","count":2,"items":[{"rank":1,"id":"mb-20260823-f590d9","account":"mubei","brand":"","title":"一台 4700 美元的个人电脑，能在本地跑动参数量上千亿的顶级大模型","summary":"一台 4700 美元的个人电脑，能在本地跑动参数量上千亿的顶级大模型","body":"一台 4700 美元的个人电脑，能在本地跑动参数量上千亿的顶级大模型。\n跑出 47 tok/s 的推理速度，还顶着 400k 的超长上下文。\n很多人的第一反应是：这肯定把模型压成了人工智障。\n在过去的认知里，把超大模型塞进个人电脑，唯一的方法是死磕量化。\n把权重从 16 位浮点数一路压到 4 位、3 位，甚至 2 位。\n但单维度的压缩很快就会撞墙。\n位宽压得太狠，量化误差指数级爆发，模型直接开始胡言乱语。\n另一条路是剪枝。\n可传统密集模型的剪枝同样行不通：零散剔除的权重破坏了规整的矩阵结构，显卡根本跑不出硬件加速。\n两边都走不通，很多人便认定：顶级算力永远只能锁在云端机房。\n为什么 4700 美元的桌面设备能把这堵墙撞碎？\n因为真正的突破，从来不在单一维度上硬挤。\n它把两台方向完全不同的压缩机器叠在了一起。\n这台机器叫正交压缩。\n混合专家模型架构给算法提供了一个前所未有的结构切口。\n在这种架构里，模型是由数十个甚至上百个细分专家组成的网络。\n每生成一个词，真正被激活的只有少数几个专家。\n开源开发者 0xSero 借助 REAP 专家激活剪枝算法，先给所有专家跑了一轮校准。\n算法找出了那些在绝大多数任务中几乎从不响应的低频专家，整块剥离。\n整整 18.5% 的结构冗余被干脆利落地砍掉，而每个词调用的核心专家预算完好无损。\n这是第一步：在结构维度上剔除闲置专家。\n紧接着，在剩下的骨干专家身上，套上 turboderp 开发的 EXL3 算法，进行 3-bit 精度量化。\n这是第二步：在数值维度上压缩权重的位宽。\n两个动作是正交的。\n剪枝清理的是结构冗余，量化清理的是数值冗余。\n因为攻击的是两个互不干扰的独立维度，两者的压缩收益直接相乘，却避开了单一技术推向极限时的崩塌风险。\n显存占用被砍掉了一大截，每秒吞吐量却保住了。\n算力行业过去几年一直在制造一种云端垄断的恐慌。\n数千亿美元砸进集中式算力中心，普通人似乎只能按字数向云端服务器交租。\n但计算技术的演进，从来不会单向偏向中心化。\n算法在正交维度的每一次解耦，都在以乘数效应拉低硬件的成本底线。\n当一台桌面级的消费硬件，就能流畅运转过去需要整个机架才能支撑的智能。\n算力的主权，就不再只能被锁在巨头的数据中心里。\n决定智能普及速度的，不只是巨头烧了多少资本开支。\n更在底层算法如何把昂贵的门槛，一步步砸进每个普通开发者的书桌。","category":"科技","score":null,"translated_x_url":null,"translated_status_id":null,"published_at":"2026-08-23 00:21:49","created_at":"2026-08-23 00:21:49","url":"https://mubeitech.com/p/mb-20260823-f590d9","markdown_url":"https://mubeitech.com/p/mb-20260823-f590d9/markdown"},{"rank":2,"id":"mb-20260823-959e4f","account":"mubei","brand":"","title":"拥有全球最顶尖信用评级的科技巨头，正在把目光投向垃圾债市场","summary":"拥有全球最顶尖信用评级的科技巨头，正在把目光投向垃圾债市场","body":"拥有全球最顶尖信用评级的科技巨头，正在把目光投向垃圾债市场。\n彭博社披露，为了给动辄数十亿美元的人工智能数据中心筹钱，市场上出现了一批收益率高达 6% 到 9% 的高息债券。\n买单的，是平时专门追逐高风险垃圾债的投资者。\n手握数千亿美元现金、发债成本只有 3% 到 4% 的蓝筹科技公司，为什么会允许自己的项目背上高利贷？\n平时对违约风险避之不及的垃圾债基金，又凭什么拿着几百亿美元疯抢这些评级只有 BB 级的债券？\n答案藏在硅谷与华尔街联手搭起的一台金融机器里。\n特设目的载体表外融资与评级套利。\n过去二十年，科技巨头习惯了轻资产、高现金流的软件模式。\n到了前沿人工智能时代，这套算力账本彻底爆了仓。\n巨头们每个季度的资本开支加起来突破了 1000 亿美元。\n未来几年的算力融资需求高达 1500 亿美元。\n芯片三年折旧，电网建设耗时数年。\n如果把这几百亿借债全写进资产负债表，母公司的负债率会被推高，顶级信用评级也会被砸碎。\n于是他们搭了一道防火墙。\n科技巨头不自己直接借钱，由合作方成立一个独立的项目公司。\n印第安纳州那个 430 兆瓦的数据中心项目 Meridian Arc HoldCo，一口气发行了 57 亿美元债券。\n项目公司没有经营历史，评级机构只给了 BB 级的垃圾债评级，票面利率高达 6.25%。\n但这笔债券的底层，绑着 Google 母公司 Alphabet 兜底的 15 年长期租约。\n对垃圾债投资者来说，这根本不是什么高风险资产。\n它是一张披着垃圾债高票息外衣、实际上由顶级蓝筹巨头兜底的合成债券。\n摩根士丹利承销的这笔 57 亿美元发行，引来了近 200 亿美元的疯狂抢购。\n这台机器一转动，所有人的痛点全被化解。\n巨头保住了光鲜的资产负债表，投行赚到了承销费，垃圾债基金拿到了罕见的高票息。\n高昂的利息不会凭空消失。\n6% 到 9% 的资金成本，最终全部折算进了长达 15 年的算力租金里。\n当人工智能的商业化回报跟不上基建利息滚雪球的速度，这笔表外影子债务，就会变成最沉重的固定支出。\n技术的代际竞争从来不只发生在模型参数和芯片制程上。\n当算力演变成万亿级的重资产基建，真正决定胜负的，在于谁能用金融工程把重资产风险隔离在资产负债表之外。","category":"经济","score":null,"translated_x_url":null,"translated_status_id":null,"published_at":"2026-08-23 00:21:47","created_at":"2026-08-23 00:21:47","url":"https://mubeitech.com/p/mb-20260823-959e4f","markdown_url":"https://mubeitech.com/p/mb-20260823-959e4f/markdown"}]}