{"id":"16021569","account":"mubei","brand":"@mubei","title":"怎么让一个 AI 彻底忘掉德语？ 不用重洗数据，不用大动干戈。 只需要 4 个德语 Token，外加拨动一个极小的权重“…","summary":"怎么让一个 AI 彻底忘掉德语？ 不用重洗数据，不用大动干戈。 只需要 4 个德语 Token，外加拨动一个极小的权重“旋钮”。 这听上去像黑客帝国的桥段，但在最近一场仅限 1 天的黑客马拉松里，有人用一个叫 Silico 的工具把这事做成了。 他们拿一个 67M 参数的小语言模…","body":"怎么让一个 AI 彻底忘掉德语？\n\n不用重洗数据，不用大动干戈。\n只需要 4 个德语 Token，外加拨动一个极小的权重“旋钮”。\n\n这听上去像黑客帝国的桥段，但在最近一场仅限 1 天的黑客马拉松里，有人用一个叫 Silico 的工具把这事做成了。\n\n他们拿一个 67M 参数的小语言模型做实验。\n正常情况下，要让模型忘掉或者修改某些能力，通常需要用 LoRA 或者重训，动静极大，还容易把别的数据也带偏。\n\n但这次，他们做了一场极度精准的“微创手术”。\n\n他们直接锁定了权重里一个极其微小的子组件（VPD component）。\n只在这个组件上微调了一个标量系数，而用来训练的素材，仅仅只有 4 个德语 Token。\n\n结果：\n模型的德语能力瞬间跌入谷底，直接退化到了“随机乱猜”的水平。\n但同时，它的英语预测能力几乎毫发无损，完美保留。\n这等于是在 AI 的脑叶上精准开刀，只切掉了“德语区”，其他地方完好无损。\n\n当然，这里必须画一条事实红线：\n这目前还只是一个在 67M 极小模型上的 Demo 实验，绝对不等于已经在 GPT-4 这种大模型上成熟落地的“AI 记忆消除技术”，千万别直接外推到主流大模型的安全结论上。\n\n但它向我们展示了一个极其迷人的方向：\nAI 模型可能并不是我们想象中铁板一块、无法解释的“神秘黑箱”。\n它的内部，或许存在着高度可定位、可单独调节的“功能部件”。\n\n如果未来这种精细化的调校手段能在超大模型上奏效，那 AI 的安全对齐和隐私擦除，可能不用大费周章地推倒重来，直接像修钟表一样，精准拧一拧螺丝，就解决了。","category":"其它","score":null,"percentile":null,"reason_tags":[],"translated_x_url":"https://x.com/i/status/2070312639624859975","translated_status_id":"2070312639624859975","published_at":"2026-06-25 21:24:32","created_at":"2026-06-25T23:19:23+02:00"}