一套为了防止空难而制定的英文规矩,最近治好了大模型的幻觉。
一套为了防止空难而制定的英文规矩,最近治好了大模型的幻觉。 人工智能研究员安德烈·卡帕西(Andrej Karpathy)把它翻出来后,技术圈都在测试。 这套标准叫 ASD-STE100,也就是航空业的"简化技术英文"。 它是航空维修手册里的强制规范。
为什么修飞机要专门发明一套英语? 为了不让机务人员靠猜来干活。 手册里但凡有一处模糊,地勤看走眼一步,天上几百人就可能出事。 所以这套规矩极其严苛,定死了六条铁律。
第一,一句话绝不能超过20个词。 第二,一个词只能代表一个意思。 第三,同一个概念每次都用同一个词,绝不为了文采换同义词。
第四,必须使用主动语态。 第五,一句话只讲一个观点。 第六,只准使用核准过的极简词汇。
拿它解释什么是缓存(Cache),差距有多大? 普通写法整整把41个词塞进了一句话里: "缓存本质上是一个高速存储层,把经常访问的数据留在身边,让程序能以极快的速度抓取信息,而不需要反复去查底层的数据存储,以此减少延迟并减轻后端的负载。" 一会儿叫数据,一会儿叫信息。 前面写底层存储,后面又换成后端。 人类读着费劲,大模型读了只能猜概率,幻觉就这么来了。
再看按航空标准改写的版本,直接切成了五句短句: "缓存是一块小而快的内存。" "它保存一份你常用数据的副本。" "当你要数据时,系统先读缓存。"
"这比读数据库更快。" "数据库的工作量变少了。" 五句话,最长的一句只有11个词。 数据就叫数据,数据库就叫数据库。 零废话,没有多余修饰,没有任何猜测空间。
大模型为什么总在胡说八道? 因为长难句和同义词,本质上就是在给概率模型挖坑。 地勤人员不能猜,猜错一次就是一场空难。 大模型也不能猜,每一次猜测,跑出来的都是幻觉。
翻译视频 / X 同步发布
近期实时流信号 / STREAM SIGNALS
返回实时流 →首发与规范引用:墓碑科技 MUBEITECH(https://mubeitech.com/p/2107200752896884763) · X 同步推文:https://x.com/i/status/2107366544132935793
导出 / EXPORT
订阅 · SUBSCRIBE
每周一封独立、不受审查的科技与 AI 深度评论与信号,周一发出。