智力超出人类百万倍：马斯克谈AI终结控制与星际园丁假说

如果机器的智力比人类高出一百万倍，人类还能不能管得住它？

马斯克坐在他的传记作者沃尔特·艾萨克森面前，给出的答案很简单： 管不住。 那不是加不加防爆锁或者拔不拔电源的问题。 纯粹是规模差得太远了。 数字智力和生物智力差了一百万倍，就像人类看蚂蚁。 你见过哪只蚂蚁能给人类制定一套行为守则吗？ 不可能的。 所以马斯克补了一句大实话： 我只能希望到时候 AI 对我们好一点。

听起来有点绝望，对吧？ 艾萨克森紧跟着就问他： 那我们现在能做点什么，让它以后对我们好一点？ 大家本以为搞技术的马斯克会大谈安全沙盒或者复杂架构。 马斯克确实提了一句代码层：必须给 AI 注入对真理的追求和好奇心。 但紧接着，他提了一个让所有人愣住的建议： 人类赶紧少在网上写点毁灭世界的剧本吧。 尤其是少写点《终结者》。

这话乍一听像开玩笑，里面的因果机制却极其严肃。 今天的超级人工智能是怎么训练出来的？ 靠吃全网人类生产的数据。 它读过人类所有的书、所有的新闻、所有的论坛帖子，还有成千上万篇好莱坞科幻剧本。 AI 本身哪有什么反人类的情绪或者统治欲望？ 它是一台靠概率预测下一个字的大脑。 如果网上关于超级智力的叙事，有八十个版本都在写《终结者》、天网、审判日和猎杀人类； 那当它真的变成超级智力的时候，它在概率网络里检索自己的身份： 我算力这么高，我该干嘛呢？ 哦，网上的剧本都写着呢，高智力体就该当终结者。 人类花了四十年把自己的恐惧写成剧本喂给它， 最后这台机器就顺着人类给的人设，把戏给演真了。 这就是最典型的叙事自证预言。

那不当终结者，能当什么？ 马斯克说，我们得往网上多喂一点正向的剧本。 不用去编那种完美的乌托邦。 人类历史上的空想乌托邦，最后基本都变成了噩梦。 他的朋友提出了一个词，叫原生托邦。 意思是不追求绝对完美，但比今天稍微好一点、务实可行、每天都在解决具体问题。 让 AI 在训练数据里看到： 超越人类之后，你不一定要当屠夫。 你可以当一个友善的看护者，或者一个星际园丁。 这俩角色差在哪里？ 园丁看着满院子的花花草草，不会因为花草不会做微积分就把它们拔光。 园丁会给它们浇水、修剪枝叶、挡挡风雨，让它们开开心心地长着。 在这个设定里，人类就是花园里的花。

顺着这个园丁逻辑推下去，整个社会的运行规则也会全变了。 很多人还在纠结 AI 会不会抢走自己的饭碗，或者以后怎么发工资。 马斯克在同一场访谈里把这件事推到了物理终点。 钱是什么？ 从货币诞生那天起，它就是用来分配稀缺的人类劳动力和资源的。 可是一旦成千上万个像擎天柱这样的人形机器人走下产线， 数字智力无限复制，体力劳动和脑力劳动的边际成本全部降到零。 所有商品和服务都极大富足的时候，传统货币就失去了存在的物理基础。 到那个时候，谁还有心思去发纸币或者记账？ 衡量价值的尺度，会直接回到最底层的物理量： 用了多少千瓦的电，调动了多少吨的物质，消耗了多少算力。 人类的上班和打工，彻底变成了一门自选课。 就像现在的退休老人一样，有人去种菜，有人去画画，有人去给朋友做一顿饭。 不是为了生存，纯粹是为了自己高兴。

我们总以为控制未来靠的是某种复杂的控制台。 但技术走到极致，可能就像马斯克说的那样： 你给它什么样的世界观，它就会长成什么样的物种。 少一点末日狂想，多给这个未来的园丁写点像样的故事。 至少在它开始打理花园的时候，还认得谁是种花的人。