你现在下载的本地大模型,很多都不用配环境、不装 Python,双击就能直接在 Windows 和 Mac 上跑。 背后把…
你现在下载的本地大模型,很多都不用配环境、不装 Python,双击就能直接在 Windows 和 Mac 上跑。 背后把这件事做绝的,是一个连名字都没几个人听过的工程师。 她没有大厂团队,一个人花了五年时间,干了一件整个行业都说“绝不可能”的事。
她叫 Justine Tunney。
1984 年出生,14 岁开始发软件。 2011 年,她注册了 occupywallst 推特和域名。 随后的几个月里,“占领华尔街”席卷全球,而她一个人撑起了这场运动的数字基建。 社交媒体、网站、捐款通道、资源协调,底层全是她搭的。
运动结束后,她进了谷歌,做人工智能的底层架构。 2018 年,她辞职了。 跑去死磕一个 C 语言界的终极难题。
绝大多数底层程序员都会告诉你:想让一段 C 代码编译一次,生成的同一个二进制文件,不做任何修改,直接原生运行在 Windows、Linux、macOS 等 6 个操作系统上,这在理论上是不可能的。 但她不信邪。
花了整整五年,大多时候是一个人单干。 她硬是手搓出了 Cosmopolitan Libc。 她发明的技术,打破了操作系统加载程序的常识。 那个生成的文件,同时是 Windows 的 PE 文件、Linux 的 ELF 文件、Mac 的 Mach-O 文件,甚至还能当 shell 脚本跑。 同一串字节,去哪个系统都能直接跑。 没有虚拟机,没有解释器,不用重新编译。
然后,大模型时代来了。 她把自己的黑魔法和 llama.cpp 揉在一起,扔出了一个叫 llamafile 的大杀器。 随便拿个大模型的权重文件,包进她的二进制文件里,你就得到一个孤零零的单文件。 双击,模型就跑起来了。 没有 Python 的依赖地狱,没有烦人的 CUDA 显卡配置。 不管你是 Mac 还是 Windows,双击,搞定。
Mozilla 资助了她,把它作为官方项目发布,GitHub 上狂揽 2.4 万颗星。 整个开源 AI 社区的本地部署门槛,被她一个人用几行 C 代码踩平了。 后来,她又一个人给加上了 GPU 支持,甚至搞出了单文件版的 Whisper 语音识别模型。
现在的科技圈,到处是满天飞的 PPT,天天喊着弯道超车和颠覆世界。 但真正推动历史的,往往是这种躲在角落里、咬牙手搓底层的硬核极客。 大部分人在推特上刷了一天 AI 新闻,甚至连 Justine Tunney 这个名字都没听过。