有一定年纪的读者会记得1970年代的情况,当时由于各种国际争端导致燃料短缺,出现了排队、冲突和成本上涨。其中一个结果是推动了更高效率的发展。也许是时候将这些经验教训应用到当前的内存短缺问题上了。
随着内存价格持续上涨,工程师们应该重新考虑他们的应用程序和工具链对内存的巨大需求。一个简单的网页真的需要几兆字节来向用户显示现代版本的"Hello World"吗?今天的Windows任务管理器可执行文件占用6MB的磁盘空间。在向用户显示Chrome如今有多占用内存之前,它需要近70MB的内存。而原始版本在磁盘上仅重85KB。其后续版本在功能上并没有数量级的提升。
那些记得有效软件以千字节而非千兆字节运行的人,长期以来一直对现代工程的挥霍方式摇头叹息。但随着技术进步的推进和内存密度似乎注定要无止境地增加,抗议软件臃肿感觉很像"老人对着云彩大喊"。
然后AI热潮来了。随着世界竞相在数据中心填满计算设备,内存价格在最近几个月内飙升,目前没有迹象表明会回到开发者可以耸耸肩并加装另一个多兆字节框架来满足任意用户需求的水平。
开发者应该精确考虑他们真正需要框架的多少部分,并致力于提高效率。管理者必须确保他们也有空间这样做。用于确保工具链安全的精力也应该用于检查其效率。
人们经常开玩笑说,使人类能够登陆月球的内存和计算能力与现代智能手机相比相形见绌。然而,不久前,完全可用的应用程序和操作系统还能在RAM以千字节而非兆字节计算的设备上从软盘运行。
扭转几十年来的应用程序增长不会在一夜之间发生。这需要思维的改变和不同的观点。工具链必须重新思考,应该为紧凑性给予奖励,无论是在静态还是运行状态下。
在1970年代,能源短缺刺激了效率提升。在2020年代,计算机内存短缺可能最终导致软件不再用无用的冗余填满每个字节。
Q&A
Q1:为什么现在的软件比以前占用更多内存?
A:现代软件往往使用大量框架和工具,导致臃肿现象严重。例如,今天的Windows任务管理器占用6MB磁盘空间和70MB内存,而原版本仅85KB,但功能上并没有数量级的提升。
Q2:AI热潮如何影响内存价格和软件开发?
A:AI热潮导致数据中心大量采购计算设备,推高了内存价格,使得开发者不能再随意添加占用内存的框架,必须重新考虑应用程序对内存的需求。
Q3:如何解决软件臃肿和内存短缺问题?
A:需要改变开发思维,重新设计工具链,奖励紧凑性设计。开发者应精确评估框架需求,致力于提高效率,管理者也需要为此提供支持空间。
好文章,需要你的鼓励
Google为其BigQuery数据仓库新增对话式分析功能,允许企业数据团队和业务用户通过自然语言询问数据问题,从而加速AI用例的数据分析。该智能体目前处于预览阶段,可在BigQuery新增的智能体中心找到。此外,Google还推出了构建、部署和管理自定义智能体的工具,通过API端点支持跨应用和运营工作流。这些功能扩展了现有的文本转SQL能力,支持上下文对话分析。
UCL与华为联合研发的MT-GRPO多任务训练方法,解决了AI语言模型在同时学习多种推理技能时的关键难题。该方法通过动态调整任务权重和比例保持采样器,确保AI在各类任务上均衡发展,避免传统方法中强项越强、弱项被忽视的问题,实现最差任务性能提升16-28%,训练效率提高50%。
Anthropic宣布其AI聊天机器人Claude将保持无广告状态,与竞争对手OpenAI形成鲜明对比。后者上月开始在ChatGPT低价版本中测试广告。Anthropic认为在AI对话中插入广告与其打造"真正有用助手"的目标不符,并担心广告会影响助手提供客观建议。OpenAI目前计划在对话旁显示横幅广告,但面临巨大财务压力。Anthropic选择专注于企业合同和付费订阅的商业模式。
BMW Group与奥格斯堡大学联合开发了CAR-bench,这是首个专门评测汽车语音助手在真实环境中表现的基准系统。研究发现,即使是最先进的GPT-5模型,在面对模糊指令和缺失信息时也存在严重的一致性问题,经常编造答案而非承认局限性。该系统包含58种工具和19条安全策略,揭示了当前AI助手从实验室到真实应用之间的巨大鸿沟。