有一定年纪的读者会记得1970年代的情况,当时由于各种国际争端导致燃料短缺,出现了排队、冲突和成本上涨。其中一个结果是推动了更高效率的发展。也许是时候将这些经验教训应用到当前的内存短缺问题上了。
随着内存价格持续上涨,工程师们应该重新考虑他们的应用程序和工具链对内存的巨大需求。一个简单的网页真的需要几兆字节来向用户显示现代版本的"Hello World"吗?今天的Windows任务管理器可执行文件占用6MB的磁盘空间。在向用户显示Chrome如今有多占用内存之前,它需要近70MB的内存。而原始版本在磁盘上仅重85KB。其后续版本在功能上并没有数量级的提升。
那些记得有效软件以千字节而非千兆字节运行的人,长期以来一直对现代工程的挥霍方式摇头叹息。但随着技术进步的推进和内存密度似乎注定要无止境地增加,抗议软件臃肿感觉很像"老人对着云彩大喊"。
然后AI热潮来了。随着世界竞相在数据中心填满计算设备,内存价格在最近几个月内飙升,目前没有迹象表明会回到开发者可以耸耸肩并加装另一个多兆字节框架来满足任意用户需求的水平。
开发者应该精确考虑他们真正需要框架的多少部分,并致力于提高效率。管理者必须确保他们也有空间这样做。用于确保工具链安全的精力也应该用于检查其效率。
人们经常开玩笑说,使人类能够登陆月球的内存和计算能力与现代智能手机相比相形见绌。然而,不久前,完全可用的应用程序和操作系统还能在RAM以千字节而非兆字节计算的设备上从软盘运行。
扭转几十年来的应用程序增长不会在一夜之间发生。这需要思维的改变和不同的观点。工具链必须重新思考,应该为紧凑性给予奖励,无论是在静态还是运行状态下。
在1970年代,能源短缺刺激了效率提升。在2020年代,计算机内存短缺可能最终导致软件不再用无用的冗余填满每个字节。
Q&A
Q1:为什么现在的软件比以前占用更多内存?
A:现代软件往往使用大量框架和工具,导致臃肿现象严重。例如,今天的Windows任务管理器占用6MB磁盘空间和70MB内存,而原版本仅85KB,但功能上并没有数量级的提升。
Q2:AI热潮如何影响内存价格和软件开发?
A:AI热潮导致数据中心大量采购计算设备,推高了内存价格,使得开发者不能再随意添加占用内存的框架,必须重新考虑应用程序对内存的需求。
Q3:如何解决软件臃肿和内存短缺问题?
A:需要改变开发思维,重新设计工具链,奖励紧凑性设计。开发者应精确评估框架需求,致力于提高效率,管理者也需要为此提供支持空间。
好文章,需要你的鼓励
英国国家医疗服务(NHS)正将无人机纳入常规医疗物流体系。自今年2月起,无人机每天在雷恩斯公园和圣乔治医院之间运送血液等诊断样本,飞行仅需3分钟,比公路运输快约85%,且碳排放减少高达98%。目前已有逾2000名患者受益。NHS计划将该服务扩展至圣赫利尔、克罗伊登等多家医院,最终惠及约180万名患者。该网络由英国医疗初创公司Apian与谷歌旗下Wing合作运营。
AgentLens是Explyt公司联合俄罗斯学术机构开发的AI编程助手评测基准,通过分析完整人机交互轨迹而非仅看最终结果,从五个维度评估代码智能体的真实表现。
边缘AI计算厂商Aetina宣布,将在其DeviceEdge AIE-KT风冷系列和新款AIE-PT无风扇平台上支持英伟达全新Jetson T3000和T2000模块。T3000基于Blackwell GPU,最高提供865 FP4 TFLOPS算力,功耗70W;T2000则提供400 FP4 TFLOPS,面向视觉AI代理和自主移动机器人等场景。两款模块预计2027年第一季度上市,支持Nemotron、Cosmos 3等英伟达AI软件生态。
韩国梨花女子大学提出Splash框架,通过识别AI模型中的"休眠参数"并只在其中训练触觉能力,让小型多模态AI在学会感知材质触感的同时,完整保留原有视觉语言推理能力。