Red Hat近日宣布在AWS云上全面提供Red Hat Enterprise Linux for Workstations。
这是一个虚拟的Linux工作站,通过亚马逊的NICE DCV远程可视化协议、标准Web浏览器、Windows或者Mac瘦客户端可对其进行访问。Red Hat将该服务定位为适用于动画渲染或者数据可视化等处理密集型工作负载,而不需要相关的硬件成本。
这款工作站即服务产品支持AWS上的各种GPU加速硬件实例,并针对高性能、图形密集型工作负载进行了优化,与支持多种语言、数据库和工具的Red Hat软件开发堆栈相兼容。
Red Hat表示,客户可以利用现有的Red Hat Enterprise Linux生态系统,生态系统中包括来自独立软件供应商的数千个可以快速部署的应用。该服务可用于各种Amazon EC2实例,包括用于机器学习推理和图形密集型应用的G系列实例。
Red Hat副总裁、Red Hat Enterprise Linux总经理Gunnar Hellekson在一份声明中表示:“这种GPU加速和高性能基础设施的结合,将让艺术家、医学专家、科学家和工程师在世界任何地方都能够使用他们所需的功能、在低延迟环境中开展工作。无论是在本地还是通过云服务,Red Hat都能做到这一点。”
目前持有Red Hat Cloud Access的客户可以使用他们现有的RHEL for Workstations订阅在AWS上进行部署,无需额外许可,同时保留所有Red Hat支持和订阅权益。
好文章,需要你的鼓励
微软近年来频繁出现技术故障和服务中断,从Windows更新删除用户文件到Azure云服务因配置错误而崩溃,质量控制问题愈发突出。2014年公司大幅裁减测试团队后,采用敏捷开发模式替代传统测试方法,但结果并不理想。虽然Windows生态系统庞大复杂,某些问题在所难免,但Azure作为微软核心云服务,反复因配置变更导致客户服务中断,已不仅仅是质量控制问题,更是对公司技术能力的质疑。
Meta研究团队发现仅仅改变AI示例间的分隔符号就能导致模型性能产生高达45%的巨大差异,甚至可以操纵AI排行榜排名。这个看似微不足道的格式选择问题普遍存在于所有主流AI模型中,包括最先进的GPT-4o,揭示了当前AI评测体系的根本性缺陷。研究提出通过明确说明分隔符类型等方法可以部分缓解这一问题。
当团队准备部署大语言模型时,面临开源与闭源的选择。专家讨论显示,美国在开源AI领域相对落后,而中国有更多开源模型。开源系统建立在信任基础上,需要开放数据、模型架构和参数。然而,即使是被称为"开源"的DeepSeek也并非完全开源。企业客户往往倾向于闭源系统,但开源权重模型仍能提供基础设施选择自由。AI主权成为国家安全考量,各国希望控制本地化AI发展命运。
香港中文大学研究团队开发出CALM训练框架和STORM模型,通过轻量化干预方式让40亿参数小模型在优化建模任务上达到6710亿参数大模型的性能。该方法保护模型原生推理能力,仅修改2.6%内容就实现显著提升,为AI优化建模应用大幅降低了技术门槛和成本。