亚马逊网络服务公司(Amazon Web Services Inc.)近日宣布,计划通过旗下Amazon Bedrock服务提供来自知名机器学习初创公司Mistral AI的两个人工智能模型。
Bedrock于去年4月推出,通过应用程序编程接口提供对托管基础模型的访问。开发人员可以使用API来测试可用的神经网络中有哪一个最适合给定项目,然后将其集成到自己的软件之中。
总部位于巴黎的Mistral获得了超过5亿美元的资金支持。它通过Bedrock提供的两种AI算法——Mistral 7B和Mixtral 8x7B,两者都是开源的大型语言模型。它们针对的是相似的用例,但设计和功能却大相径庭。
Mixtral 8x7B是Mistral最先进的LLM,于12月首次亮相,不久后该公司宣布了最新一轮4.15亿美元的融资。它可以支持聊天机器人,总结文档并生成代码。在内部比对期间,该模型在所评估的大多数基准测试中都优于OpenAI的ChatGPT 3.5。
Mixtral 8x7B采用了被称为专家混合架构的LLM设计。该模型由八个不同的神经网络或“专家”组成,每个神经网络都针对一组不同的任务进行了优化。当Mixtral 8x7B收到用户提问时,它会识别出最适合生成答案的两个神经网络并激活它们。
基于混合专家设计的LLM运行需要的硬件数量相对有限。由于Mixtral 8x7B在回答用户提问时仅激活其八个神经网络中的两个,因此其余六个神经网络不使用任何处理能力。其结果是与传统的LLM相比,降低了基础设施成本,后者在处理提问时激活了所有软件组件。
Mixtral 8x7B的八个神经网络具有467亿个参数。Mistral 7B是该公司通过Bedrock向AWS客户提供的第二个LLM,其设计更简单,只有70亿个参数。它面向特别强调硬件效率的应用程序。
AWS的首席开发人员倡导者Donnie Prakoso在一篇博客文章中详细介绍道,“Mistral 7B是Mistral AI 的第一个基础模型,自然编码功能支持英文文本生成任务。”“它针对低延迟进行了优化,内存要求低,吞吐量高。”
Mistral的两个开源LLM加入了Bedrock已经上架的至少六个基础模型的行列,已经上市。这些已经上架的模型有部分是AWS开发的——即Amazon Titan系列。Bedrock还提供了Meta Platforms Inc.、Anthropic PBC 和其他市场主流玩家托管的神经网络。
好文章,需要你的鼓励
香港大学和加州大学伯克利分校的一项新研究显示,在没有人工标注数据的情况下,语言模型和视觉语言模型能够更好地泛化。这一发现挑战了大型语言模型社区的主流观点,即模型需要手工标注的训练样本。研究表明,过度依赖人工示例反而可能对模型的泛化能力产生负面影响。
OpenAI 发布了一款名为 Operator 的网络自动化工具,该工具使用名为计算机使用代理 (CUA) 的新 AI 模型来控制网络浏览器。Operator 通过视觉界面观察和交互屏幕元素,模仿人类操作方式执行任务。这项技术目前仍处于研究预览阶段,OpenAI 希望通过用户反馈来改进系统功能。
大型语言模型如 ChatGPT 展现了对话能力,但它们并不真正理解所使用的词汇。研究者们在冲绳科学技术大学构建了一个受大脑启发的人工智能模型,虽然其学习能力有限,但似乎掌握了词汇背后的概念。通过模仿婴儿学习语言的方式,研究团队将人工智能训练在一个能够与世界互动的机器人中,探索如何让人工智能实现类似人类的语言理解。