估值超过 40 亿美元的 AI 初创公司 Hugging Face 推出了 FastRTC,这是一个开源 Python 库,旨在消除开发者在构建实时音频和视频 AI 应用时的主要障碍。
"在 Python 中正确构建实时 WebRTC 和 Websocket 应用一直都很困难,"FastRTC 的创建者之一 Freddy Boulton 在 X.com 上宣布。"直到现在。"
WebRTC 技术使浏览器之间可以直接进行音频、视频和数据共享,无需插件或下载。尽管这项技术对现代语音助手和视频工具来说至关重要,但实现 WebRTC 仍然需要大多数机器学习 (ML) 工程师所不具备的专业技能。
语音 AI 热潮遇到技术瓶颈
时机再合适不过。语音 AI 已经吸引了巨大的关注和资本投入——ElevenLabs 最近获得了 1.8 亿美元的融资,而 Kyutai、Alibaba 和 Fixie.ai 等公司都发布了专门的音频模型。
然而,这些复杂的 AI 模型与将其部署到响应式实时应用所需的技术基础设施之间仍存在脱节。正如 Hugging Face 在其博客文章中指出的:"ML 工程师可能缺乏构建实时应用所需技术的经验,比如 WebRTC。"
FastRTC 通过自动化功能处理实时通信的复杂部分来解决这个问题。该库提供了语音检测、轮流发言功能、测试界面,甚至还能生成临时电话号码用于应用访问。
从复杂基础设施到五行代码
该库的主要优势在于其简单性。据报道,开发者只需几行代码就能创建基本的实时音频应用——这与之前需要数周开发工作形成鲜明对比。
这种转变对企业有重大影响。之前需要专门通信工程师的公司现在可以让现有的 Python 开发者构建语音和视频 AI 功能。
"你可以使用任何大语言模型/文本转语音/语音转文本 API,甚至是语音到语音模型,"公告解释道。"带上你喜欢的工具——FastRTC 只负责处理实时通信层。"
语音和视频创新的新浪潮
FastRTC 的推出标志着 AI 应用开发的一个转折点。通过消除重要的技术障碍,该工具开启了许多开发者之前只能停留在理论层面的可能性。
对小型公司和独立开发者来说,其影响可能特别有意义。虽然像 Google 和 OpenAI 这样的科技巨头有工程资源构建定制的实时通信基础设施,但大多数组织并不具备这种条件。FastRTC 本质上提供了以前只有专业团队才能获得的功能。
该库的"食谱"已经展示了多样化的应用:由各种语言模型驱动的语音聊天、实时视频对象检测和通过语音命令进行交互式代码生成。
特别值得注意的是其发布时机。FastRTC 的出现恰逢 AI 界面从基于文本的交互转向更自然、多模态体验之际。今天最先进的 AI 系统可以处理和生成文本、图像、音频和视频,但在响应式实时应用中部署这些功能仍然具有挑战性。
通过弥合 AI 模型和实时通信之间的差距,FastRTC 不仅使开发变得更容易,还可能加速向更人性化、更少计算机感的语音优先和视频增强型 AI 体验的转变。
对用户来说,这意味着各种应用都能提供更自然的界面。对企业来说,这意味着可以更快地实现客户日益期待的功能。
最终,FastRTC 解决了技术领域的一个经典问题:强大的功能往往在成为主流开发者可访问之前都无法得到充分利用。通过简化曾经复杂的事物,Hugging Face 消除了当今复杂 AI 模型与未来语音优先应用之间的最后一个主要障碍。
好文章,需要你的鼓励
许多CIO在实施AI战略时因良好初衷反而导致失败。专家指出,仅为AI而做AI会浪费资金且无实际成果,应先评估业务价值。CIO常见错误包括:让风险规避型利益相关者施加过度限制、仅依赖现成AI工具而不深度整合、在人员和流程问题未解决时强推技术转型。成功的关键是确保AI解决方案真正节省时间并带来业务价值,需要有权威的负责人推动决策,同时不惧怕小规模试错,快速迭代改进。
谷歌研究院开发出一种革命性的人工智能技术,通过学习人类眼动轨迹来提升视觉问答能力。该技术像训练侦探一样教会AI关注图像中的关键区域,准确率提升3-10%。研究发表于CVPR 2024,在教育、医疗、无人驾驶等领域具有广阔应用前景,为AI向人类智慧靠近开辟了新路径。
Kahoot是一个基于游戏的学习平台,涵盖科学、历史、地理、英语和数学等领域。该平台于2023年推出AI功能,AI生成器可从主题、文档、网站或视频链接即时创建互动学习体验,帮助教师减少备课时间,让学习更具吸引力和个性化。平台支持50种语言,拥有120亿用户,还提供翻译工具和AI驱动的学习推荐功能。
英国卡迪夫大学研究团队通过脑电图技术发现,当人们体验虚假听觉(即"听到"实际不存在的语音)时,大脑的神经活动模式与听到真实声音时几乎相同。研究揭示了大脑会根据语言经验和上下文自动"填补"缺失的语音片段,这一发现对理解听觉障碍、改进助听设备以及开发更智能的语音识别系统具有重要意义。