对话OpenHarmony陈海波:做原生智能系统,为大模型提供基座 原创

OpenHarmony已经拥有了6200+共建者、51家共建单位,贡献代码行数超过1亿行。

2020年9月,华为将智能终端操作系统基础能力相关代码贡献给开放原子开源基金会,该开源项目命名为 OpenAtom OpenHarmony。

OpenHarmony至此诞生。

2023年是OpenHarmony开源的第四年,深圳、福州、惠州、北京、南京、东莞等地政府也出台了多项支持OpenHarmony的产业政策。

经过过去三年多的发展,如今的OpenHarmony已经拥有了6200+共建者、51家共建单位,贡献代码行数超过1亿行

截至20231031日,OpenHarmony社区已有超过210家伙伴,构建了42款发行版,落地商用设备超过210

毫无疑问,OpenHarmony已经成为发展速度最快的智能终端操作系统开源社区之一。

114日,在第二届开放原子开源基金会OpenHarmony技术大会召开之际,我们与OpenHarmony项目群技术指导委员会主席、华为基础软件首席科学家陈海波进行了一场深度对话,一起探讨了OpenHarmony如何做好原生智能操作系统,做好大模型的基座。

对话OpenHarmony陈海波:做原生智能系统,为大模型提供基座

带屏设备体验再增强

2020年正式开源以来,OpenHarmony一共经历了四个大的版本迭代,最近一次版本迭代,是在202310月,OpenHarmony 4.0的正式发布。

相较于OpenHarmony3.2版本,此次版本更新新增了4000多个ArkTS APIHDF新增了200多个HDI接口,图形框架和方舟编译器一并进行了一次优化升级。 

尤其是对于复杂标准带屏设备体验,OpenHarmony 4.0进行了进一步增强。 

对话OpenHarmony陈海波:做原生智能系统,为大模型提供基座

众所周知,带屏设备已经逐渐成为当下智能终端的主流形态,无论是每年出货量十数亿的手机、平板,还是各式各样的商用设备,都已经成为生活、工作必需品,陈海波指出,“它们是直接与人打交道最多的产品。”

因而,即便当下这类产品已经很成熟,但仍有很大的成长空间,这也是为什么OpenHarmony在持续增强对复杂带屏设备开发体验的支持。

陈海波分析称,“如果我们将各类固定终端考虑进去,实际上对带屏设备的开发和运行依然有很多挑战,因而,OpenHarmony在这方面的技术支持与更新迭代仍在持续演进。” 

不过,他也指出,作为一个面向万物智联时代的开源操作系统基座,OpenHarmony有其独特之处,例如原生智能。

对话OpenHarmony陈海波:做原生智能系统,为大模型提供基座

何谓原生智能?

陈海波将OpenHarmony的原生智能总结为三个词:By AIUse AIFor AI

By AI是指要充分发挥各类端侧设备的AI能力。对于当下的人工智能而言,推理效率非常关键,如何将NPUGPUCPU等能力充分协同发挥出来,这是我们目前正在构建的能力。

Use AI是指要将系统编排、智能调度等基础能力应用到操作系统中。

For AI是指通过大模型交互使能各种运行在OpenHarmony的智能应用。例如,在Harmony OS中已经有了诸如编写短信、编写代码等能力。 

这些能力,也是OpenHarmony为顺应当下大模型趋势做出的改变。

为大模型提供基座

2023AI大模型的迅速发展,深刻影响着各类智能设备的发展和演进。

作为智能设备的开源操作系统框架,OpenHarmony同样需要做出相应的改变。 

陈海波称,面向AI大模型时代,OpenHarmony将会在两方面着手准备: 

首先,将大模型作为一个重要入口,利用各种设备本身具有的智能,提升智能体验的竞争力,向着具身智能方向演进;

例如,在家庭场景中,当你走入一个房间,与这个房间中的某台设备进行眼神、手势交互时,可以触发诸如拍照等功能,这样抓拍的照片往往要比大家提前为拍照做好准备后拍出的照片自然。 

其次,面向开发者,OpenHarmony通过引入大模型也在提升应用开发的智能化水平

对话OpenHarmony陈海波:做原生智能系统,为大模型提供基座

例如,通过大规模的预训练和学习,在开发者编程时,通过自然语言交互,OpenHarmony的编程工具已经可以自动生成一些相关提示、进行代码补全,甚至自动完成一些功能的编写。

要做好大模型的端侧应用,需要考虑众多因素,既需要考虑大模型现阶段本身存在的幻觉问题,也需要考虑端侧算力有限等问题。

正在研究如何在端侧用好大模型的陈海波对此深有体会,他透露,我们正在通过优化系统架构来降低端侧推理资源的消耗,也在通过引入向量数据库解决大模型存在的幻觉问题,通过智能编排服务让AI尽可能服务智能操作系统。

通过引入智能编排、向量数据库等基础技术,OpenHarmony就可以轻松接入华为盘古、阿里通义、甚至MetaLLaMA等各种主流大模型。 

“OpenHarmony作为一个开源系统,我们主要关注如何提供基座,让大模型更方便地接到我们的系统中陈海波如是说。 

从高校科研到产业应用

2020年开源至今,OpenHarmony已经迈入到第四个年头,这一年,OpenHarmony已经面向院校专业建立起了全流程服务,支撑人才培养闭环,为OpenHarmony不断输血。

在第二届OpenHarmony技术大会上,OpenHarmony项目群工作委员会委员代表、华为终端BG软件部副总裁柳晓见指出,根据当下产业发展,我们预测,未来五年基于OpenHarmony这一生态的开发者人才需求将会在千万级,面向未来五年这种千万级的人才需求,高校对人才的培养就显得尤为关键。

实际上,早在OpenHarmony开源之初,OpenHarmony就高度重视高校合作,截至目前,OpenHarmony已经与国内超17家的头部高校联合创建OpenHarmony高校技术俱乐部。

陈海波在大会上指出,我们将持续深化产学研的协同,从当前OpenHarmony技术俱乐部迈向产学研共同体。

对话OpenHarmony陈海波:做原生智能系统,为大模型提供基座

如何推动“OpenHarmony技术俱乐部产学研共同体演进?

陈海波告诉我们,目前主要有技术与产业标准孵化、产业技术难题、前沿学术研究与论文撰写、专题讲座、城市论坛、领学讲堂、技术竞赛在内的几项措施来推动:

首先,OpenHarmony会在研究方向上给出一些指引。

例如,在今年2月的首届OpenHarmony技术大会上,官方发布了智能终端操作系统的十大挑战方向,与社区内众多技术大咖共同分解出37个年度课题。

目前,各高校技术部已经承接了这些挑战课题。这些课题有助于学生更好地了解业界前沿,尤其像工业界有较强行业需求的难题,这对高校教学形成了一个很好的补充。

对话OpenHarmony陈海波:做原生智能系统,为大模型提供基座

与此同时,这些来自业界的难题也为高校教师的科研提供了很好的场景化支持,是一个很好的产学研结合的尝试方式。

其次,OpenHarmony也组织了相应的技术竞赛。

陈海波告诉我们,“OpenHarmony今年很快组织了一系列技术竞赛,这些竞赛得到了很多高校积极响应。在竞赛过程中,我们发现,有些团队已经在解决实际产业问题了,这也是出乎我们预料的。

我们希望一部分学生可以逐步拿参加各种科创比赛的项目,进行相关技术孵化,希望越来越多的高校团队和创业企业可以从这一产生生态中走出来。

来源:至顶网软件与服务频道

0赞

好文章,需要你的鼓励

2023

11/07

09:51

分享

点赞

邮件订阅