生成式AI浪潮中的ISV价值重塑，东软智能化解决方案的“天命人”之路 原创

自ChatGPT在2022年底发布，生成式AI的兴起到现在已有将近2年，我们见识了其在ToC领域的高歌猛进。也正是有了2年的沉淀，生成式AI也开始逐渐转向ToB，越来越多的企业希望将其嵌入到自己的工作流中，实现整体的降本增效。

东软研究院常务副院长兼东软魔形科技研究院常务副院长闻英友多年来一直从事AI技术及应用的研发。在他看来，从最初千篇一律的延续互联网思维实现大模型应用落地的想法，到现在越来越多的关于大模型ToB场景应用价值的讨论，都反应了一个重要的认知，生成式AI必须与行业和企业的业务场景、实际需求紧密结合，才能有价值变现的可能。

“不能仅仅靠好玩、新奇的体验或者寻找所谓杀手级应用来驱动生成式AI的长期可持续发展。”闻英友说。

作为企业IT建设一路走来的同路人，ISV（独立软件开发商）无疑是生成式AI真正大规模落地的最关键环节，作为铺路人，ISV掌握着生成式AI ToB应用的最后一公里。东软作为在中国市场上深耕三十多年的ISV，期待着在这样一个伟大的智能化时代，抓住难得的机遇，重新定义东软的角色和价值。

ISV有了新的角色和价值

中国第一批ISV起源于20世纪80年代末，当时PC逐渐进入中国，很多外国软件不能照搬，也就在那时中国ISV开始迅速发展崛起。

现如今，ISV已经成为行业解决方案和企业应用的最终实现者，是信息化和数字化的铺路人。在企业长久的IT发展中ISV发挥了重要的作用，而且ISV也在时刻关注着各种技术的发展，不断丰富着自己的产品能力。

AI技术就是其中之一，AI是一个发展历程较长的技术，最早可以追溯到上世纪50年代。在生成式AI到来之前，AI一直处于判别式时代，ISV在之前就已经在解决方案和应用中集成了大量的AI能力，业务赋能效果也非常明显。

但闻英友认为，这种AI赋能由于受判别式AI本身泛化能力和场景局限性的影响，很难改变ISV的角色和价值定位。

伴随着以生成式AI为代表的新一代人工智能技术的快速发展，其在交互、事务、认知以及决策等方面表现出来的强大的泛化能力和场景适应能力，传统意义的ISV角色和价值定位都发生了重大的改变。

多年来ISV积累了众多领域的丰富经验和业务知识，以及对企业数字化的认知，这些是AI厂商所不具备并且无法短期时间内补足的，因此在生成式AI的变革浪潮中，ISV的角色和价值都将发生巨大的变化。

ISV要做“AIGC的行业嵌入”

了解行业，了解业务，了解客户，理解客户的价值诉求，这些都是生成式AI在ToB场景落地必不可少的前提和条件。

“在新一轮生成式AI变革中，ISV应该坚持一种AIGC应用思维，而不是所谓的大模型思维”。 闻英友解释称，ISV应该围绕行业和企业的需求去思考该做什么，而不是围绕大模型本身去思考能做什么？东软把这种思维定义为“AIGC的行业嵌入”，这也充分体现了在通用人工智能时代，ISV的核心竞争力。

踏实做应用，不强调模型参数和实现更强的AGI能力也成为现在ISV们的统一表现。

闻英友认为，由于出发点的不同，造成了ISV和非ISV核心竞争力的差异，当然这种差异是具有互补性的，只有好处，没有坏处。

越来越多的企业也从喧嚣纷乱的市场上，逐渐认识到具体的生成式AI项目实施，ISV无疑具有天然优势。

“大模型预训练的技术门槛没有那么高，国内和国外有一定差距，但国内目前备案的180多个大模型在能力上没有本质差别。”闻英友说，没有哪个具有独门绝技让自己的大模型能力卓尔不群，所以目前生成式AI项目实施的关键还是怎么用好大模型，而不是大模型本身，这也是对ISV有利的一点。

东软作为中国最早上市的软件企业，在智慧城市、医疗健康、智能汽车互联、企业数字化转型、国际软件服务等多个领域有着三十多年的持续耕耘。在人工智能的发展过程中，东软通过东软研究院、东软智能医疗科技研究院等组织，深入开展AI核心技术和算法的研究，并广泛应用于各行业领域的产品和服务之中。

有准备的迎接生成式AI的机遇与挑战

当前生成式AI技术的市场还并不成熟，企业虽然看到生成式AI解决方案的市场需求呈现出全领域、全业务增长的态势，但从实际需求到真正项目落地，市场还是表现出很明显的谨慎态度。

ISV一方面面临着角色和价值重新定义的重大机遇，一方面又掌握着ToB的AIGC应用最后一公里。

2023年初，东软成立了魔形科技研究院投入大量资源建设算力平台和训练平台，专门研究生成式AI与AIGC行业应用涉及的核心技术，迎接生成式AI的机遇和挑战。

东软魔形科技研究院启动和实施东软“大语言模型系统工程（LLM Systems Engineering，LLM-SE）”战略，面向医疗、人社、医保、政务、金融、媒体、人力资源及智能汽车等所有业务领域，构建东软LLM-SE+领域应用。

并且在今年，东软集团创始人、董事长刘积仁明确提出并全面实施了智能化解决方案战略，将AI、大数据等先进技术融入更多行业应用，推动产业升级和数字化转型。

虽然更多的客户需求是“AIGC的行业嵌入”，但AIGC行业应用的真正落地却充满挑战。因为行业企业客户在认知上有很多信息输入渠道，认识的偏差常常带来错误的判断和预期，容易对生成式AI产生不符合实际业务需求的过高期待，或者对生成式AI持怀疑态度进而等待观望。

东软认为把AIGC能力输送到客户价值体系中就能够把握市场的主动权，所以近两年东软也做了很多的工作帮助客户实现认知的转变，只有ISV和客户的认知达成一致，才能真正实现生成式AI驱动的业务和价值变革。

生成式AI部署首先要统一认知

东软在帮助企业部署生成式AI的过程中，遇到最多的两个问题是客户自身应用场景的挖掘、模型和算力的选择困惑。

“我们经常看到很多客户在不断找场景，看案例。”闻英友说道，东软一直积极协助客户结合自身业务找到最佳的切入点和实现路径，并全面规划未来的发展，这也是作为ISV，与客户一起成长义不容辞的责任。

在算力和模型的选择上，根据模型参数规模、量化参数、推理加速方法等因素静态推断模型部署的算力需求是非常不可靠的，需要更多考虑成本和未来应用的扩展性。

不同的应用和不同的实现方式，都对模型和算力有不同的实际需求，比如一个非即时的文书生成应用和一个业务场景中的对话应用在首token响应时间上的要求完全不同，对模型和算力要求也完全不同。

闻英友指出，模型和算力选择也和应用具体的实现有关系，一个应用如何调用大模型，调用的频度以及平均单次调用的token数等等都会产生不同的系统压力。我国目前生成式AI产业发展处于初始阶段的定位，体现了AIGC应用的成熟度欠缺，市场总体上还处于一个卖模型和卖算力的阶段，没有更多的真正有价值的AIGC应用作为参照，造成了模型和算力选择上的盲目。

东软首先会协助客户做好规划，结合客户实际和现阶段生成式AI的能力和特点，找到切实可行的推进路线和应用切入点。在这个过程中，东软特别重视发挥业务专家的作用，因为企业生成式AI成功落地的关键不在于大模型，而在于对业务的理解。

同时，东软也积极向客户展示各个领域不同类型的AIGC应用案例，这对于目前处于探索阶段的行业和企业客户来说，特别具有启发作用。在具体项目实施前会通过各种测试重点解决客户的模型和算力选择困惑，在实施过程中就每一个生成功能点的特性需求，也就是东软定义的生成效果的度量，保持与客户实时沟通，让客户了解生成式AI的特点，进而能更好地配合和调整项目的交付目标，保证交付质量。

从技术到应用的一套方法论

东软既有技术基础作为保障，又有对AIGC行业应用有深刻的认识，并且围绕智能化解决方案战略，在四个方面进行了研发布局并取得了关键技术的突破。

第一，通用大语言模型，东软“领智”（IndustraMind）大模型的预训练和国家备案，全面支撑了东软多个行业的AIGC应用开发需求。

第二，智能体技术方面，东软面向经办类应用，自研了IndustraMind ToB智能体，全面支持了医疗、医保以及人社领域的智能化解决方案实现。

第三，AIGC应用开发方面，东软于2023年在业内率先提出了大语言模型系统工程(LLM-SE)概念，构建了开放框架，在知识工程、事务工程、交互工程以及可解释工程等方面形成了关键技术和算法，有效保障了企业用户的AIGC应用效果。

第四，开发平台方面，东软面向场景类应用，构建了AIMate大模型应用敏捷开发平台，全面支撑了政务、环保等领域的AIGC应用开发。

“大模型不等于大模型应用。”闻英友说，东软把ToB的AIGC应用划分为经办类和场景类。场景类AIGC应用因为要结合客户的业务场景，大部分是定制化的，传说中的做一个所谓“行业大模型”就能满足一切AIGC行业应用的开发需求仅仅是一种传说，我们为行业客户做的场景类AIGC应用，基本都很难复制到同一领域的另一个客户现场。比如某药厂做的生产工艺运维的大模型应用，因为药的品种不一样，生产工艺也完全不同，就无法复制到另一个药厂。

对于定制化的AIGC行业应用，虽然很难实现场景的完全复制，但可以实现平台和技术的复用，这种复用是保障场景类AIGC应用效果和质量的重要基础，这也是东软研发投入的重点。

闻英友一直有一个观点：寻找所谓的大模型杀手级应用是一个伪命题，如果大模型真正成熟好用，一切的应用都将被重新定义和开发，那么一切应用都是杀手级应用。只不过目前的生成式AI还不成熟，实现不了这种全方位的替代。

东软定义的智能化解决方案有四个发展阶段，分别对应四种智能化，即：交互智能，事务智能，认知智能以及决策智能。重点面向医疗、医保、人力资源和社会保障等用户群体覆盖广，事务性工作负担大，社会影响力深远的领域。

目前，东软基于东软大语言模型系统工程（LLM-SE）以及自研的IndustraMInd ToB智能体技术，在人社领域已经完成了交互智能、事务智能和认知智能三个阶段的研发目标。

通过自研智能体开发平台，东软实现了领域业务流程和数据知识的智能体注入，设计并实现了“人社智用体”，重点解决人社领域面临的客服工作量大，高频业务办理量大以及交互智能化和适老化的应用需求。

目前东软“人社智用体”已经实现了Web业务系统到APP应用再到数字人系统的全路径升级，完成了人社领域的智能客服、业务办理、咨询建议等多个业务的统一入口整合，实现了“有事您说话”的智能应用模式，构建了虚拟柜员服务模态。

写在最后

大语言模型系统工程能力的持续提升，是东软在这个时代的求存图进的傍身之技，是致胜图强的独孤九剑。

以生成式AI为起点的AGI时代，ISV要重新思考自己的定位，东软认识到在大模型预训练和生产方面的经验积累要弱于大模型厂商，但自身却有着比较明显的业务知识和数据资产优势。因此，如何更好地开展与生态伙伴合作，面向行业领域构建领域专业大模型，进而更好地支撑应用的实现以及AIGC应用的持续优化，是需要重点布局的方向。

东软希望完成从传统软件开发的商业模式到知识服务的商业模式的转变，因为智能化解决方案不仅仅是铺一条路，而是打造一个持续的数据价值和知识资产的生产系统，为知识服务的实现提供无限可能。