6 月 9 日-11 日,以“数字变革者”为主题的“2023 未来 CIO 数字峰会”在浙江舟山成功举办。本次峰会由浙江省企业信息化促进会、安徽省首席信息官协会、山东 CIO 联盟、河南 CIO 联盟、江苏省企业信息化协会、广东省 CIO 联盟、福建信息主管 (CIO) 网 、大连市 CIO 协会及崔牛会联合主办。

大会为期三天,论坛主题鲜明,内容“干货”满满,活动丰富有趣,集聚来自全国各地不同行业的企业 CIO、信息总监、IT 经理和数字化决策者,吸引了大量听众踊跃报名。

在本次峰会的主论坛上,与会嘉宾各抒己见,从不同维度分享了各自的精彩观点,深度探讨了变局之下,企业数字化转型的谋局、破局之道。波士顿咨询 Platinion 董事总经理陈果发表了主题为“数字化转型下企业架构的智能化升级”的演讲。

他认为,随着大模型成为企业的数字化基础设施,企业的 IT 架构将会发生很大的变化,生成式 AI 将会全面改造企业的应用系统,届时,企业的数字化可以概括成一句话,“喊一嗓子,剩下的交给 AI”。

波士顿咨询 Platinion 董事总经理  陈果

以下是陈果的演讲全文:

各位朋友,大家早上好,很高兴有这个机会到崔牛会组织的这个 CIO 论坛,来跟大家探讨一下企业架构,严格意义上来讲应该是 IT 架构这样一个话题。我来自波士顿咨询,可能很多人认识我,是因为看我的公众号文章,这个确实是,我自己跟崔总也认识非常久了,崔牛会是个非常好的平台,希望大家能够通过这两天的会议有所收获。

我今天跟大家谈企业数字化转型下的架构这个课题。今天来的都是 CIO,所以我讲的可能会比较有干货一些。现在的热题一定是 ChatGPT,那么这个最热门题 (生成式 AI) 怎么用到企业里面去?例如微软最新的 Copilot,可以自动生成文字等。但是大家觉得这个东西其实不能代替 ERP 嘛,那我们的 ERP 怎么能把生成式 AI 用起来?今天我主要跟大家探讨企业的数智化这样一个话题。

举个例子,我们在寄快递的时候,快递员都有一个 APP,这个 APP 是个寄件的后台系统,但是快递公司面临一个问题,现在竞争越来越激烈,所以对于快递运费和成本核算的要求越来越精细。过去获取快递都是按照重量或者距离寄的,比如说要从上海寄到新疆,要寄 100 公斤的货物,最后就是按这种方法来计费的。

但我们可以想象一下,如果是一个花盆或是床垫,可能都是 100 公斤,但是花盆比较小,可能一个人就能搬走,而床垫比较大,可能要两三个人来抬。所以说在同样重量的前提下,因为体积不一样、形状不一样,包装要求不一样,背后的成本是不一样的。这牵涉到一个问题,可能会影响客户满意度,也会影响上门处理的效率。这就是传统的信息化,对用户的体验、业务流程的优化本身没有太多好处。

几年前,我们给一家快递物流公司设计了一个方案,我们现在都有这种手机识图功能,通过手机识图很容易辨别要寄送的物品,甚至还可以很准确地测量它的体积,通过人工智能来判断究竟是个花盆还是个床垫,然后自动判断这一单快递该收多少钱。

这样你会发现,效率有了大幅提高,而且还有一系列的好处,因为人工智能通过摄像的方式把物体数字化了,还能通过人工智能自动判断业务规则,这个业务规则不仅仅包括收费,甚至包括车辆的路线。

如果有这样的一个识别,就可以提前知道寄送物品的体积,放到货箱里面去,会占多大的面积,多大的空间,到下一站的时候,就可以判断车里的空间还有多大,人工智能就可以建议你下一个适合接什么样的货物,还可以做路线优化的处理。

所以这是个很典型的例子。传统的信息化没有产生洞察和智能,机器不能实现对人的认知。

那么,什么叫智能化?什么叫人工智能?实际上,50 年代就有人工智能这个词,它要解决的是机器怎么认知人的问题。之前,计算机上的键盘鼠标解决的是人和机器互动的问题,到了人工智能阶段,其实要解决互动之后怎么样让机器理解人,这就是所谓的认知科学。

未来的信息系统会变成智慧机器,这就是所谓的人工智能,人的大脑是神经元构成的,由神经元和神经元之间进行连接,那机器的神经元和神经元之间的连接,我们可以称为模型参数,这个模型参数大概是什么样的数量级?人脑的这个神经元的连接数量大概是 100 万亿个,也就是说,当人工智能的模型和算法如果模拟人脑,也就是能够处理的参数,要达到 100 万亿这样一个数量级的规模。

今年年初突然开始热起来的 ChatGPT,技术上称为大模型和生成式 AI,它能够处理多少参数?它能够处理几千亿这样的一个数量级,现在大家看到国内的像清华的大模型,大概是 600 亿,所以现在是百亿到千亿的这样一个规模。

我们会看到随着技术的发展,人工智能的学习曲线在陡峭上升。按照目前这个发展趋势,也许不到十年之后,图灵测试的目标就会实现。那这对我们企业意味着什么?就是企业的 IT 架构,我们今天在座的 CIO,可能你们在过去的十几年在企业内部也建设了核心系统,这些系统解决了我们的很多问题,几年前,大家可能又在做一些类似于 BPM 的系统,能够把系统数据和数据之间、系统之间连起来,实现系统之间的打通。

最近两三年最热的一个词就是数据中台,它能够实现系统和系统之间数据的打通,能够用数据服务于业务。它经历了一个发展历程,有了系统之间的打通,就有了流程,之后有了数据平台和数据,最后有了智能应用场景。

例如,我们在网上搜索羊绒大衣,羊绒大衣可能从三千块到三万块的都有。如果你在电商平台上买空调,你买的是 1500 块的空调,平台肯定就给你推个 2000 块的羊绒大衣,但如果你买的是两万块的空调,那平台可能就会给你推荐两万块的羊绒大衣。所以,企业平台也是如此,如果链接外部大数据,它可以根据访问者的画像,实时做精准推荐。

那这背后的机制是什么呢?从整个企业系统架构上来讲,其实有这么几层,一层就是我们的核心系统,比如说定价优化系统,你的 ERP 系统等等,这是核心系统。第二层就是数据层,把这些数据解耦出来,能够形成无论用户也好、商品也好、价格也好、促销也好,能够形成这些数据。

但是我给你推的这个商品,至少我仓库里面要有,库存有,我能够发得了货的商品,我再推给你们,所以还要有库存数据等等,你所有的未来场景的决策数据都会在数据平台上拉通,在这之上,是有我们的智能或是算法支持,这是今天比较流行的服务架构。

这是典型的数字化时代的架构。云计算出现之后,包括所谓云原生的架构出现之后,大家都在建设这个架构,但现在又加上了人工智能架构。人工智能,对企业来讲还没有出现大规模的应用,所以大多数企业还没有形成人工智能中台,但是数据和服务平台,最近这几年这种分层的架构是主要趋势,这是我们波士顿咨询提出来的企业 IT 架构的一个方法论。

我们叫数据和数字化平台,简称 DDP,就是 data and digital platform。其实从 DDP 演化到今天,要完成两层智能的转型。

对企业的 IT 架构,一层架构就是要在数字化平台之上,大家都知道有云原生、微服务,就是怎样把服务调度起来。过去有传统的 BPM 的方式,用流程的方式去把业务串起来。所谓的微服务是什么呢?微服务是说通过一个开放的平台,按照数字化产品的方式对服务进行灵活迭代,所以 BPM 和微服务是两个不同的思想,虽然都是服务导向,到今天,还不仅仅是说按前面的用户的导向,因为用户本身是非常个性化的,我怎样按照用户需求,实时组合我的服务,这就是智能化。

智能化的前提是,怎样实时和用户交互?比如说 ChatGPT,在连续对话时,机器不断在理解你,所以机器理解你的过程,就是所谓的 NLP 的过程。

怎么样去提高这个沟通的效率?今天甚至出现了一些新的技术,能够更高效地对人进行提炼,提高 NLP 的效率,更好调取后面的服务,这是前端。

后端就是说我们怎么样能够用这个人工智能的方法,根据我们的这个就是前端的指示,能够快速调度服务。这些服务是怎么来的?这些服务是既包含了我们的核心系统的服务,也包含了我们内部和外部的服务,每项服务都是可以通过人工智能来进行调度。

现在越来越多的企业,比如合同所需的身份认证、签名等等,这是很典型的外部服务。所以在你的一个业务流程中间,哪怕你的一个合同处理,这是内部的一个流程。但是合同处理中间你涉及到身份的认证和涉及到合同的签字,这个时候你可以接入一个外部的服务。

对内部和外部的服务,怎么样用人工智能的方式,能够把它快速组合起来。那这种两层架构,就是我认为的未来的企业架构,这个两层架构里面涉及到两层的核心技术,后台的超自动化和前台的智能代理。这两个核心的技术我分别展开谈一下。

第一个是后台的自动化的问题,后台的自动化,这有几个很关键的技术。

 

第一个就是我怎么样去发现我们系统里面的实际的服务和流程。这个概念,大家会看到在最近四五年,几乎所有的大的 ERP 软件公司都在干一件事,都在收购流程挖掘公司。其实流程挖掘这个概念很早就提出来了,大概九十年代的后期,大家都在提业务流程管理。

业务流程管理是一种自上而下的过程,你先去做建模,然后再去生成软件代码,它是一种自上而下的,是定义业务、定义逻辑,最后去定义软件代码的这样一个自上而下的过程,而流程挖掘,它思维是反过来的,就是我怎么在业务实际的业务作业中间,我通过这个系统日志文件分析,反向还原出来流程。

这是流程挖掘本来的概念,它解决了什么问题?它解决了当我又来信息系统之后,我怎么样去解析系统里面服务的问题?我究竟有哪些业务服务,你比如说我做订单处理,那我里面可能会有一个叫做商品产品的服务,我提了两个产品,我可能有价格服务,我可能还会有比如说这个折价的服务,比如说有运输条款的服务,每个订单里面还有运费等等,我还可能还会有订单的这个可交付性检查服务,把这些服务加起来,共同构成了一个叫订单处理的业务流程,OK,好,那我实际在操作一个订单处理的时候,我在我的系统中间究竟有哪些服务?我究竟做了哪些业务之后,最后会形成我订单处理这个业务流程。

流程挖掘就是干这个事情的,它是反向发现我们的业务中心系统中间有究竟有哪些服务好,那为什么最近这几年这些 ERP 厂商都在干这个,他们主要是解决上云的问题。像 SAP 现在收了一个软件企业,就是最近这几年比较火的做流程挖掘的,IBM 都在收购这样的软件,他们主要是解决说当你要去上云的时候,那你要去做容器化,你要去做服务化,去对传统的系统,去做你的容器或者服务化的一个流程解析这样的问题。

但是另外一个角度来讲,今天我们讲自动化,其实道理是一样的。一旦服务化解耦之后,我怎么样去指挥和调度服务?我要知道有哪些服务我才能指挥和调度?用人工智能去指挥,那所以说这个超自动化,当我们把这个服务解释清楚之后,怎么去调度,有个非常形象的一个比方,这个就像大家在用导航。

我想从上海开车去北京,过去我们可能要找个地图出来做规划,我从上海先开车到苏州,苏州再开到南京,南京再开到徐州,我一步步走,然后我还看这个地图上走几号公路,到哪儿要下个口,我把这个路线要写出来,这是人去做判断,这就是流程,这个流程你要有什么呢?你要有个地图,地图就是我们做流程挖掘,从上海到北京究竟哪条多少条路?这个是业务流程管理,业务流程挖掘。

第二个,你指挥流程,就像我们做一个系统,就像我们开个车,你要从哪个方向走?就是你系统里面做什么操作,但是你这个方式是不自动的,而且你在开车的过程中间,还有很多环境因素的变化,比如马上堵车了之后,你要去绕一下,前面在修路,地图上还没标,你发现修路了之后,你要现找路,但今天你开车的时候不需要这么做了,你有一个导航,这个导航会告诉你,从上海到北京该怎么开?还有几条路可以选,有什么条件可以选?而且开的过程中间它还可以随时给你去改路,避免你开错了或者怎么样。

所以你会看到说这个导航的背后是有什么?它其实有智能指挥,它有一系列的算法在指挥,这条路该怎么走。那我们可以想象的是什么呢?我们在过去做业务流程,我们要去解释这件事情是怎么做的,人要去解释说你要在走哪条路,走哪条口,我们的业务流程是按照定义的条件依赖的,但是我们的这个就是智能导航,那我只说我要从上海到北京,顶多加一个很简单的条件,我就比如说收费更少,就可以了。

所有的条件选择和过程,全部是机器回答的,全部是我这个智能导航软件回答的。所以我们看到今天的企业业务,其实是以目标为导向的,我要从上海到北京,至于上海到北京我该怎么走,那些我通通不用管。所以,现在大家觉得这个就是开车都变傻瓜了,都不认识路了,严重依赖导航了,其实人做业务也是这样的,但现在你还知道说企业怎么处理流程,我要去处理一个订单,你还说我一步、二步、三步、四步怎么走?

我自己做了 20 多年咨询,很多企业让我去做业务流程梳理,你说一个企业自己都不知道自己业务是怎么处理的,还要找顾问去做梳理,那不是很扯淡嘛,所以说这个我们会谈智能流程处理,这套体系叫什么呢?这套体系就是所谓的超自动化。

超自动化这个名词其实也不是我提出来的,这个名词是 Gartner 提出来的,大概是在 2018 或者 2019 年提出来,大概有四年左右的时间。

大家会认为说这个超自动化包含了传统的核心系统,也包含了 BP、BPM、BPI、业务流程治理、业务流程管理和业务流程挖掘,也包含了 RPA。因为你前端的业务的集成,系统和系统之间集成是 RPA,它其实是画面级和动作级的,所以说流程服务整合起来,这叫流程发现,然后你要去解释它的那个,比如说你的屏幕怎么操作的,这个叫做动作发现,叫 task discover。

从任务到流程到数据,全部加起来,这个就叫 Hyper Automation。所以在座各位,你们今天还在弄 ERP、CRM,流程管理、大数据平台等等,也许两年之后、三年之后这些名词都不存在了,这些加起来叫超自动化。所以 Gartner 认为,超自动化是我们的一个企业级市场,是个大概大几千亿美元的这样的一个市场。这就是我们后台的系统革命。

我们再来谈前台,就是生成式 AI 前台,其实现在市面上的大模型非常多,但是现在国内不能用国外的模型,国内也出现一些开源的模型。

清华等一些开源的大模型去做基于大模型的 AI 应用,那怎样把流程运用到大模型上面?我给大家打个简单的比方,什么叫大模型?大模型就是说这个模型你就像人脑,他看了很多很多的书,他有很多数据,所以说有很多数据、各种文本语言语料训练它。这个训练的方法跟传统训练方法不一样,这是一种非监督式的或者半监督式的训练。总之就是说传统方法是需要不断教它该怎么样。今天的大模型学习的方法,就是他是在学习过程中间,他学了少量了之后,再加上新的语料之后,他会根据过去的知识去叠加去训练,所以它是怎么训练的?这个成本是比传统的训练方法效率要高很多。

大模型可能并不了解你企业的具体情况,所以说大家在用 ChatGPT 的时候,你们就会有一个感觉,叫做一本正经地胡说八道,他说的大家可能是看起来很通顺,但不一定准确,那怎么能够在企业应用中间让它看起来很准确呢?那也就是说你要用你企业具体的可能在互联网上都没有的这些信息,企业自有的信息,再去训练它,就能让他快速的去学会。

所以说其实今天我们会看到说大模型用到企业就是叫做企业大模型,解决企业的问题,那怎么做?企业要搭建一个私有的训练环境去训练大模型,这是第一个,要有自己的训练环境。

第二个,你要有自己的企业级语料。这个企业级语料就是我们写的核心系统来的,比如说订单数据,库存、控货等等各种各样的企业数据,你把企业数据放到大模型里面,又有两条路可以走,一条路我们叫做精调,所谓精调就是用这个大模型学习方法来学习你的小数据,那这个大模型具有理解你小数据的知识能力,这叫精调。

还有一种方法叫嵌入。嵌入就是当你在做问题回答的时候,它出来的这个知识库的内容,那个它的回答的内容就前端是这个 NLP,它理解你的语言之后,你最后反馈的内容,它既包含了这个大模型的这个公有的内容,同时也包含了企业的私有的内容,它是个混合,这个内容不是学进去的,而是混合进去的,然后能够做成你的回答。不管你嵌入或者精调,我们会看到大模型改造了企业的应用系统。

ChatGPT 现在是不可以用来做业务的,为什么?答案是不准确的,但是它一个很大的好处是什么?它可以培养,也可以帮你探索你不知道的内容。但企业任务是确定性的,比如说我要去查询余额、查询工资,这个一点都不能错,或者是我要去处理一个订单,订单的价格一点都不能错,这是确定性的任务。

所以说未来,我们的自然人机界面的互动,可能就没有键盘了,甚至是可以通过语言互动,通过任何智能的方式来进行互动。未来,对企业来讲,交互既可以处理不确定性的业务,也可以处理我们精确性的业务。

这种方法对我们企业的架构带来的变化是什么?左边这张图就是在我在前面看到的,就是四层基础设施上,运营是核心系统,你要保留你的核心系统解耦之后的数据,解耦到数据平台,然后之上应用解耦,到这个应用服务层,前面做 APP,这是前几年大家都在讲的这个中台等等,都在讲左边这种模式。

我重点给大家讲的是右边,所以大家会看到不管是后端的超自动化,前端的精调加嵌入,智能代理的方式可以自动判断,就像导航一样。那这就让企业架构发生了变化,企业级的架构,第一就是基础设施上,你要有支持我们的这个人工智能的这个训练,人工智能的处理环境,这所以说你会看到说为什么现在云服务上面也在加这个 GPU、TPU,包括我们做私有环境,甚至你自己去部署你的人工智能服务器,所以这是基础设施的变化。

这也是我一直在说 ERP 非常重要,在任何时候企业都要有 ERP,但是 ERP 会越来越弱,更重要的是什么呢?是数据和规则。在数据这一层,我们今天也会看到说一些这个新的面向人工智能的数据处理方式,比如说像矢量数据库,但在数据的存储、数据的准备方面,也要面向人工智能,做一些架构的升级。

最重要的其实就是人工智能这一层。越来越多的企业,随着人工智能的发展,要去建立人工智能层,这里面是包括你的这个训练的环境,模型的管理,以及怎样对整个 AI 的能力进行持续的运维。

最后这一层就是前端。过去大家都在谈建立一个应用程序整合服务,但是今天的前端都是智能化的前端,NLP 的前端。所以你在前端怎么样去建立你的前端的语义理解的能力,这个就是用户的互动的方式发生改变,也许可能两到三年之后,大家可能都已经走到右面这个状态上去了。

总结一下未来企业的数字化,我就把它总结成一句话,就是“你喊一嗓子,剩下就交给 AI 了。”

还是我讲开车那个例子,你在开车的时候,你要到北京,到上海,地图上要各种各样找路,今天你就说要到北京去,你就沿着那个路线开就好了,甚至你开都不用,现在都智能驾驶了,这就是未来的业务。

当然,你到北京你是愿意走风景好的路,还是愿意走收费但速度更快的路,还是收费少的路等等,可能还会有一些反复的问答和反馈,机器帮你去做业务流程的筛选,最后自动触发业务流程,AI 自动生成业务列表,在做的过程中持续更新信息,并且这些信息也会产生数据,未来这些数据会支持你的任务和你的决策方式,持续迭代。

所以人其实只要做两件事情,第一,告知目标,第二,不断认可迭代。

认可迭代是什么呢?就是你帮助机器学习的过程,你告诉机器这条路是对的,我对这条路很满意,下次他就知道说老板喜欢这条路,我下次沿着这条路走,人只要告诉机器目标,以及对机器持续做出反馈,其他的全部交给机器,这就是我跟大家分享的企业数字化的架构转型,感谢大家的聆听,谢谢各位。