如何理解 AGI,AGI 时代到底给企业带来了哪些机会和风险?以及,对于创业者来说,到底应该怎么拥抱 AGI,如何下场开始 AI 时代的新的创业?针对这些问题,Founder Park 联合首钢基金旗下产业社群平台「参加CANPLUS」,邀请了国内大模型相关公司的创始人、专家,与来自农业、教育、零售、金融、企服、医疗等行业的从业者,进行了一场关于 AGI 认知的讨论与「对齐」。以下内容节选自参会讨论嘉宾的精彩观点,由 Founder Park 进行整理。

交流嘉宾介绍:
黄铁军:智源人工智能研究院院长、北京大学计算机学院教授
张帆:智谱 AI COO
胡时伟:第四范式联合创始人
白鸦:有赞创始人&CEO
傅盛:猎豹移动董事长& CEO、猎户星空董事长
程操红:钉钉 CTO

01 AI 现阶段是技术,不是科学

AI 首先是一门技术而不是科学

黄铁军:人工智能到底是一门科学还是一门技术?这个认识会影响我们对于很多问题的根本性判断。很多人质疑人工智能,或者对于人工智能的未来判断不准,主要是因为把人工智能的属性搞错了。人工智能是一门技术,不是一门科学。为什么是技术?创造发明新的事物叫做技术。人工智能的目的是创造智能系统,创造最前沿、未知的、未曾出现的事物。科学是探索和发现事物或现象背后的的规律。很多人习惯性思维认为科学是技术的基础,做研究首先要把科学搞清楚,然后再去开发技术。这是思维偏见,有些时候是这样,很多时候不是这样。自然科学、生物科学等,因为研究对象本来就存在,可以研究背后的规律。人工智能创造的最新系统还不存在,如何研究背后的科学?智能原理没搞清楚,不意味着就不能做人工智能。中国古代四大发明,指南针发明时,还没有电磁学等科学原理。人类一直处于不断探索和摸索的过程,探索包括发明新的事物(也就是技术)以及好奇心——研究背后的规律(也就是科学),两者都是原始创新,不是简单的技术以科学为前提。人工智能系统发展这么快,还没搞清楚背后的科学原理,一点都不奇怪。能搞清楚科学原理、解释清楚的东西都不复杂,解释不清楚,只是人类还没明白背后的原理而已,更重要的是能否做出来。把人工智能视为一门技术的关键是,我们要做的是去发明更强的智能算法或者系统,之后才是研究背后的规律,不能本末倒置。从根本上讲,最终人类能否揭示智能背后的原理,现在也是没结论的。真正的智能可能是不可理解的,至少不能用已有逻辑去解释。结论就是,AI 首先是一门技术,它的特征是不断形成新的智能模式,开发出越来越强的智能系统。AI 将为科学创造越来越复杂的研究对象,不断开拓科学的疆域。AI 是科学的先导,而不是科学的应用。

ChatGPT 其实是 GPT 模型对人类的降维

黄铁军:GPT 模型本身是很强的,但是到底有多强?可能 OpenAI 的人自己也不知道。在 ChatGPT 上线之前,他们也没有预测到效果会这么好。ChatGPT 的「chat」,其实是用人类能交流和感知的形式,把其中部分能力提取出来,跟人类偏好对齐。当人类觉得满意的时候,其实感知的只是人类能感知的这部分能力。GPT 还有很多强大的能力没有展示出来,很多能力可能是人类没法通过交流体验到的。

幻觉其实是大模型本身的创造力

张帆:大家对于幻觉其实是过于担心了。我觉得幻觉的本质是创造力,就是它能够创造以前没出现过的东西。大模型出现以前,我们所有的模型包括检索,基本上就是把已经见过的东西抽取出来,不会凭空产生,这会让我们觉得是可控的。但是大模型今天会创造出一些原来没有的东西,会基于用户的数据做推理,延展出一些没见过的东西,这个我们称之为幻觉,也是我认为今天大模型最大价值的地方。人的创造力某种程度上也是幻觉,为什么我们不觉得是坏事?因为人对于幻觉的生产是有标准的,也就是所谓的对齐。所以最大的问题不是没有幻觉,而是如何控制幻觉,按照我们想要的方式,让幻觉为我们所用,让创造力为我们所用。解决幻觉有两种方式:第一个方式是模型本身的优化,不断和人类对齐,这也是现在大家一直在努力的方向,但可能不能马上就解决问题,所以需要一些工程化的手段。第二个方式,就是工程化的方式,在对大模型的回答有具体需求的时候,我们可以给一些检索结果或者指令,告诉大模型,回答结果只能来自检索的信息,如果没有就不回答。

大模型可能会成为全民基础设施

黄铁军:我们认为继续发展下去的话,全球的大模型生态屈指可数,不会超过 5 个。为什么会这样?模型是数字形式的智能服务,只有最强的会活下来,能力差的自然会被淘汰。全球各地因为经济政治等问题,不可能只有一个,一般会有 2、3 个。其次,能做这件事的机构也是有限的。提供高智能的服务,必然需要尽可能全量的数据、可靠的系统等,而且需要不断更新的状态,7x24 小时运转,吸收了所有的数据,掌握了所有可能性的「智网」,其实已经变成了全社会的基础设施。从科技创新的角度来说,也不应该是彼此封闭的公司各自研发的状态,可能会是一个智能时代,成为一门学科,很多代人集体研究、发展的状态。如果跳出商业维度来看待这件事,比如像国家电网就不是纯商业的,它有一定的商业属性,但更多是公共属性。大模型最后可能会变成一个全民公共服务,就跟电网、互联网一样成为基础设施。而未来,现在 all in 大模型的公司其中一部分会在大模型生态中存活下来,甚至可能会成为很大很强的公司,但现阶段,看不出哪个公司有可能成为大模型的主体运营商。将来大模型成为类似电网的存在,这些大模型公司也会找到对自己来说更有利的位置,它们可能成不了国家电网,但国家电网也不是一家公司,上下游是有很多公司组成了一个庞大的体系。

大模型不会带来大量的失业

胡时伟:不只是大模型,机器学习和AI出现的时候,企业就会担心会带来大量的失业。比如说大一点的国企会说我们有20万员工,不能因为AI的出现就让他们失业了。思路是这样的,如果我们真的要替代人工岗位,需要让20万员工认认真真做三年(数据)标注,做完标注后,是有可能替代掉一半或者 1/3的员工。这种事情是可能存在的,但前提是你要构建一个完善的系统,让员工做数据标注,在标注的过程中,把很多存在员工大脑里的业务流程和经验转移到模型里。所以企业真正去做这件事情,需要构建一个数据飞轮,这个数据飞轮要把人、企业、企业的系统、以及人机交互的反馈闭环等都考虑到。把真正的业务系统在这个范围内做闭环。这也是Agent的核心价值所在——人机充分协同下的Agent能够让机器从被动参与协作,进入主动参与协作这一重要阶段。AI成为每个人工作的助理,逐步从细分工作的辅助,变成整体决策的辅助,再到真正成为专家。很多企业上一波做ERP、信息化的时候,什么一把手工程,又是收数据又是做梳理,但效果甚微,现在数字化(智能化)的过程中要想得到真正的收益,就需要真正把这些问题串联起来考虑。

02 拥抱大模型很重要,让 3.5% 的人先参与

大模型为企业带来了哪些机会?

张帆:大模型本质上是改变了人机交互,这是一种人机交互的革新。人类的需求其实就没怎么被改变过,CRM、ERP 的需求我们一直有,各种各样企业服务的需求也都是存在的。但是对着不同的人机交互的方式,我们可以提供不一样的产品和体验,不一样的成本和协作方式,甚至不一样的组织结构,每一次交互方式的改变都会推动这些能力的产品化重构。人机交互从从最早的穿孔机、键盘、鼠标变成现在触控,大模型时代又变成了自然语言的交互,每次交互的变化都带来了更低的交互门槛,交互效率变得更高。在以前,我们都会遇到一个问题:表达力和使用门槛是负相关的。Photoshop 功能特别强大,表达力特别强,但是使用门槛很高;美图秀秀门槛特别低,但表达力也会受限。以前是没法两全的,但大模型让这件事有了两全的可能性。因为自然语言的表达门槛是极低的,每个人都会说话,很复杂的逻辑也能用自然语言表达出来。在这样的体系下会不会产生 AI-Native 的应用,会不会产生完全不一样的应用来取代?我觉得是有可能的。但我不认为一两年就能马上有 AI-Native 的诞生,但这个事情也不是等出来的,比如抖音和今日头条不是突然掉下来的,而是字节一直在优化和调整,到了移动设备、网络等各种条件 ready 的时候,才会成为今天的抖音。但拥抱是很重要的事情,既不要短期期待过高,也不要长期低估潜力

AGI 时代,需不需要整个公司都 All in?

白鸦:我们的观点可能比较极端,不需要。
第一,我去年 10 月份去美国跟 AI 相关的公司聊,在美国待了四个月,然后今年从 4 月份-8 月份是我们的研究阶段,也就是花学费学习阶段。为什么有四个月的学费阶段,因为我决定在我们没有把成熟的产品做到用户面前之前,公司绝对不招任何一个 AI 科学家。原因特别简单,只要让他进来了,我面临的问题就是:老板你不懂,我觉得事情应该这么干等等,就算他是对的到最后我依然不知道我们该怎么做。我觉得没必要,因为我们自己不做大模型,只是做应用,我们只要知道大模型能实现什么,去做应用就好了。当然,明年我们成熟的产品阶段,用户开始用起来的时候,可能有很多问题要面对,这时候还是很需要高级 AI 研究员的。
第二,面对 AI,有无数的人会装睡,因为很多人知道 AI 会让他们失去工作,还有人会懒得去学,有人会抵触 AI,这也是很多人会说 AI 是智障、有很多问题没法用的原因之一。所以我就不打算让全公司 all in,选了一个小组进来,这个小组的人会隔一段时间就在公司做个分享,让感兴趣的人来听,然后给这些先用 AI 的人涨工资,逐渐淘汰不用的、落后的那些人。这种做法其实是有理论支撑的,哈佛大学政治学家切诺韦思有个 3.5% 的理论,一场运动只要有 3.5% 的民众真心参与,就能带来重大的变革。那,对于 AI 来说,什么是「真心」相信?

  • 相信 AI 产品很快就可以更好地完成所有人类重复性的工作,尤其是那些「专业」的重复性工作,我们工作的价值就是创造这些 AI 产品帮助人类完成那些工作。
  • 相信经过数据积累和学习之后,AI 所生成的内容,要强于绝大多数人类生成的内容,包括绝大多数过往经验里的最佳时间内容。能用 AI 生成生成内容时,优先选择 AI 生成,而不是人类。

当下,拥抱大模型是个性价比高的事情

张帆:一部分人经常会说大模型这个事做不了,那个事做不了,但这么看待大模型对这个事情没有任何帮助。iPhone 刚出来的时候,电量不如诺基亚、输入不如黑莓,但是你认不认为它是未来?如果认为它是未来,就要及早切入。及早切入最大的挑战,不是你怎么去否定它,而是如何找到最大公约数,在今天就能用而且有效地用起来,建立正循环,对模型有感觉,及早开始沉淀企业自己的核心资产。而且要给模型成长的时间,可能每三个月就会有一个大的变化,就能多干几件事。及早下场,从最小公约数做起,及早构建正循环团队,我觉得特别重要。某种程度上,我觉得今天拥抱大模型是个非常划算的事情,因为它是一个损失有限、收益无限的事情。一旦有收益,可能就会是一个全新的机会,会给你的竞争带来很多先发优势。站在岸边永远学不会游泳,要先动起来,速度在今天尤为重要。

全员拥抱 AI 必须一把手亲自抓

傅盛:什么叫全员 AI,让整个公司去理解 AI,真正把自己的流程往 AI 上靠,而且我觉得这是战略工程。执行 AI 实践的最大阻力,是跨部门的协作壁垒,是部门管理者的旧思维,一把手必须要亲自抓。在这个战略工程中,一把手要懂基本原理,要做组织变革。一把手必须要去了解最重要的基础原理,就跟马斯克造火箭的时候要懂火箭的基本原理,不然都没法跟工程师对话。一定不要想着招个人,他就能把这件事做了。

拥抱大模型,并不等于企业真正的智能化

胡时伟:在做技术变革或引入数字化技术之前,企业要先明确自己是否拥有足够充分的动力——是否能真正解决产业的核心问题,是否能让足够多的人兴奋?从战略角度看,数字化必须要做,但企业原本的构建过程已经固化,如何去打破原有的格局和平衡,对很多企业而言是个巨大的挑战。过往经验来看,试点式的人工智能场景大多会因为脱离业务而失败,all-in 式的数字化变革大多会因为能力不到位而失败。归根结底,数字化转型需要足够的动力,而动力是需要去发现的。所以我们需要去研究数字化转型的本质和科技的本质,其中除了战略、策略,还需要用到一定的商业模式设计能力。对于很多企业而言,数字化(智能化)与否最容易被忽略的是文化问题,数字化的本质是找数据要决策,以数据为本,而不是找人要结果。以人为本和数据为本是有本质区别的。

03 及早下场,寻找当下能落地的最好场景

大模型不会吞噬一切

傅盛:为什么不会吞噬一切,我觉得有三个原因:第一,大模型没有私有数据,私有数据是企业核心竞争力。每个企业每次推出一款新的产品,这背后经历了大量的流程和策略讨论等,这些都是企业不可多得的私有数据。企业内部的流程和数据是非常核心的,如果能用大模型把这些利用好,效率会提升很多。第二是能力边界,大模型的幻觉推理问题,目前还是需要其他的办法来解决。最后会发现这其实就是最后一公里的事情,就像基站建好了,但是村里还是不通电,需要变电站等。第三是大模型的成本问题,参数越大,模型成本越高。我们的不少应用,都不敢用 GPT-4,因为太贵了。

什么样的应用不会被大模型取代?

白鸦:我觉得要有几个特征才不会被大模型取代。第一个是要有自己独特的私有数据。大模型覆盖的领域在变得越来越宽,具备的通用知识和领域知识也会越来越多,如果你本身没有行业的业务数据,很快就会被大模型取代。这个数据一定要是在业务里产生的活数据,需要有业务作用,而不是独立的废弃的业务。第二个是要在应用里灌入业务流和作业流程。未来很多领域的应用会是 all in one 的,就比如大家经常用的飞书和钉钉,文档、聊天、报销、审批等流程,如果不是 all in one 的,流程和权限上就会存在很多问题。不 all in one,不把业务流程灌进去,这件事是跑不通的。第三,做一堆功能还是解决问题,我们选择先解决问题,先解决当下能解决的问题,至于功能可以根据要解决的问题慢慢添加。第四,看的更远还是选择更快落地。我们选择更快落地,等我们搞明白了原理,开始解决一个个的常规问题,当下有人开始用起来,至于最长远的问题,我觉得不是我们今天考虑的,因为变量实在太多了。

中国的大模型发展速度跟企业应用落地关系不大

白鸦:我觉得中国的大模型发展速度跟使用大模型的公司关系不大。我们的做法其实很简单,内部测试的时候使用 OpenAI,如果 OpenAI 能够实现,就会去找能做到的国产厂商合作,谁能做到,就跟谁合作。反正现在的大模型都是在追 OpenAI 的进度,OpenAI 能做到,他们有一天也可以做到。新技术发布后,自己用熟练的时间,跟国内厂商跟进的时间其实是差不多的。
但是面向内部的系统,我们其实是搭建了一个自己的 llama2 模型来服务公司的客服人员,有几个原因:
第一,想让团队成员上手熟悉大模型。
第二,内部系统使用,不会被客户绑架。如果自建的大模型面向客户,就很容易被客户绑架,成本很难控制。

大模型时代如何构建企业的竞争力?

张帆:主要就是四个环节:构建自己的基础模型、有一个适应当下模式的协作组织、沉淀自己的数据资产、让资产服务于公司的业务场景。如何选择一个好的基础模型作为基础,首先是不要让业务和基座模型做耦合,一定要解耦,在模型之上构建自己的能力,能够复用到不同的业务上。什么样的基座模型是一个好模型?首先是持续性,是不是能持续提供服务;其次是有没有一个完备的矩阵,因为很多场景可能不是只用一个模型,有些场景是 13B 的模型,有些则是 6B 的模型就够了。我们需要构建一个什么样的组织?企业如何构建自己的核心能力层,是不是有自己的 prompt 工程师、微调工程师,甚至大模型的 BP——专门去业务线收集信息、沟通交流和收集数据。构建一个自己的组织模式尤为重要。第三,今天的数据资产是什么,并不是只要是数据就有竞争力,比如知识图谱的数据,本质上就是以前自然语言处理能力受限,没办法处理复杂数据的变相处理,以前很好用,但现在大模型时代了,它的价值反而被削弱了。我们要及早去构建基于大模型的数据资产,而不是想着直接应用原有的数据资产。最后,业务场景为什么重要?因为用户不会每次都到 ChatGPT 里获取结果,一定是就近原则,用最舒服的方式解决问题。比如 Notion AI 的扩写,用户写了一句话,在 Notion 里很自然地选择这句话然后选择扩写,结果就出来了,不太会专门跑到 ChatGPT 里尝试。所以如何把大模型的能力耦合到产品的业务场景,让用户自然而然、无感的用起来,这就是产品的价值。

AGI 时代的未来创业新趋势

程操红:第一,无应用会是未来趋势。大家对于传统的流程表单和报表是很反感的,因为这种开发难、使用难,商业模式转化也难。应用商店里一堆应用,用户需要试用和开通,需要专门的学习和培训,但是 AI 出现之后,用户直接跟 AI 助理打交道就好了,AI 助理帮助你去买咖啡、帮你请假、帮你去做物业巡检。用户跟 AI 的交互也会变得特别简单和自然。这样的背景下,很多应用就没有存在的必要了。第二,细分领域将涌现出更多丰富的、多元化的数字助理或者数字员工。优秀的个体或组织都可以在各自细分领域中创建和迭代智能助理,并在高频协同网络中分享自身的知识、经验和技能,比如排产专家、工艺大师、数字助教等,有效解决资源稀缺的问题。甚至我们自己,到达一定岁数的时候,也可以建立自己的智能助理,进行更好的知识传播。第三,少数真人+大量智能助理是未来创新组织的重要组成逻辑。小而美的组织会大量出现,专业的助理可以解决人、财、物产、供销等层面的问题,公司内的岗位减少了,但大量的新组织会产生,个人的创造力和活力会被真正激发。