哈佛商学院教授：如何领导企业人工智能

在CXOTalk第803期节目中，哈佛商学院教授伊沃尔-波伊诺夫（Iavor Bojinov）解释了如何在企业人工智能项目失败率较高的情况下使其取得成功。

本期节目的共同嘉宾主持人是 QuHarrison Terry。

伊沃尔-波伊诺夫（Iavor Bojinov）是哈佛商学院工商管理助理教授和理查德-霍奇森研究员。他是人工智能和数据科学运营实验室（AI and Data Science Operations Lab）的共同首席科学家，也是哈佛大学统计系和哈佛数据科学计划（Harvard Data Science Initiative）的教员。他的研究和著作以数据科学战略和运营为中心，旨在了解公司应如何克服人工智能新应用带来的方法论和运营挑战。他的研究成果发表在《Annals of Applied Statistics》、《Biometrika》、《The Journal of the American Statistical Association》、《Quantitative Economics》、《Management Science》和《Science》等顶级学术期刊上，并被《福布斯》（Forbes）、《纽约时报》（The New York Times）、《华盛顿邮报》（The Washingon Post）和《路透社》（Reuters）等媒体引用。在加入哈佛商学院之前，Bojinov 教授是一名数据科学家，领导 LinkedIn 应用研究小组的因果推理工作。他拥有哈佛大学统计学博士和硕士学位，以及伦敦国王学院数学硕士学位。

曲哈里森-特里（QuHarrison Terry） 是德克萨斯州风险投资公司 Mark Cuban Companies 的增长营销主管，他为投资组合公司的营销战略和目标提供建议和协助。

迈克尔-克里格斯曼（Michael Krigsman） 是行业分析师和 CXOTalk 的出版商。三十年来，他一直为企业技术公司提供市场信息和定位战略方面的咨询。他撰写了 1,000 多篇关于领导力和数字化转型的博客，并就这些主题制作了近 1,000 个与世界顶级商业领袖的视频访谈。他的作品被媒体引用超过 1,000 次，并被 50 多本书收录。他曾在全球众多行业活动中发表演讲并主持小组讨论。

迈克尔-克里格斯曼（Michael Krigsman）：今天的 CXOTalk 第 803 期节目，我们将讨论如何领导和管理企业人工智能项目。我们的对话嘉宾是来自哈佛商学院的伊沃尔-波伊诺夫（Iavor Bojinov），我尊敬的共同主持人嘉宾是曲哈里森-特里（QuHarrison Terry）。

Iavor Bojinov：我的研究方向是人工智能战略和运营。这基本上意味着，我与企业合作，帮助他们克服在整个组织内实施人工智能时所面临的运营和方法上的挑战，所以差不多就是我们今天要谈的一切。

企业人工智能项目的独特之处

Michael Krigsman：Iavor，当我们谈论人工智能项目时，我们指的是什么，这与其他类型的技术项目有什么不同？

Iavor Bojinov：人工智能项目分为两类：一个是面向内部，另一个是面向外部。面向内部的项目旨在帮助员工更好地开展工作。例如，这可以是线索推荐，它可以是供应链优化，也可以是与公司员工互动的任何项目。面向外部的项目，是指最终用户实际上是公司客户的人工智能项目。这就像 Netflix 的推荐引擎、ChatGPT，以及你周围看到的几乎所有利用人工智能的东西。这就是人工智能项目的高层次含义。你问题的第二部分是，人工智能项目有什么不同？为什么这不是我们已经处理了20多年、30多年的传统IT项目？这里有一个很大的根本区别，那就是人工智能是随机的。这意味着，迈克尔，如果你打开你的 ChatGPT，问它一个问题，我打开我的 ChatGPT 问同样的问题，曲打开他的 ChatGPT 问同样的问题，我们会得到三个不同的答案。尽管这看起来只是一个很小的改动，但却对整个项目产生了重大影响。这种固有的随机性从根本上增加了处理问题的难度。

过渡到云技术以实施人工智能和管理数据

QuHarrison Terry：今天的人工智能很容易让人联想到云计算，我们可以在 2010 年思考一下。我应该考虑哪种转变？如果我仍在实施我的云计算战略或迁移，然后人工智能突然出现，我有人工智能项目需要维护，我想知道的一件事是，你是在数据非常好的内部运行这些项目，还是我们应该完成向云计算的过渡，然后开始人工智能（因为数据是其中不可或缺的一部分）？

Iavor Bojinov：这实际上是在考虑公司的整体战略和人工智能战略。现在，我认为已经成为标准的是，你需要拥有云基础设施，以便能够利用人工智能，因为要使用人工智能，你需要数据。现在，企业正在向云计算过渡，他们的所有数据都将存储在那里。我认为这是许多公司正在经历的大型数字化转型的一部分。其中一个动机，其实就是能够开发和部署人工智能，因为人工智能能够消除人类的瓶颈，从而提高效率，真正实现优化运营。但与此同时，在未来，它还将带来全新的商业模式。我认为，这是与云计算截然不同的一件大事。云是一种工具，它能让你真正实现规模化运营。当然，如果你是云服务提供商，你就有了新的商业模式。但对于大多数公司来说，这并不是真正意义上的重新设计整个价值主张，而人工智能本质上可以为你做到这一点。我认为云技术是必要的，也是数字化转型的一部分，这将成为你需要拥有的基础，但人工智能才是真正能改变企业的东西。

QuHarrison Terry：这是在 Nvidia 最近的财报电话会议的尾声，我相信你一定很熟悉；135 亿美元的收入，其中 60 亿美元的利润，主要是由这些云计算提供商（AWS、Azure、GCP）和他们从普通计算向加速计算的转变所推动的，他们可以为客户提供人工智能。你提出了一个很好的观点。

以商业案例和正确的衡量标准启动人工智能项目

随着这种转变的发生，作为企业领导者，我需要具备和保持什么样的心态，因为这不是我们去云端，只是将一个传统离线存储的文件转移到线上。如果我做对了，我的公司或组织就能立即提高 24% 的绩效。这太荒唐了，我们已经有这方面的记录。

Iavor Bojinov：从这个高度来看，"我需要有一个成功的人工智能战略"确实很容易，但这一切都始于人工智能项目。我给领导者的建议是，要有一个高层次的战略，即你要改善你的运营，你要重新设计你的业务模式，这将会是一个循序渐进的过程。但是，您现在需要做的是，确保您的每一个人工智能项目都从一开始就取得成功。成功构建，对其进行评估，证明它能带来真正的价值，然后被采用，再然后进入稳定的管理状态。对我来说，一个非常重要的启示就是要有大战略，但要真正专注于每一个项目，这也是我们今天想讨论的问题之一。很多人工智能项目之所以失败，是因为它不只是把离线的东西放到线上那么简单，我们可以进行云过渡，这真的很难，成本确实很高。但说到人工智能项目，大多数项目往往都会失败。我鼓励领导者思考的是，专注于每个项目，确保他们能够成功实施。这就是我在这里的最大不同之处。

企业人工智能项目失败率的现实

Michael Krigsman：你刚才所描述的，人工智能项目和这些项目的成功问题，有一个固有的营销问题，那就是，每个人都喜欢谈论人工智能和广泛的战略，正如Qu所说，我们将进入云计算领域。现在你这是在打我们的脸，因为你在说，"好吧，我们需要把它作为一个项目来关注"。我们是战略家，这不是我们想做的。

Iavor Bojinov：是这样的。大约 80% 的人工智能项目都失败了，这是一个令人震惊的数字。如果与大型 IT 项目相比，这个数字大约在 40% 左右，因此失败的项目数量是后者的两倍。这种做法成本极高，因为如果你想部署人工智能，就需要对数据进行投资。数据需要放在云端，这可不便宜。你需要聘请合适的团队，人工智能工程师非常昂贵。你需要有正确的计算，我们说的是Nvidia，那些芯片可不便宜，对吧？如果你想进行大规模计算，那是非常昂贵的。如果你的人工智能项目失败率很高，绝大多数项目都不会成功，都不会有回报，那么，你不仅会赔钱，还会失去动力，失去组织信任。然后，公司开始怀疑他们是否能做到这一点。这就是为什么我喜欢...当然，战略是非常重要的，你要考虑全局。但是，如果你不能完成项目，你将一事无成。

Michael Krigsman：我听说人工智能项目与传统 IT 项目有两个明显的不同之处。第一，人工智能产生的结果具有不确定性。其二是基础设施的性质要求巨大而专业的计算能力。

Iavor Bojinov：是的。

克服人工智能应用挑战，建立对人工智能的信任

Michael Krigsman：如果你运行的是业务流程软件，你需要快速的计算机和数据库。但对于人工智能来说，你需要 GPU 和所有这些高级别的数据基础设施。伊沃尔，你这么看准确吗？

Iavor Bojinov：IT 和人工智能项目之间还有一个非常不同的难题，那就是如何推动采用人工智能，这确实具有挑战性，因为人们并不真正了解人工智能，他们不了解其中的不确定性，当涉及到让人们使用它时，这可能是另一个很大的失败点。当然，我们从 IT 行业中学到了很多关于如何进行变革管理的知识，这些都是非常非常有用的信息，但这仍然无法解决如何在人类和人工智能之间建立信任的问题，这是一个正在兴起的全新研究领域。除了这两点，我认为这是第三个重大区别。

QuHarrison Terry：你还知道 80% 的人工智能项目都失败了。

Iavor Bojinov：是的。

QuHarrison Terry：80% 是一个很大的数字，但我们看到各行各业（无论是医疗保健、媒体和娱乐、物流，你说得出的都有）的每个组织都在投入人工智能，并将其视为救世主。但是，面对这样一个庞大的数字--80%已经很大了--我为什么要奔向这场人工智能革命或转型呢？

Iavor Bojinov：当然。我的意思是，正是这 20% 带来了巨大的价值，这 20% 是完全变革性的，因为它完全消除了人力瓶颈，所以它能让你拥有完全前所未有的规模。如果你看看中国的蚂蚁金服等公司，他们的客户比美国和欧洲的任何一家大银行都要多，而他们的员工人数却只有大银行的几分之一，但他们仍然能够有效地服务这些客户，而他们之所以能做到这一点，靠的就是算法。即使你的失败率真的很高......也许我应该稍微量化一下我说的"失败"是一个非常宽泛的术语。当然，也有失败的情况，那就是你没有正确的数据，你甚至无法构建产品，但我也包括那些无法兑现承诺价值的项目。也许你开发了它，部署了它，但最终只有10%的员工使用了这个产品，它并没有为整个组织增加多少价值。或者你真的高估了这个产品的实用性，然后人们...你并没有真正获得投资回报率，这就是 80% 的原因，这就是你看到它的原因。我注意到的一件事是，很多公司都乐于谈论他们的人工智能计划，但很少有公司能够真正量化并说："这实际上增加了多少价值"。很多公司只是说："嘿，我们有这个。相信我们，它能带来价值"。但如果你往下看，它并没有给你一个具体的数字，没错，就是那80%。

企业采用人工智能的文化和领导力问题

Michael Krigsman：价值与失败的交集对我来说非常有趣。为了实现 QuHarrison 之前提到的价值，这种真正的价值飞跃，而不仅仅是渐进式的，在我看来，你需要有一个新的基础设施，就像我们刚才说的那样。好吧，你需要有正确的基础设施，最难的部分来了。你需要有一种新的文化。

Iavor Bojinov：是的。

Michael Krigsman：大多数组织都没有为实现价值的巨大飞跃而优化，我们要快速创新，我们要改变我们要做的一切，我们要颠覆我们正在做的事情，对吗？

Iavor Bojinov：是的。

Michael Krigsman：组织都注重流程，你作为运营专家，比任何人都清楚这一点。我们该如何处理？

Iavor Bojinov：首先，你必须认真思考你要实施的项目，这意味着你必须同时考虑该项目的可行性和影响。在这方面，你需要既精通人工智能和数据科学技术诀窍，又精通业务诀窍的领导者。让我把这个问题说得具体一点。如果你的人工智能组织有一个非常擅长技术方面的领导者，他们会专注于一些非常可行的项目，但这些项目可能不会产生影响，因为他们并不真正了解业务的本质，他们不了解公司现有的流程，也不知道如何将其融入其中。反过来说，如果你的领导者只精通领域知识，对业务了如指掌，他们就会找出那些真正具有重大影响的项目，但这些项目并不可行。这将导致失败，因为他们会挑选一个最好的项目，然后开始工作，但六个月后，他们将一无所获，因为他们不明白，也许这根本就不是一个人工智能项目。也许他们没有正确的数据。我认为，文化这一块首先要从领导层开始。你需要有一个深刻理解领域知识和技术专长的领导者。这就是为什么我开始看到越来越多的公司设立首席人工智能官这一职位，因为这是一个弥合差距的人，他们可以成为转变组织文化的重要部分。我认为还有一块经常被遗忘，我想在此指出，那就是开发人工智能的过程。现在，当你走进大多数企业时，他们的人工智能开发流程看起来非常像前工业时代。从数据收集、数据存储到构建，到处都有令人惊叹的工程师和专家在奔忙，甚至还要把它交付给你，这种流程效率极低，极易出错，而且也不是开发算法的正确方式。你们现在开始看到的是，一些技术领导者和一些公司已经经历了数字化转型，他们已经开始建立我的同事马可-扬西提（Marco Iansiti）和卡里姆-拉卡尼（Karim Lakhani，前不久你们请他们来做客）所说的人工智能工厂。这基本上代表了公司的运营模式，其中数据是核心，这样就可以非常容易地开发和扩展适用于各种用例的人工智能。概括地说，你有文化这一块，但你也有如何构建人工智能的实际流程，这一点绝对至关重要。

QuHarrison Terry：你说得很有道理。比方说，我在企业里，我知道企业文化会把战略当成早餐，我还是得一个季度接一个季度地交付成果。

Iavor Bojinov：是的。

QuHarrison Terry：我在企业文化建设上花费了大量时间和资源，我们刚刚摆脱大流行病的困扰，正在努力恢复盈利。八个月前，人工智能横空出世。在很大程度上，人们对人工智能感到兴奋的事情已经存在，但在过去的八个月里，情况发生了真正的转变。

Iavor Bojinov：是的。

生成式人工智能仍处于企业应用的早期阶段

QuHarrison Terry：我正在研究这个问题。人工智能，如果我看的是生成式人工智能方面，对我这个组织来说，很多都是党派把戏，我正在关注这个。我问我的团队："它能做到吗？"至于你说的80%的失败率，这只是没有发生而已，没有点击。作为一名管理人员，我现在还不想把这个问题带进会议室。我知道这是一个优先事项，但有哪些方面可以让我们真正了解它呢？坦率地说，现在的人工智能和生成式人工智能似乎只是初创企业的游戏，它不像是企业的游戏，或者说，我们还没有遇到企业真正利用人工智能大步前进的浪潮。还是那句话，现在为时尚早,但我很好奇你对此的看法。

Iavor Bojinov：我认为这是董事会的事情。我最近参加了一个董事会峰会，主题就是在人工智能和生成式人工智能方面，董事会的战略应该是什么。对于大多数董事会成员来说，这是当务之急，因为它确实是主流。ChatGPT 一经推出，就成为有史以来增长最快的应用程序，它是你正在看到的东西，它是你可以触摸的东西，它是你可以玩的东西。我一直对领导者说的是，你们必须有好奇心；你们必须与这项技术互动，你们必须开始尝试。我同意你的观点。我认为现在我们正处于起步阶段，我们还没有真正搞清楚如何使用这项技术，以及它将在哪些方面带来变革。但如果你不去尝试，你就会落后。互联网也是如此，如果你回想一下那些在互联网发展初期就开始尝试的公司，他们是多么遥遥领先。当然，在最初的几年里，它并没有带来价值。但当技术成熟时，他们已经做好了准备，他们可以真正将其应用到实际工作中。他们知道这件事，它已融入组织的不同部门，他们不是在赶进度。我的建议是，这是董事会应该讨论的问题，首席财务官需要认真考虑，比如，"我可以在这上面投入多少预算？"

QuHarrison Terry：如果我在目前的状态下实施生成式人工智能，你可以看到在营销意义上发生了一些真正巨大的变革性努力。

Iavor Bojinov：是的。

QuHarrison Terry：所有的营销类别，都很容易制定出相应的计划。我不了解每家公司，但我建议的策略之一是采取...正如你提到的，你必须建立人工智能团队。

Iavor Bojinov：是的。

为人工智能部署嵌入式团队与集中式团队

QuHarrison Terry：但是，人工智能团队的关键组成部分是数据，比如数据科学家、数据工程师或从事数据工作的人员。你们是否可以让一个数据人员去每个部门，看看有哪些一致性，然后开始说 "这里有一些实验"？或者，你认为每个团队都应该在这方面进行自己的实验？在我看来，这就是你要开始建立文化和战略的地方，你可以将其提交给董事会。

Iavor Bojinov：这其实就是迈克尔之前所说的文化问题，归根结底就是你的文化有多数据驱动。如果你的企业文化极其注重数据驱动，那么你就可以采用这种嵌入式模式，所以你可以看看亚马逊这样的地方。Meta 公司最近进行了一次重大重组，他们基本上采用了这种嵌入式模式，所有的数据科学家和人工智能专家实际上都坐在各个业务部门内。他们会去发现这些问题，然后你可以在不同的业务部门建立一个特别工作组，去寻找生成式人工智能的应用。但是，如果你的企业文化不是非常以数据为导向，也不了解人工智能，那么拥有一个集中的团队就会非常有帮助，因为他们可以相互合作。你有足够多的人，可以从一个问题到另一个问题。我还想补充一点，还是回到我之前说过的，那就是你需要一个了解数据科学、人工智能和业务问题的业务领导者，这样他们才能帮助完成转化，真正找到这些机会。我现在就鼓励每个团队。实际上，这也是我从许多与我交谈过的公司那里听到的，他们都在尝试使用生成式人工智能进行实验。它们中的大多数都倾向于面向内部，试图帮助员工更好地工作。由于幻觉和其他原因，让客户接触到 ChatGPT 版本的对话有点过于冒险，因此公司都会避而远之。

Michael Krigsman：我们在 Twitter 上收到了一个非常有趣的问题，来自 Arsalan Khan，他问的正是这个问题。他说，正如你刚才提到的，伊沃尔，许多组织（或大多数组织）都在内部研究生成式人工智能。他说："那么与外部的、专注于狭义领域的公司合作呢？

Iavor Bojinov：是的。

Michael Krigsman：例如，通过与互联网服务提供商合作，将人工智能与网络安全结合起来，将人工智能用于网络安全。企业在寻求实施人工智能时，应该如何考虑其合作战略？

Iavor Bojinov：第一个问题是，你们的时间表是什么？你是希望在未来几周内交付产品，还是希望慢慢来？如果你想快速交付，那么你绝对需要与其他组织合作。第二根支柱实际上是专业技术和诀窍，生成式人工智能方面的专家并不多。现在有很多人看了几个YouTube视频就自称是人工智能专家，但他们并不是。因此，你必须非常小心。在这里，对于大多数组织来说，他们很难在内部招聘到足够的专家来完成这项工作。我认为，在短期内，当涉及到技能部分时，你会发现合作可能是最好的方式。第三根支柱实际上是围绕你要解决的问题的复杂性，是外部机构可以提供与你正在做的事情相匹配的解决方案，你可以直接插入其中，还是你有一个非常复杂、细致入微的问题？如果你有一个非常复杂、细致入微的问题，那么外部合作伙伴（除非他们愿意为你提供这种令人惊叹的白手套服务，他们将为你重写一切）可能不是你的选择。这就是三大支柱，我不认为这有什么新意，这是一场典型的"购买"与"建设"之争，战略课程一直在讨论，企业也思考了很多年，这里的想法是一样的。

Michael Krigsman：鉴于这些项目的性质，尤其是生成式人工智能，还是回到你最初提到的输出是不确定的这一点。

Iavor Bojinov：是的。

评估生成式人工智能项目在企业中的成功率

Michael Krigsman：你建议企业如何评估这些项目是否成功？这似乎比传统的业务流程软件要棘手得多。

Iavor Bojinov：这又回到了对项目影响或潜在影响的理解上。我经常鼓励人们做的一件事就是思考"如果--那么--因为"假设，基本上就是说："如果我开展了这个项目，那么这个结果就会改善X%，因为..."，然后这就是我的证据。在那一刻，你会认真思考你想要改变什么。说到人工智能，人们大致在追踪两大成果。首先是纯粹的参与和使用。人们是否真的在使用人工智能解决方案？他们是否使用它来帮助自己改进工作，帮助自己（不管它应该做什么）？他们在使用它吗？其次是财务方面。这可能是收入,可能是削减成本,也可能是增加销售额。无论它应该做什么，它做到了吗？你要确定如何衡量成功与否。先是参与度，然后是财务方面，接下来，你必须进行某种实验。现在，如果你正在做一个面向外部的项目，如果你是像Netflix这样的公司，你可以非常容易地进行实验，因为你有一百万或十亿客户。你给其中一些人提供新工具,有些客户，你不给他们使用新工具的机会。然后你会发现，这是否推动了你的 KPI 和业务指标？当涉及到面向内部员工的项目时，实验就变得有点棘手了，所以你必须做的也许不是传统的临床实验。但同样，你要有实验的心态和真正衡量其影响的愿望。这很棘手，但也是可行的。

QuHarrison Terry：我想回到 Arsalan Khan的问题，因为这是一个非常有趣的问题。我认为，当你考虑合作时，就像传统意义上的合作（比如我有一家公司，我与别人合作进行网络安全工作），很明显，我把自己排除在一些问题之外，因为我有一个可以分担责任的合作伙伴。但如果事情出了差错，我也可以把责任归咎于合作伙伴，比如责任，或者我们可以进行事后分析，找出问题所在。人工智能最吸引人的地方在于，还有很多监管措施尚未出台。当你考虑到人工智能，尤其是生成式人工智能（就目前而言）的发展速度和指数级增长时，其中一些法规就会让你感到非常害怕。与你合作的很多合作伙伴或公司都很年轻。他们最大的一些交易就发生在昨天。就在今天，就在我们录制这段视频的时候，"Hugging Face"公司今天上午刚刚进行了加薪。有多少人在用 "Hugging Face"训练他们的数据集？这些都是你必须与之合作的参与者。说到分担责任，如果我在一家非常大的企业，就很难说："哦，我们遇到了这场不幸的灾难。我们正在与这个合作伙伴合作。他们将承担部分责任"。我不认为这能解决问题，那么你的看法是什么？我们知道这些项目中有 80% 都失败了，而企业的失败往往会导致诉讼，那么责任在哪里？伊沃尔-波伊诺夫：这与我之前提到的信任概念有很深的联系，因为（如果你是合作伙伴）面临的另一个挑战是，让你的员工采用它可能相当棘手，特别是如果它是面向内部的产品，因为人们不信任人工智能。他们担心人工智能会抢走他们的饭碗，所以他们不想使用人工智能。这就是我的人工智能信任框架真正有用的地方，也是与你的问题真正相关的地方。这里的信任有三个要素。人类和算法之间是相互信任的。算法是否可解释？是否透明？它能保护隐私吗？所有这些都是人工智能需要考虑的典型伦理问题。第二个问题是，你信任开发人员吗？你信任建造你将要使用的设备的个人、团队或组织吗？曲，这也是你刚才提到的，当你使用外部合作伙伴时，也许你并不真正信任他们。也许他们没有遵循最佳实践。也许他们不会以适合你的方式保存你的数据。这一点非常重要，你必须考虑清楚。信任的第三部分是对流程的信任，也就是组织信任，这主要是指如何处理出错的事情。责任在谁？所有这些事情都需要事先达成一致，当你与一个永恒的组织合作时，要弄清楚 "好吧。算法推荐了 X，这是错误的，但没有一个员工否决它，所以我们损失了 1000 万美元，该怪谁呢？"你不能事后再做总结，你必须在部署之前就搞清楚，因为那样你就没有真正的信任。我就是这么想的。

QuHarrison Terry：这很难，对吧？这些合作伙伴的一些负面影响是，比如，如果你看看 OpenAI。我相信山姆-奥特曼（Sam Altman）和他的筹资能力，但我们也必须意识到，一些已经分摊的成本（甚至是维护 ChatGPT 的成本）有可能导致他们破产或资不抵债。

Iavor Bojinov：是的。

QuHarrison Terry：当你知道这一点时，这是一个根本性的问题，我如何向我的董事会证明他们是顶尖专家？但顶尖专家是一家初创企业，而初创企业今天存在明天就不存在的情况并不少见，即使是领先的知名初创企业也不例外。看看加密货币就能找到更好的参照点。我们曾有一些令人难以置信的公司，但如今已不复存在。

与人工智能和基础设施公司合作

我怎样才能知道什么时候搭上人工智能的快车，与其中一些人合作，从而避免出现你刚才描述的问题？

Iavor Bojinov：这是我们在以前的版本中面临的问题，不是人工智能，而是云计算。现在，大型云服务提供商都是真正的大型科技公司。但在一开始，当你试图说服人们使用云技术时，情况有点像 "云技术到底是什么？我们真的应该投资吗？"我给企业的一个重要建议是（这也是我看到很多公司不得不回溯的地方），当你最终选择合作时，合作的方式要让你不依赖于合作对象，而且如果这家公司失败了，你已经以模块化的方式构建了你的系统，你可以选择另一家公司。你所关注的每一个问题，现在都有大约 20 家初创公司在努力解决。我鼓励企业采用的高层次解决方案是，拥有所有基础设施的各个部分。然后，只需将你需要的那一小块生成式人工智能插入其中，你就可以随意更换它们。这还能保护您的利益，因为我们在云服务提供商那里看到的一个情况是，如果他们锁定您，价格就会上涨。现在，很多公司都在走回头路，试图在很多产品中做到与云无关。但这真的很难，因为如果你把所有东西都转移到其中一个云提供商那里，就很难摆脱他们。这是我真正降低风险的一种方法，基本上就是 "是的，我们正在使用它们。但这只是其中很小的一部分。如果他们失败了，我们就找别人来做。"

Michael Krigsman：信任问题非常重要，也非常复杂。过去，对企业或业务流程软件的信任基本上可以归结为："我们是否相信供应商会在云中保护我们的数据安全？

Iavor Bojinov：是的。

Michael Krigsman："没有人偷我们的钱"，这就是最终的结论。现在，我们有所有这些关于道德使用、偏见的问题，我们有一个来自 Arsalan Khan 的问题正是关于这一点。他说："如果企业使用人工智能来做出重要的金融和保险决策，那么消费者如何确保这些人工智能系统中的算法没有偏差，数据没有歪曲？"

Iavor Bojinov：是的。

Michael Krigsman："各组织还不分享这些"。

Iavor Bojinov：是的。

人工智能系统需要透明度和审计

Michael Krigsman："这成为对人工智能系统缺乏信任或不信任的另一层原因，以及由此产生的影响。"

Iavor Bojinov：金融监管在某种程度上确实要求你能够解释你是否在使用算法做出贷款决定，你需要能够解释为什么这个人被接受或拒绝某笔贷款，这里面是有一点监管的。即将出台（或已经出台）的欧洲法规、人工智能法规，都将要求这些重要决策具有透明度和可解释性。我认为即将发生的事情是--瞿秋白也谈到了这一点--将会有越来越多的相关法规出台，我们需要透明度。我们需要人工智能审计。一些公司已经开始这样做，他们基本上都会进入公司。除了对公司财务进行审计外，他们还进入公司，对公司的算法进行审计。他们在检查偏见，他们在检查公平性，他们在检查隐私泄露和所有这些事情，你会看到越来越多这样的事情。你基本上需要进行这类审核，因为算法会产生意想不到的后果，即使是设计最好的算法也不例外，我给你举一个非常有趣的例子。我与LinkedIn合作，实际上，我们一年前在《科学》杂志上发表了一篇论文。基本上，我们撰写这篇论文所利用的一个事实是，LinkedIn上推荐你应该联系的人的算法产生了一个长期的、意想不到的结果，那就是使用这种算法的人在扩大自己的人际网络的同时，也申请到了更多的工作，获得了更多的工作机会。这种算法旨在拓展你的人脉，它实际上是在帮助你获得更多的工作机会。在这里，这确实是有益的。但是，你可以想象这些类型的连锁反应，因为所有的东西都是通过网络连接在一起的，它们实际上可能是巨大的，而且可能是非常非常负面的。因此，你需要进行这些类型的审计，以捕捉这些意外后果。

在常规人工智能和生成式人工智能计划之间做出选择

Michael Krigsman：Lisbeth Shaw 在 Twitter 上提出了一个非常有趣的问题，她说："企业应该如何选择合适的人工智能计划类型，是'常规'人工智能还是生成式人工智能？然后，他们应该如何开始？"我想说的是，我们的时间不多了，我们可以花一个小时来讨论这个问题。不过，我得请你们尽量快点。

Iavor Bojinov：这又回到了影响力和可行性的问题上。就影响力而言，你必须确保它与你的战略相一致，它能带来真正的价值，而且你期望它能带来真正的价值。然后，可行性就是你能够做到这一点。关于影响力和可行性，我要说的一点是，研究人员和我的一些同事（杰姬-莱恩和卡里姆-拉卡尼）已经证明，我们真的不擅长将两者结合起来。我们往往认为影响力大的事情可行性就高，反之亦然，但事实并非如此。我鼓励你们做的是，努力将这些项目区分开来，然后找到真正具有高影响力和高可行性的项目。然后去做这些项目。

Michael Krigsman：再问一下，在生成式人工智能和传统人工智能之间，你如何选择？

Iavor Bojinov：最大的区别在于，生成式人工智能是一种更通用的工具。我认为你必须看问题，没有正确的答案，也没有明确的框架来说明什么时候一种方法会远远优于另一种方法。传统的ML非常非常擅长预测，而生成式人工智能则擅长进行类似人类的对话。如果你要解决的问题是这种类人对话，那么生成式人工智能就是你的不二之选。如果你想纯粹预测迈克尔今天是否会购买这款产品，你可能想使用传统人工智能。但正在发生的另一件有趣的事情是，生成式人工智能可以帮助你构建传统人工智能。现在，生成式人工智能正在成为开发传统人工智能的工具，我认为这也非常吸引人。

QuHarrison Terry：我想问你一些关于两家企业公司的问题，我觉得这两家公司在这一领域非常吸引人，它们同时部署了传统的人工智能和生成式人工智能。我要谈的第一家公司是 Nvidia。我们之前谈到过他们，但他们在非常灵活方面做得很好。从汽车到游戏，再到现在更广泛的人工智能（包括生成式和 ML），他们的芯片都得到了广泛应用。在企业中，真正让我感到震惊的事情之一（我很好奇你们的收获）是Meta。Meta在很大程度上...在过去的五、六年里，他们一直在媒体上崭露头角，但表现并不出色。但如果你看看去年，看看他们在Meta AI所做的事情，就一些公告而言，甚至是最近的公告，他们的表现都是惊人的。他们今天早上做了一个，我还没看过论文，但他们前几天做了M4T，我们可以无缝翻译成100种语言。现在，他们已经有了一个采用Llama的编码LLM。

Meta 通过开源和领导力在人工智能领域取得成功

Michael Krigsman：为什么Meta现在在人工智能领域获胜？我很好奇你的看法。

Iavor Bojinov：我们在前几波技术浪潮中看到的一个现象是（谷歌开源 Chrome 浏览器、开源其他多项技术），它们成为了每个人赖以生存的基础。生成式人工智能的情况是，很多公司都在闭门造车，因为我认为他们相信，训练这些模型的能力将为他们带来竞争优势，他们担心开源这些模型。实际上，Meta 在这一点上有点反其道而行之。他们一直在开源一些东西，但在这种生成式人工智能上，他们有点落后。但他们的策略是，我们要开源一切，希望每个人都能在此基础上进行开发。现在，我们还不知道是否会发生这种情况。我们正处于这样一个阶段，可能是成本太高，无法进一步训练这些模型，你只需使用默认值，所以这并不重要。我不知道，我想时间会证明一切。

QuHarrison Terry：扎克伯格（Zuckerberg）表现得更像一个创业者，这对他们很有帮助。这就是你的闪光点？

Iavor Bojinov：我认为他们在人工智能领域的领导力令人惊叹。如果你看看他们在人工智能领域的一些领导者，他们都是该领域的世界级专家，而且他们对开源有着坚定的承诺。我认为你看到了这种影响力。我认为Meta也意识到，如果他们不尝试开源，他们就会落后，因为他们并没有...他们并没有真正建立起一种能轻松实现货币化的方式。如果你看看像谷歌这样的公司，他们可以很容易地通过搜索实现货币化，他们基本上是在重新设计搜索的工作方式。如果你看看OpenAI，这基本上就是他们的设计初衷。这些公司就像在说："哦，这将成为我的核心。"对于Meta来说，现在还不清楚。在WhatsApp中安装一个聊天机器人，并不能为 WhatsApp带来多大价值，因此他们打算采用开源方式，也许他们会成为每个人的基础。然后，他们再想办法真正实现货币化。我认为这就是他们的策略。这是一个非常有趣的空间，很高兴看到它是如何发展的。

企业人工智能成功建议

Michael Krigsman：您是哈佛商学院的运营学教授，请就您所见过的人工智能项目成败的模式给我们一些建议，给我们前三名，而且要快。

Iavor Bojinov：从高层次来说，你必须记住，一个项目不仅仅是一个单一的实体，它要经历五个不同的步骤，它要经过选择、开发、评估、采用和管理。你必须逐一研究每一个环节，并真正尝试进行优化，这样才能真正取得成功。不能只考虑项目的开始到结束，要将其分解，专注于其中的每个部分，并真正尝试优化每个单独的流程。不要忘记管理和审计这一块，这往往会被忽视。

Michael Krigsman：Qu，你知道，我觉得Iavor关于优化每一块课程的建议是有道理的。但如果没有如何优化的专业知识，就会出现 "好吧，我们该怎么办？"的情况。

Iavor Bojinov：在每个阶段都有很多研究在进行，试图帮助公司找出如何真正以最佳方式做好它。在开发阶段，我们谈到了人工智能工厂；在评估阶段，我们谈到了实验；在采用阶段，我们谈到了我对算法、开发、流程和管理的信任框架，有一大堆工具可以帮助实现这一点。

QuHarrison Terry：我们没时间了，Iavor，但我们很希望你能回来这里有很多东西要讨论。

Michael Krigsman：在此，非常感谢Iavor Bojinov，他是哈佛商学院的教授。Iavor，感谢你的到来，正如Qu所说，我们希望你能再来。

Iavor Bojinov：谢谢。

Michael Krigsman：当然，还要感谢本期节目的共同主持人QuHarrison Terry。Qu，见到你总是很高兴，谢谢你今天的到来。

QuHarrison Terry：谢谢，谢谢！

Michael Krigsman：在您离开之前，请订阅我们的频道...我们希望您成为这个社区的一员。非常感谢大家。希望大家今天过得愉快，我们下次再见。