• 时间:
  • 分类: AI创业
  • 标签: None
  • 阅读(379)
  • 👍推荐(0)
  • 评论(0)

AI-Agents未来发展趋势：多领域应用和智能服务个体化

主持人：AI-Agents未来几年在各行各业会有什么样的发展趋势？

周健@澜码科技：现在是AI-Agents领域即将迎来突破的重要时刻，大型语言模型的能力非常强大，能够赋予软件重新生成的能力，尤其在语言理解方面。AI-Agents在未来几年发展中会有很多超级个体出现，这些超级个体能够有效地利用大型语言模型的技能和知识，赋能编辑，从而实现更多的任务和应用。

姜昱辰@波形智能：AI-Agents的能力与基础语言模型能力密切相关，在不同场景下，AI-Agents的需求和挑战也各不相同。对于一些任务，例如写邮件，现有的基础语言模型已经具备解决相关问题的能力，AI-Agents只需要辅助激发现有模型去完成任务。但在内容创作领域，特别是文学创作，底层语言模型的能力可能不足以胜任，这时AI-Agents的作用尤为重要。未来在任何应用中，AI-Agents都是必不可少的，只是需要根据不同应用场景选择适合的基础模型。可以是独自训练、与Agents框架一起训练，或者使用大型语言模型的API，这取决于具体情况。

李国豪@CAMEL-AI.org：在短期内，AI-Agents场景要想达到高准确度仍然需要人类介入（Human in the Loop），但人类的角色可能更多是被动的，与AI-Agents形成一种合作关系，共同解决问题，特别是在科学技术和软件开发等领域。在娱乐和创造性领域，如小说生成、游戏AI和动画制作，AI-Agents可以更容易发挥作用，因为这些场景更注重想象力而不是绝对准确性。从学术角度来看，目前比较重要的是解决在需要高度准确性的场景下的可控生成问题，例如限定空间的生成和格式化要求。这些问题的解决将有助于AI-Agents得到更广泛应用。

杨劲松@AutoAgents.ai：由于语言模型能力和工具的不断迭代，底层基建的不断进步，AI-Agents的落地应用可能不会是一个均匀发展过程。AI-Agents的应用会优先在一些场景中实现，如教育和客服等，而对于更严肃或要求更高完成度的场景发展较晚。从长期来看，AI-Agents围绕每个用户会成为主流趋势，未来将为用户提供多个智能服务。

AI-Agents的优势、问题和潜在影响：解决领域专业知识、创新需求和合理对齐

主持人：AI-Agents的优势和存在的问题，以及它们对不同领域的影响和机会有哪些？

周健@澜码科技：AI-Agents面临的一个重要挑战是处理专家领域的隐性知识。除了显性知识外，专家可能有一些难以言表的知识，例如在招聘领域，区分候选人履历是否有造假，可能需要更多上下文的背景和知识。AI-Agents公司，例如澜码科技可以通过获取专家知识来将自己与大型语言模型区分开来。这包括隐性知识、操作性知识和意会性知识，这些知识不仅仅是信息化的，还需要让Agents学会。这种差异化可以通过私有数据和专家知识积累来实现，企业倾向于控制这些数据和知识在自己的私域里，而不愿意将其开放给大型语言模型。因此，AI-Agents领域存在着巨大商机。

姜昱辰@波形智能：对于AI-Agents的定义，关键在于它是否仅仅是基于GPT的API，还是更广泛地涵盖了LLM（Language Model）之外的层次，如OM（Ontology Model）。在内容创作领域，AI-Agents框架被认为是必需的，但不是唯一需要的因素。创新需要在模型层面和Agents框架层面都存在，并且需要协同合作，包括商业模式的创新。在未来，入口可能会发生变化，但人的基本需求不会改变，这是AI创意领域的关键。AI只是一种技术工具，无论是AI-Agents、语言模型还是其他技术，都应该用来解决人类社会进展过程中的刚需需求。

李国豪@CAMEL-AI.org：人类与AI-Agents合作时可能出现角色分工。人类的角色会变得更高级，而AI-Agents则可以处理更具体的任务，例如根据明确的任务调用API完成决策。这样的分工并不会影响人类的决策能力，但可能会导致一些不安全或具有偏见的决策。AI-Agents的训练可能会导致偏见和不安全性问题。例如，如果将AI-Agents用于招聘，模型可能会受到偏见的影响，导致不公平决策。所以对AI-Agents的训练和对其行为的监督也是重要的。关于"对齐"（alignment），这是一个难以定义的问题，因为不同的人可能有不同的对齐目标，对齐的含义也因情境而异。然而，安全性是一个更加明确的准则，AI-Agents不应该违反这一准则，不应该伤害人类。总之，在开发和使用AI-Agents时需要关注安全性、偏见和合理对齐的重要性，以确保这些技术在不损害人类利益的前提下发挥作用。

杨劲松@AutoAgents.ai：AI-Agents将对传统的SaaS和ToB软件产生重大影响。AI-Agents的出现可以颠覆传统软件的交互方式，因为其可以理解用户的意图，使交互更加创意和适应场景。ToB软件通常是用户与底层数据表之间的中介，未来用户可以通过AI-Agents直接与数据表互动，而不需要中间层应用。此外，AI-Agents生成的新软件成本可量化，这可能促使出现一种按使用量定价的新模式，相对于传统SaaS服务的一揽子功能，用户将按需付费。这些趋势可能对传统SaaS公司构成威胁，因为它们会被API驱动的AI-Agents取代，但领域知识深厚的企业相对较安全。未来，更多的公司可能转向售卖API，而不再依赖传统的一体化SaaS应用。

AI-Agents在企业落地中的挑战与解决方案：数据标准化和需求明确性

主持人：AI-Agents或者大模型应用在企业进行落地过程中的障碍和要解决的问题有哪些？

周健@澜码科技：AI-Agents的实施面临着算力、数据管理、集成、隐私合规性和信息化过程等多个挑战，企业需要在这些方面制定策略和计划，才能确保AI-Agents的有效部署和运营。

姜昱辰@波形智能：AI在部署中存在数据标准化问题，很多企业面临数据不规范化挑战，以及需求不明确和交付标准模糊的问题。用户对AI性能期望有着较高需求，但现实中AI模型在精度上并不总是达到100%的水平，因此需要对交付标准进行更多探讨和发展。

李国豪@CAMEL-AI.org：这个问题关乎未来AI-Agents在人类社会的角色和共存方式。随着AI-Agents不断进化，它们将在社会中扮演关键角色，可能取代某些工作，引发许多问题，包括如何实现和谐共存、合作和竞争，以及AI在社会中的新角色。这是一个正在积极探讨的领域，涉及到多个方面，包括伦理、法律、社会影响和技术发展。

杨劲松@AutoAgents.ai：AI-Agents落地时面临的挑战，包括推理和规划能力的不足以及幻觉问题。要应对这些挑战，应该将问题细化到具体场景，并为大型语言模型设定多个限制条件，以确保效果更好。同时，在产品设计中采用三层最佳实践，包括行业、企业和个人级别，以提高任务完成的概率。这些方法可以帮助实现更可行的AI-Agents部署。

未来与AI-Agents的共存：伦理、互动和社会影响

主持人：未来人类如何与AI-Agents共存？

周健@澜码科技：随着AI-Agents的发展，它们可能会在某种程度上变得像GAIA一样，能够全面感知和掌控人类社会的运行。这将引发了一系列伦理和社会问题，包括人类与AI之间的关系，以及AI的自我意识和动机等。在面对这些挑战时，我们需要思考如何确保AI-Agents的行为符合人类长期利益，以及如何与其建立合作和共生关系。这也提醒我们，AI技术的未来发展将由人类决定，我们需要谨慎引导它们，以确保其不会对人类社会造成危害。

姜昱辰@波形智能：未来，AI-Agents与人类之间的互动可能会进一步发展，人们可能会与虚拟Agents构建更多互动和社交关系，尤其在娱乐领域。这种趋势可能会带来新的娱乐方式和体验，如与虚拟角色一起冒险或与虚拟主播互动。虽然一些人可能担心这种发展会削弱人际关系，但它也有潜力提高生产力和丰富人类精神世界。这确实是一个引人思考的未来趋势，我们将继续观察这一领域的发展。

杨劲松@AutoAgents.ai：随着AI-Agents的崛起，人类社会可能会迎来短期生产力提升，但也伴随着资源不均衡和其他长期潜在风险。资源不均衡会加剧社会分化，而自我迭代的AI-Agents可能会去往与人类利益不一致的发展方向。因此，我们需要重视伦理和监管问题，以确保AI-Agents的发展对人类社会有益，同时需要全球协作来解决这些挑战，以维护人类长期利益。