Agentic AI应用爆发!企业如何掘金?聚焦三大ROI目标:成本节约、效率提升、收入增长。PaaS平台简化部署,加速创新。重点关注模型上下文协议(MCP),如Jira MCP Server,提升AI决策力。观测性至关重要!关注Cloud Foundry Day,解锁GenAI和Agentic Training Workshop!
译自:Three Essential ROI Goals for Agentic AI Applications
作者:Camille Crowell-Lee
随着企业越来越依赖 AI 驱动的系统,我们看到了一种趋向于“agentic”软件的趋势——这种软件可以在一定程度上自主决策。即使 agentic 感觉过于未来化而不切实际,组织也应该准备好快速利用这种模式。
在 4 月 2 日的 IDC Directions event 上,分析师表示他们相信,代理(agent),而不是副驾驶(copilot),将承担开发的责任。IDC 还预测,到 2026 年,“20% 对开发没有经验但感到沮丧的知识工作者将通过构建自己的 agentic 工作流程来负责改变他们的工作方式,从而将周期时间缩短 40%。”
谁不希望他们的员工感到更有效率和成功呢?除了高效和快乐的员工带来的留任好处外,通过自动化、运营效率和增强的决策能力,agentic applications 还具有显著的业务投资回报率 (ROI) 的潜力。然而,开发和扩展 agentic 应用程序面临着挑战,尤其是在迭代速度和成本控制方面。
平台即服务 (PaaS) 方法 可以通过抽象出部署、管理和扩展 agentic 应用程序的难度来缓解这些复杂性。此外,模型上下文协议 (MCP) 在确保 AI 系统有效运行方面发挥着关键作用,它通过管理长期上下文并强制执行与第三方数据源的安全连接来实现这一点。
Agentic 应用程序旨在自主运行,减少人为干预,同时优化流程。它们的 ROI 源于三个关键领域:成本节约、效率提升和收入增长。此外,PaaS 与 agentic 软件是互补的,因为它使企业能够利用以下方面的可重复性和降低的复杂性:
Agentic 应用程序在自动化复杂工作流程方面非常强大。组织发现 agentic 应用程序从业务角度来看很有吸引力,因为自动化可以通过降低错误率和优化劳动力成本来显著降低运营费用。此外,开发人员通常是一种昂贵的资源,因此使他们能够专注于高价值任务对于 ROI 至关重要。
如果组织在完全固化且高度可重复的基础设施堆栈上运行 agentic 应用程序,开发人员可以获得更一致的环境,从而更快地进行创新。借助 PaaS,组织可以将开发人员从必须手动配置 AI 代理的基础设施转移到专注于 agentic 创新。
Agentic 应用程序有助于提高对快速变化的运营需求的响应能力。例如,在客户需求急剧增加时,agentic 应用程序使组织能够快速扩展以满足需求。这些应用程序可以通过 24/7 全天候可用性来增加劳动力容量,从而帮助动态地满足高峰需求,从而实现无缝的可扩展性,并通过实时分析促进更快的决策。
添加 PaaS 工具还可以通过减少手动扩展基础设施的需求来简化向上和向下扩展。自动扩展功能可确保 agentic 工作负载随着需求的增长而增长,从而无需在非工作时间召集平台工程团队。
除了节省成本和提高效率之外,agentic 应用程序还可以通过提供差异化的客户体验来推动新的收入来源。例如,如果 agentic 应用程序允许用户使用自然语言请求帮助解决问题,则他们不需要任何高级技术知识。代理可以找出需要查询哪些后台系统来解决问题。
并且由于 agentic 应用程序具有自主查询系统和近乎实时地分析输入的能力,因此它还可以提供建议,以增加这些交互产生的总收入。例如,组织可以根据代理的分析制定个性化的客户推荐,或者开发新的 AI 驱动的产品,这些产品可以打包并以不同的价格点出售给新的受众。 这必须得到一个灵活平台的支持,该平台具有可重复的模式,以确保坐席能够有效地为客户服务并扩展收入机会。PaaS 在坐席时代至关重要,因为它们确保开发团队可以专注于创新,而不是管理 AI 基础设施。
MCP 是一个框架,用于跨语言、平台和第三方数据源设计自主应用程序。它是一种标准协议,使 AI 坐席能够维护、检索和应用来自多个企业系统的相关上下文,从而改进 AI 决策,确保上下文一致性、安全访问第三方数据源和合规性。
MCP 由 Anthropic 于 2024 年 11 月推出,虽然不是行业标准,但其采用率在开发社区和来自 AWS、Microsoft 和 Google 的采用率都迅速上升。
AI 坐席需要访问来自多个记录系统的数据,以构建 AI 模型可以在多步骤问题解决中使用的上下文。MCP 提供了一种标准化的方式来编写粘合代码,以 AI 坐席可以使用的方式访问记录系统。
一旦开发了 MCP 服务器,任何具有 MCP 客户端的 AI 坐席都可以使用它。例如,如果您构建一个 MCP 服务器来访问和更新 Jira 中的数据,那么所有需要读取和更新问题的坐席都可以使用 Jira MCP 服务器。如果没有 MCP 服务器,每个 AI 坐席都需要编写自己的自定义粘合代码来访问 Jira。
在最近的这段视频中,VMware Tanzu 的杰出工程师 Adib Saikali 介绍了组织如何构建 MCP 客户端和服务器来执行自主思考模式。
尽管有许多 ROI 优势,但在准备在生产环境中部署 agentic 应用程序时,组织将面临重大障碍。任何向应用程序添加 AI 模型的企业都需要一流的可观测性,以便它可以监控响应质量。
持续的 AI 模型监控、评估和应用程序更新对于保持准确和优化的输出至关重要。当使用 agentic 应用程序添加“思考”模式时,平台工程团队应为更频繁的更新和重新部署做好准备,因为 agentic 应用程序具有高度上下文相关的性质。一个统包应用程序平台可以通过消除持续更新和重新部署的复杂性来促进 agentic 创新,因此开发团队可以专注于 agentic 创新。
如果您正在寻找构建新的 AI 技能,请考虑参加我们的 Cloud Foundry Day 演示文稿,Platform Engineering Skills for GenAI and Agentic Training Workshop,该研讨会将于 5 月 13 日在帕洛阿尔托的 VMware 园区举行。此外,请务必查看 Cloud Foundry Weekly vlog 系列,该系列有多个节目专门介绍 AI 应用程序交付。