遵循这些建议可以帮助当今的组织在 2025 年及以后充分实现 Agentic AI 的承诺。
译自 The Promises of Agentic AI and How to Sidestep Challenges，作者 Hao Yang。
在全球的会议室里，高层决策者很可能会问他们的 IT 主管，“我们还能用 AI 做些什么？” 这是一个合理的问题，因为人工智能的投资持续飙升。根据最近的预测，到 2030 年，全球 AI 市场预计将达到 8000 多亿美元。
事实是，AI 将渗透到日常生活的方方面面。我们已经在医院中使用它来帮助诊断，在编码中使用它来简化产品开发，甚至在工业环境中使用它来改善供应链。2025 年，AI 的下一次进化将以 AI 代理的形式出现。AI 的最新发展甚至可能带来许多利益相关者迫切寻求的投资回报率 (ROI)。但是，企业必须采取一些措施才能实现 Agentic AI 的前景并避免潜在的危险。
让我们先花点时间了解一下我所说的 Agentic AI。AI 代理是软件程序，可以自主采取行动来实现预先设定的目标。该软件旨在不断收集和利用数据，并不断学习改进这些预设目标的方法。与大多数 AI 软件一样，它们需要培训并在必要时进行干预。
AI 代理的概念并不新鲜——我们已经从早期的迭代中走了很长一段路。例如，聊天机器人和 Siri 已经存在一段时间了。较新的迭代，如 ChatGPT 和 Gemini，甚至 Siri 的更新版本，每天都在进步，并改变了我们与 AI 代理交互的方式。
凭借较新的 AI 代理的学习能力，它可以将 AI 的使用民主化给非专家，并允许永久改进并非总是依赖于专家的流程。尽管有这些前景，组织在寻求利用 Agentic AI 时必须避免一些潜在的陷阱。
我们 IT/网络安全领域的许多人都知道持续存在的人才短缺问题。Agentic AI 可以简化流程，帮助弥合这些人才缺口。如果经过适当的培训，AI 代理可以启动网络安全警报并开始修复。他们还可以增强可观察性操作，并通过直观的聊天机器人简化客户互动。
如果 IT 领导者希望 Agentic AI 完全解决他们的人才短缺问题，那么潜在的陷阱就会出现。随着他们对 AI 的依赖性越来越强，组织将需要雇用精通使用 AI 的人才，以便他们可以进行干预以提高其功能。此外，随着 AI 释放特定人才以专注于其他任务或部门，业务领导者可能需要重新考虑其组织结构。
请记住，在使用 AI 代理时，将数据引入连接到您的 IT 环境和数据的自确定实体。根据代理的不同，数据甚至可能与第三方交互。一个潜在的陷阱是发生违规，并使用 AI 代理作为媒介进行扩展。这可能会使个人身份信息 (PII) 面临风险，并降低客户对您保护其隐私能力的信心。
避免这些问题有几种方法。首先，健全的数据管理至关重要。当人工智能在高质量数据上进行训练时，它可以产生高质量的结果。高质量的数据管理包括正确地保护数据，从遗留系统中检索有价值的数据，以及安全地使相关利益者能够访问数据。它还意味着建立健全的数据治理策略。
提升员工技能和培训员工负责任地使用人工智能也将使组织走向成功。AI Agents 可能会为组织内部提供新的职位机会。这意味着提供培训或技能提升途径，以便从内部招聘。某些员工可能需要接受关于如何使用 Agentic AI 的培训，以改进他们目前的角色。
最后，人工智能不能一直完全自主运行。因此，提供干预方法。建立一个持续检查的程序，以确保 agent 按预期运行。遵循这些建议可以帮助当今的组织在 2025 年及以后充分实现 agentic AI 的承诺。