使用 AI 代理，提高政府效率
降低成本并遵守效率要求
如今，政府机构和其他公共部门组织面临着提高效率和降低成本的巨大压力。但他们仍然必须找到方法来管理一系列关键任务，例如：处理护照申请、发放社会保障福利、翻译外交文件，以及检测公共场所的可疑行为。
与此同时，作为公民，我们都期望政府机构和公共部门组织能够提供快速、便捷的服务体验。我们希望能够使用各种数字设备，全天候访问信息和提交请求。
在与公共部门的技术领导者交流时，我经常听到这样一种心声：他们渴望利用 AI 代理，即“代 理式 AI”，以期提高服务质量，同时快速满足效率要求。其他行业的同行也同样认识到 AI 代理的发展前景。波士顿咨询集团最近的一项调查显示，58% 的商业企业 IT 买家表示，他们已经在部署 AI 代理，另外还有 35% 的买家则表示正在积极考虑部署 AI 代理。这些买家预计 AI 代理的投资回报率 (ROI) 为 13.7%，高于非代理型生成式 AI (GenAI) 应用的预期 ROI。与此同时，公共部门机构可以显著节省成本。
然而，AI 代理也会带来风险。提供不准确的信息或不正确的结果，可能会迅速抵消提高效率和节省成本的优势。因此，企业在规划实施时，融入防护措施并创建持续改进的循环将成为最大化 AI 代理收益的关键。
在公共部门使用 AI 代理的用例
AI 代理在公共部门有许多潜在的用例。在每种用例中，AI 代理都可以满足减少或消除人工手动任务的迫切需求。以下是四个简单的用例示例：
电话和 Web 支持：AI 代理可以为社会保障管理局或国税局 (IRS) 等机构处理初始电话和 Web 请求，从而为公民提供信息并提出行动建议。如果有人需要额外帮助，AI 代理可以将电话或在线请求转接给人工客服。
公共安全视频监控：公共交通机构可以使用 AI 代理检测公交车站或火车站实时视频中的异常情况。AI 代理将会持续运行。它可以识别异常行为，并提醒相关人员进行更深入的人工分析。
文件处理：对于必须处理多种语言和各种不同类型文件的机构，AI 代理可以翻译文件，对内容进行分类，然后将信息发送给特定人员或将其存储在适当的位置。这些 AI 代理可以显著减少繁琐的人工行政工作。
内部机构搜索：政府机构内的员工可以使用基于代理的聊天机器人，快速找到适用于其特定部门或机构的政策。此工具将有助于消除手动搜索电子或纸质政策文件的昂贵且耗时的工作。
实施 AI 代理的挑战
虽然 AI 代理在所有公共部门组织中都有许多前景光明的用例，但其实施也会带来一些挑战。
首先，作为 AI 代理的“大脑”，大型语言模型 (LLM) 存在不确定性。换句话说，如果您向某个 LLM 提供完全相同的提示五次，可能会得到五个略不相同的答案，而且该模型不会告诉您为 什么这些答案不同。这种不一致性可能会导致严重的问题，尤其是在您依赖 AI 代理做出与公共安全相关的决策或处理公民个人信息时。
第二个，也是相关的问题是缺乏防护措施。为了在不一致或错误的结果造成损害之前发现它们，需要具备对 AI 智能体工作流的可见性和控制权。与此同时，针对用于训练 LLM 的数据，需要保留控制权。结果的准确性，在很大程度上取决于能否为模型提供准确、一致且优质的数据。
目前，旨在解决上述部分防护措施缺失相关问题的工具正逐渐进入市场。因此，当务之急是及时了解最新的AI 安全产品。
制定 AI 代理工作流程的五个考虑因素
成功实施 AI 代理需要周密的规划、技术工作和流程变更。首先定义代理的功能，然后构建系统和工作流程。而且从一开始，就应该纳入防护措施，并构思持续改进结果的方法。
定义您希望 AI 代理执行的任务。这听起来很简单，但明确定义目标是至关重要的第一步，因为这样您才能确定是否真的需要 AI 代理来实现该目标。一些企业竞相实施 AI 代理，但其实简单的工作流程工 具就足以满足需求。只有在工作流程具有更高的动态性时，才需要使用 AI。如果无需 AI 代理即可自动执行任务，则可以节省大量的时间和精力。
选择适当的 LLM。如果您确定需要使用 AI 代理来自动执行特定任务，则需要建立其推理和规划机制。在大多数情况下，这涉及选择 LLM 类型，可能是开源 LLM 或商业 LLM。然后，您可以使用检索增强生成 (RAG) 来检索特定机构的数据，这将有助于确保提供准确、个性化的回复。
做好技术集成的准备。AI 代理旨在利用 LLM 来理解任务或目标，然后执行任务或实现目标。要实现这一切，您需要访问工具，这些工具可能会打开浏览器或写入数据库。而且为了促进 LLM 与工具之间的交互，需要使用适当的通信协议。
直到最近，开发人员主要使用 API 来集成工具和 LLM。然而，一种更新的模型控制协议 (MCP) 现已成为连接 AI 系统与外部应用的事实标准。MCP 已被广泛接受，并将通过提供简单的集成方式，使所有 AI 模型和工具协同工作，从而推动创新。确立防护措施。AI 代理有望自主执行任务，但控制这些代理通常需要一定程度的人工参与。具体来说，您可能需要在 AI 代理执行某些操作之前，让人工参与审核和确认。
以许多机构的电话联络中心使用的 AI 代理为例。您可以让人工验证 AI 代理提供的回复，以确保准确性。如果有人联系办公室表示尚未收到支票，AI 代理可以调查该问题并提供回复，例如“由于系统错误，支票未发送”。接着，人工审核 AI 生成的回复，并确保其正确无误，然后再回复市民并寄出支票。
除了确保人工参与之外，安全功能和数据治理策略对于最大限度地降低 AI 代理相关的风险也至关重要。创建闭环。除了监测输入和输出之外，您还需要一种方法来持续提高结果的准确性，让 AI 代理随着时间的推移变得更智能、更有效。要做到这一点，您需要创建一个闭环。通过这个循环，您可以调整 RAG 系统中的提示、信息流或数据集。
其他技术可能有助于进一步提高回复的准确性。特别是，将更多数据纳入模型并为提示添加更多上下文信息，这能够提高结果的准确性。
立即开始构建和部署 AI 代理
一些企业（例如 Salesforce 和 Microsoft）已将 AI 代理部署到其工作流程中。这些企业从封闭环境开始，利用 AI 代理为用户提供全新或更优质的体验。例如，Microsoft 用户可以要求 AI 代理完成以下任务：汇总来自特定人员的电子邮件、接受所属经理的所有邀请，以及重新安排与经理请求重叠的请求。
公共部门组织面临着提高效率和削减成本的巨大压力，它们已准备好采用 AI 代理。您所在的企业可能会开始为简单的工作流程部署代理，以节省时间并减少人工操作。
但在不久的将来，您或许能够在更复杂、更开放的环境中使用 AI 代理。例如，AI 代理与物联网的组合将带来重要的、新的可能性，比如搭配使用 AI 代理与自动驾驶工具或车辆。这些用例可以持续提高为公民提供的服务质量，同时显著提高运营效率，效率依然是政府机构的一个关键目标。
Cloudflare 可以帮助贵公司构建 AI 代理并确立必要的防护措施。Cloudflare Workers AI 平台让企业能够在 Cloudflare 全球网络上创建并运行 AI 代理和应用，这有助于最大限度地提高性能和改进模型的可扩展性，同时简化开发流程并降低成本。与此同时，Cloudflare 可以加速实施 Zero Trust 安全模型，通过控制对代理所用数据和模型的访问，提高 AI 代理输出的准确性。通过 Cloudflare，政府机构和其他公共部门组织可以利用 AI 代理的力量来改善服务和降低成本，同时加强对其使用的防护措施。
Cloudflare 就影响当今技术决策者的最新趋势和主题发布了系列文章，本文为其一。
深入探讨这个话题
阅读面向 CISO 的《确保安全的 AI 实践指南》，进一步了解如何针对企业中使用的 AI 代理落实防护措施。
作者
Dan Kent - @danielkent1
Cloudflare 公共部门现场首席技术官
关键要点
阅读本文后，您将能够了解：
公共部门机构中的 4 个 AI 代理关键用例
组织在部署时面临的主要挑战
组织在制定入门框架计划时需要考虑的 5 个因素