使用 AI 主體提升政府效率
降低成本並遵守效率規定
如今，政府機構與其他公共部門組織正面臨著提升效率與降低成本的重大壓力。然而，它們仍必須想辦法管理眾多關鍵任務——從處理護照申請、發放社會安全福利，到翻譯外交文件，以及偵測公共場域中的可疑行為。
與此同時，作為公民，我們都期望政府機構與公共部門能提供快速、便利的服務體驗。我們希望能夠透過各種數位裝置，隨時隨地存取資訊與提交申請。
在我與公共部門科技領導人的交流中，經常聽到他們熱切期望採用 AI 主體（或者說「自主式 AI」 ），以快速達成效率提升的目標，同時強化服務品質。其他產業的同儕也同樣看見 AI 主體的潛力。波士頓顧問公司近期的一項調查顯示，58% 的商業企業 IT 決策者表示他們已經開始部署 AI 主體，另有 35% 正在積極考慮。這些買家預期，AI 主體能帶來 13.7% 的投資報酬率，高於非自主型生成式 AI (GenAI) 應用程式所預期的回報率。對公共部門組織而言，這也代表著可實現顯著的成本節省。
然而，AI 主體也伴隨著風險。若提供錯誤資訊或不正確的結果，可能迅速抵銷效率提升與節省成本的好處。因此，在組織規劃實施時，融入防護措施並建立持續改進的循環將是最大化 AI 主體效益的關鍵。
公共部門採用 AI 主體的使用案例
AI 主體在公共部門有許多潛在用例。在每一個用例中，智慧體都能滿足減少或消除人工任務的迫切需求。以下是四個簡單的用例範例：
電話和 Web 支援：AI 主體可以為社會安全局或 IRS 等機構處理初始電話和網路請求，提供資訊並向公民提出行動建議。如果有人需要額外協助，AI 主體可以將電話或線上請求轉接給人工服務。
公共安全影片監控：公共交通機構可以使用 AI 主體偵測來自巴士站或火車站的即時影片饋送中的異常情況。AI 主體將會持續執行。它可以識別異常行為並提醒相關人員進行更深入的人工分析。
文件處理：對於必須處理多種語言和各種類型文件的機構，AI 主體可以翻譯文件、對內容進行分類，然後將資訊傳送給特定的人或將其儲存在適當的位置。這些智慧體可以大幅減少人類繁瑣的行政工作。
內部機構搜尋：政府機構內部的員工可採用基於智慧體的聊天機器人，快速查詢適用於其特定部門或機構的政策內容。此工具能有助於消除人工翻閱電子或紙本政策文件所帶來的高成本與耗時工作。
實作 AI 主體的挑戰
儘管 AI 主體對於所有公共部門組織都有許多有前景的用例，但實施它們仍面臨一些挑戰。
首先，作為 AI 主體大腦的大型語言模型 (LLM) 是非確定性的。換句話說，如果您向 LLM 提出五次完全相同的問題，可能會得到五個略有不同的答案——而且模型不會告訴您答案為何不同。這種不一致可能會導致嚴重的問題，尤其是當你依賴 AI 主體做出與公共安全相關的決策或處理公民個人資訊時。
第二個相關的挑戰是缺乏安全防護。為了在造成損害之前發現不一致或錯誤的結果，您需要對 AI 智慧體流程有清晰的可見性和控制力。同時，您還需要保持控制用於訓練 LLM 的資料。結果的準確性很大程度上取決於能否為模型提供準確、一致且高品質的資料。
目前市場上剛開始出現一些工具，來解決這類安全防護的問題。因此，持續掌握 AI 安全相關解決方案的最新發展至關重要。
開發 AI 主體工作流程的五個考量因素
成功部署 AI 主體需要周詳的規劃、技術工作和流程變革。首先定義代理的功能，然後建構系統和工作流程。從一開始，您就應該納入防護措施，並建立持續改善結果的方法。
定義您希望智慧體執行的操作。這聽起來很簡單，但明確定義目標是至關重要的第一步，因為這樣您才能確定是否真的需要 AI 主體來實現這個目標。有些組織在面對只需簡單工作流程工具就能解決的問題時，就急於導入 AI 主體。實際上，只有在工作流程具有較高動態 性時，才需要運用 AI。如果您可以在不使用 AI 主體的情況下自動化某項任務，不僅可能節省大量時間，也能減少不必要的投入。
選擇合適的 LLM。如果您判定某個自動化任務確實需要運用 AI 主體，那麼您就需要為該智慧體建立推理與規劃機制。在大多數情況下，這涉及到選擇一個 LLM，不論是開放原始碼還是商業版本的 LLM。接著，您可以運用檢索增強生成 (RAG) 技術，來擷取特定於該機構的資料，進而確保回應的準確性與個人化程度。
為技術整合做好準備。AI 代理的目的是利用 LLM 來理解任務或目標，然後執行該任務或實現該目標。為了實現這一切，您需要能夠存取各種工具，例如用於開啟瀏覽器、寫入資料庫的工具。而為了促進 LLM 與工具之間的互動，您需要合適的通訊協定。
直到最近，開發人員主要使用 API 來整合工具和 LLM。然而，一種較新的模型控制通訊協定 (MCP) 正在成為連接 AI 系統與外部應用程式的實際標準。MCP 已被廣泛接受，並將透過為所有 AI 模型和工具提供簡單的整合來實現協同工作，從而推動創新。建立防護措施。AI 主體承諾自主執行任務，但控制這些智慧體通常需要一定程度的人工參與。具體來說，您可能需要在智慧體執行某些動作之前，讓人工參與審核並確認。
以許多機構採用的電話客服型 AI 主體為例，您可以安排人員核實 AI 主體提供的回應，以確保其準確性。舉例來說，若民眾致電詢問為何尚未收到支票，AI 主體可以調查問題，並擬出如下回覆：「由於系統錯誤，支票尚未寄出。」接著，人員會審核這段由 AI 產生的回應，在確認無誤後，再回覆民眾並寄出支票。
除了讓人類參與其中，安全性功能和資料治理原則對於最大限度降低 AI 主體相關風險也至關重要。建立閉環。除了監控輸入和輸出之外，您還需要一種方法來不斷提高結果的準確性，使智慧體隨著時間的推移變得更聰明、更有效。要做到這一點，您需要建立一個閉環。透過此循環，您可以調整 RAG 系統中的提示、資訊流或資料集。
此外，還有其他技術方法能進一步提升準確性。特別是，將更多資料納入模型並為提示新增更多背景資訊，將有助於提高結果的準確性。
立即開始建置和部署 AI 主體
一些商業組織（例如 Salesforce 和 Microsoft）已經在工作流程中實施 AI 主體。這些組織從封閉環境著手，利用 AI 主體為使用者帶來全新或更佳的體驗。例如，Microsoft 使用者可以讓 AI 主體匯總來自特定人員的電子郵件、接受其經理的所有邀請，以及重新安排與其經理的請求重疊的請求。
公共部門機構面臨著提升效率和削減成本的巨大壓力，它們已準備好採用 AI 主體。您的組織可以開始為簡單的工作流程部署智慧體，以節省時間並減少手動操作。
但在不久的將來，您或許能夠在更複雜、更開放的環境中運用 AI 主體。例如，AI 與 IoT 的結合將創造重要的新可能性，例如將 AI 主體與自動駕駛工具或車輛結合使用。這些用例可以持續提升向公民提供的服務品質，同時顯著提高營運效率——這仍將是政府機構的關鍵目標。
Cloudflare 可以幫助您的組織建置 AI 主體並設立必要的安全防護機制。Cloudflare Workers AI 平台使組織能夠在 Cloudflare 的全球網路上建立和執行 AI 主體和應用程式，這有助於最大化效能並提高模型的可擴展性，同時簡化開發並降低成本。同時，Cloudflare 可以加速實施 Zero Trust 安全模型，透過控制對 AI 主體所使用的資料和模型的存取，來提高 AI 主體輸出的準確性。借助 Cloudflare，政府機構和其他公共部門組織可以利用 AI 主體的強大功能來改進服務和降低成本 ，同時加強其使用的防護措施。
Cloudflare 就影響當今技術決策者的最新趨勢和主題發表了一系列文章，本文為其中之一。
深入探討這個主題。
閱讀面向 CISO 的《AI 安全指南》，進一步瞭解如何在貴組織中實施 AI 主體的使用護欄。
作者
Dan Kent — @danielkent1
Cloudflare 公共部門現場技術長
重點
閱讀本文後，您將能夠瞭解：
公共部門中 AI 主體的 4 個關鍵使用案例
組織在實施過程中面臨的主要挑戰
組織在製定線框計畫時應考慮的 5 個因素