保障州和地方政府的 AI 實施
ChatGPT 的發佈標誌著人工智慧 (AI) 新時代的開啟，讓技術和非技術使用者都能輕鬆使用強大的工具。如今，AI 將徹底改變我們生活的方方面面，從學習和工作方式，到藝術創作和疾病治療方式。
在公共部門，州和地方政府機構正在積極採用 AI 工具。最近一項針對州、地方和聯邦機構高級專業人員的調查顯示，51% 的人員每週都會多次使用 AI 應用程式。
在州和地方機構內部，團隊正在探索多種 AI 用例。他們正在自動化基於表單的流程以提高員工生產力；部署生成式人工智慧 (GenAI) 輔助聊天機器人以改善數位體驗；增強詐欺偵測能力等等。
毫無疑問，AI 能夠改變政府運作方式和公民服務的提供方式。但這項強大的技術也帶來了新的風險。應對這些風險需要製定一個全面的策略，並隨著 AI 使用範圍擴大而不斷發展。除了瞭解初始 AI 的使用情況並建立基線保護之外，每個機構還必須保護該機構的 AI 功能與現有系統的整合，並部署先進、以 AI 為基礎的防禦機制，來對抗日益精密的威脅。
州和地方政府的三大擔憂
隨著用例日益清晰，州和地方政府的高層開始意識到 AI 的巨大潛力。同時，許多與我探討 AI 的領導者仍然對其目前的成熟度持懷疑態度。尤其是資訊長們，他們向我分享了對以下三大關鍵問題的深切關注：
準確性：CIO 質疑 AI 產生結果的可靠性和準確性——他們也應該質疑。這些結果可能因無意的錯誤和故意的惡意欺騙而產生偏差。
如果政府機構的 AI 模型被攻擊者毒害，該機構可能會無意中向公民傳播 AI 產生的錯誤資訊。想像一下，州政府的聊天機器人提供有關失業救濟金或醫療服務的不正確資訊，將造成多大影響。
同樣，CIO 也希望避免使用不準確的資訊作為決策依據。例如，如果他們使用 AI 來偵測政府專案中的詐欺行為，AI 相關的錯誤可能導致公務人員浪費時間審查本屬合法的申請案，或錯失偵測真正詐騙行為的 機會。隱私權：CIO 有理由擔心敏感的公民資訊可能會洩露，尤其是在員工無意中將公民資料或檔案輸入到用於訓練 AI 模型的資料收集系統中時。例如，使用 AI 工具分析公民健康資料以產生報告，可能會使其 AI 模型收集敏感資訊，然後在其他情況下洩露這些資料。
安全性：隨著 AI 的使用不斷加深，資料和模型可能以多種方式遭到入侵，CIO 對此感到擔憂是理所當然的。例如，攻擊者可能會操縱面向公民的 AI 聊天機器人的提示，誘騙模型產生錯誤資訊或獲取後端系統的存取權限。他們需要找到應對 AI 生態系統面臨的各種威脅的方法，不僅要保護公民資料，還要保護機構系統。
儘管存在這些重大隱憂，絕大多數的公共部門組織仍缺乏一套完善的計畫，來因應運用 AI 所帶來的各種影響。然而，部分機構已經開始推動 AI 的實際部署，導致自身暴露於可能引發社會關注的資安事件與錯誤資訊散播風險之中。
定義旅程
許多州與地方政府機構已透過試辦計畫或有限度導入 AI 工具，開啟了他們的 AI 採用之旅。即使是那些尚未積極推動 AI 的組織，也可能已有個別員工或團隊在無正式授權的情況下，使用市面上現成的 AI 工具——這種現象被稱為「影子 AI」。無論 AI 的使用是否經過官方核准，它已普遍存在於大多數政府機構之中，因此制定並落實一套完整的 AI 安全策略，便顯得至關重要。
這套策略應涵蓋 AI 採用過程中的每一個階段。根據我與公共部門組織合作的經驗，他們在運用 AI 時通常會經歷以下三個關鍵階段：
使用：最初，機構會使用 AI。他們試驗各種模型、應用程式和工具，包括 GenAI 服務。此階段通常涉及已獲批准的 AI 使用和影子 AI 使用。
整合：然後，機構開始將 AI 與他們現有的資料和系統整合。這項整合開始釋放 AI 在提升生產力或改善數位體驗方面的真正價值。
進階防禦：在 AI 採用的前兩個階段，機構可能已部署了一些基本的安全功能。然而，隨著 AI 採用程度愈發深入，他們需要進一步強化整體安全態勢。為了防範日趨精密且可能由 AI 加持的威脅，機構必須導入進階的安全能力與 AI 工具，來保護系統與資料。
組織應制定與其 AI 使用的每個階段相匹配的策略。在 AI 使用階段，實施基準防禦以保護資 料是第一步。
建立 AI 安全基礎防線
該基礎防線專注於在整個組織內建立 AI 使用的全面可見度，同時建立強大的教育和政策框架。這個基礎防線的關鍵組成部分是應對與大型語言模型 (LLM) 資料收集相關的網路威脅。LLM 會持續收集資料以改善其模型，因此各機構必須特別關注兩個主要的資料收集途徑。
網路剽竊：許多 LLM 會自動從公共網站收集和處理資訊。商業企業可能比公共部門組織更擔心網路剽竊，因為剽竊可能會導致企業的智慧財產權被用於訓練模型。儘管如此，政府機構必須意識到，他們在網站上發布的任何內容都可能被收集作為 AI 模型的資料。
與 AI 工具的互動：當員工使用 AI 工具（例如 GenAI 服務）時，他們可能會透過提示和查詢無意中洩露敏感資訊。即使是看似無害的操作，例如要求 AI 工具分析資料集或建立直覺化效果，也可能意外地將敏感資料傳輸到外部 LLM 系統。
應對這些風險需要基礎防線措施。各機構應制定清晰的 AI 使用政策、強大的資料保護控制措施以及全面的安全措施，以保護公民資料。具體而言，基礎防線應重點關注以下方面：
可見度和感知：機構需要瞭解正在使用哪些 LLM 和 AI 工具以及誰在使用這些工具。他們還應確定允許哪些 AI 機器人爬取其網站，並使用機器人管理工具來區分善意機器人與惡意機器人。
教育和政策：對員工進行有關 AI 工具的工作原理以及如何避免敏感資料外洩的教育至關重要。例如，他們應該學習如何避免在 GenAI 工具的提示中輸入敏感資料。各機構也應制定相關政策，以降低員工潛在失誤導致安全和隱私問題的可能性。由於 AI 格局瞬息萬變，各機構需要不斷更新教育並微調政策。
資料隱私和資料丟失預防 (DLP)：除了設定 AI 使用政策外，各機構還必須實施 DLP 工具，以防止個人識別資訊 (PII) 和其他敏感的公民資料因 AI 的使用而外洩。
Zero Trust：實施 Zero Trust 網路存取解決方案有助於控制影子 AI，同時還確保使 用者只能存取經過審查和允許的 AI 工具。
保障 AI 整合
在 AI 旅程的下一個階段，組織開始將 AI 工具和模型整合到現有系統和流程中。州與地方政府機構可能會將 AI 工具連接到表單處理系統，或者將 AI 聊天機器人整合到公民入口網站中。
整合過程可能帶來技術挑戰。例如，組織現有的資料可能缺乏與 AI 工具配合使用的適當整理和結構。同時，由於許多 AI 工具的運作不受組織的直接控制，整合也可能帶來安全風險。
應對這些挑戰需要關注幾個關鍵領域，包括資料準備與資料隱私權。
資料準備：若要為 AI 工具準備資料，團隊必須對資料進行標記和分類。此過程也有助於保護這些資料，因為團隊可以根據分類實施安全控制措施。
資料隱私權：各機構需要實施資料隱私框架以及一系列安全功能，以保護在內部系統和外部 AI 服務之間流動的資料。除了 DLP 功能外，機構還需對用於連接外部 AI 服務的 API 具備可見性與控制能力。此外，還需要具備網路分析與監控的能力。並且需要運用雲端存取安全性代理程式 (CASB) 和安全 Web 閘道 (SWG) 等工具來協助控制 AI 流量。
實施進階防禦
除了提高員工生產力並為公民提供全新的數位體驗外，AI 還可以改變網路安全。利用先進的演算法和機器學習 (ML)，AI 可以幫助安全團隊偵測新興威脅、管理漏洞並自動回應事件。傳統手動任務的自動化不僅提高了效率，還減少了關鍵安全操作的人為錯誤。
當然，攻擊者也在利用 AI 來增強其惡意操作。他們利用 AI 發起更複雜的網路釣魚活動、改進偵察能力並開發高級惡意程式碼。同時，他們也正在瞄準 GenAI 系統中的漏洞。
為了對抗這些不斷演變的威脅，政府機構必須採取主動式的安全策略。他們不僅應善用 AI 的防禦能力，也需針對 AI 特有的弱點與攻擊媒介，透過以下幾項最佳做法來加強防護：
選擇安全的 AI 模型：隨著機構持續將其系統與 AI 服務連接，必須確保所使用的 AI 模型與模型廠商符合其品質與安全標準。維護一份經核准的「允許清單」，列出獲准使用的 AI 模型與應用程式，有助於降低因安全性不足的系統而導致環境 中產生弱點的風險。
實施 AI 驅動的安全工具：使用 ML 或 AI 的安全工具可以提供進階威脅情報，幫助機構比傳統工具更早識別威脅。同時，AI 和 ML 工具可以發現 IT 環境的漏洞，幫助機構在事件發生前加強防禦。
實施持續監控：IT 團隊必須確保 AI 應用程式與環境未被入侵。持續監控異常行為對於及早發現惡意行動至關重要。
穩健前行，以具變革性的 AI 助力未來
將 AI 整合至公共部門組織，既帶來重大機遇，也伴隨安全挑戰。要取得成功，就必須採取一種系統化的安全方法，並隨著組織對 AI 的使用範圍擴大而不斷演進。組織應從基本的安全控管措施開始，隨著 AI 能力與整合程度逐漸成熟，逐步強化其安全狀態。這包括持續強化資料保護與治理、實施持續監控與評估機制，以及持續投入教育訓練與政策發展。
Cloudflare 的全球連通雲使州和地方政府能夠在統一平台上透過智慧的雲端原生服務，為 AI 實施全面的安全框架。Cloudflare 公共部門解決方案匯集了符合嚴格 FedRAMP 標準的關鍵安全、網路和 應用程式開發服務。藉助 Cloudflare，您的機構可以繼續推進 AI 之旅，同時保持對敏感資料的控制。
Cloudflare 就影響當今技術決策者的最新趨勢和主題發表了一系列文章，本文為其中之一。
深入探討這個主題。
閱讀《確保安全 AI 做法：CISO 可擴展的 AI 策略制定指南》，深入瞭解如何支援組織中的 AI 整合，同時又不讓敏感資料面臨風險。
作者
Dan Kent — @danielkent1
Cloudflare 公共部門現場技術長
重點
閱讀本文後，您將能夠瞭解：
公共部門 CIO 最關注的三大 AI 相關議題
州和地方政府典型的三階段 AI 歷程
保護 AI 實施的關鍵步驟