AI 風險評估是把一個 AI 應用的目的、使用者、資料、模型、輸出影響與責任整理成證據，再判斷可能傷害、發生條件、影響程度與應對措施。評估的輸出不只是一個高、中、低標籤，而應包含 owner、控制措施、剩餘風險、核准決定與重評條件。
AI 應用有哪些風險？
| 風險面向 | 要檢查什麼 | 需要的證據 |
|---|---|---|
| 目的與影響 | 輸出會影響誰，能否申訴或改正 | 使用情境與決策流程，以及影響對象 |
| 資料 | 來源與品質，以及代表性、個資和授權 | 資料字典與同意紀錄，以及品質檢查 |
| 模型與供應商 | 限制與版本，以及保存地區和外部依賴 | 模型卡與契約，以及變更通知 |
| 輸出品質 | 錯誤與偏誤，以及穩定性和可解釋性 | 測試案例，紅隊或壓力測試紀錄 |
| 資安與濫用 | 越權與提示注入，以及資料外洩和濫用 | 權限與 log，以及事件測試 |
| 營運 | 人工接手與故障處理，以及成本和供應商退出 | SOP 與回復計畫，以及監測指標 |
| 法規與契約 | 適用義務、產業規則與客戶承諾 | 法務意見與契約，以及核准紀錄 |
AI 風險評估的四項核心流程
數位發展部先前公布的人工智慧風險分類框架，以「盤點應用情境，識別風險，評估風險，應對風險」作為操作流程。企業可把這套實務流程延伸成六個可執行步驟，並與既有AI 治理責任連接。
資料來源：數位發展部：人工智慧風險分類框架與NIST AI Risk Management Framework。數發部已於 2026 年 7 月 7 日訂定框架並自當日生效；截至 2026 年 8 月 28 日查核，NIST AI RMF 1.0 正在修訂。本文用兩套框架協助管理，不代表特定法規或合規認定。
| 本文工作 | NIST AI RMF 功能 | 要回答的問題 |
|---|---|---|
| 指定責任與決策範圍 | GOVERN | 誰負責，依什麼政策決定 |
| 盤點情境與識別風險 | MAP | 系統在何種脈絡影響誰 |
| 評估嚴重度與可能性 | MEASURE | 用哪些證據判斷風險 |
| 應對與監測，以及重評 | MANAGE | 如何排序與控制，以及持續改善 |
1. 指定 owner 與決策範圍
先指定業務 owner，並確認誰負責資料與技術，以及資安、法務和最終核准。沒有責任人的應用，不應只靠使用者自行判斷。
2. 盤點應用情境
記錄目的與使用者；輸入資料與模型或供應商；輸出與受影響對象；人工審核與現有控制。不要只寫「使用 ChatGPT」，因為同一工具可用於低影響發想，也可被拿來做高影響決策。
3. 識別可能風險
從資料與模型、資安與營運，以及權利與外部影響找出失敗模式。例如輸出不實，對特定群體不公平，洩漏敏感資料，無法追溯，員工過度依賴或供應商突然改版。
4. 評估嚴重度與可能性
用組織一致的尺度評估影響與發生可能性，再考慮受影響人數與可逆性，並納入暴露時間與既有控制。不同框架可能有三步、四步或五步，重點不是固定數字，而是輸入、尺度與決策能被重現。
5. 選擇應對方式
可選擇停止，縮小，降低，轉移或接受風險。控制措施可能包括資料遮蔽、權限、人工複核、使用限制、測試、監測、供應商條款與申訴機制。
6. 核准、監測與重評
記錄誰在什麼證據下批准，設定品質、成本、事件與採用指標。當模型版本或資料改變，或用途、法規、供應商與影響對象出現重大變化時，重新評估。
中小企業 AI 風險評估表應有哪些欄位？
- 應用名稱、目的、部門、owner 與核准人。
- 使用者、受影響對象與使用頻率。
- 資料類型、來源、敏感度、保存與權限。
- 模型、供應商、版本與外部依賴。
- 輸出用途與人工審核，以及禁止使用的情境。
- 風險敘述與影響，以及發生可能性和現有控制。
- 新增措施、負責人、期限與剩餘風險。
- 核准結果、監測指標與重評觸發條件。
三個常見誤區
只評估工具，不評估使用情境
同一模型用於改寫公開文案與篩選求職者，影響程度與風險型態可能差異很大。評估單位應是「工具加資料加流程加決策」，不是品牌名稱。
把有人工審核當成萬用控制
人工審核只有在人員具備能力、時間、資訊與否決權時才有效。若每分鐘產生上千筆結果，卻只安排一人抽看，就不能把人工審核寫成完整控制。
上線前評一次就結束
AI 系統會受資料、模型版本、使用方式與外部環境影響。評估必須連到監測與重評，不能只作採購附件。
何時需要找外部專業人員？
若應用涉及醫療、金融、勞動、人身安全、兒少、重要個資、法律權利或大規模自動決策，應依情境找法務、資安、隱私、產業或稽核專業人員。顧問框架不能取代特定法規判斷，滲透測試或正式認證。
當評估結果需要把權限、審核、稽核軌跡或停用機制做進系統，可在規格明確後由即站力協助評估開發與串接。
內文精華總結
- AI 風險評估的單位是具體應用情境，不只是工具。
- 評估要有 owner、證據、控制、核准與重評條件。
- 步驟數可依框架調整，但判斷尺度要一致且可重現。
- 高影響情境需要對應產業、法律、隱私與資安專業。
把 AI 風險從抽象擔心變成可管理工作
若企業需要盤點 AI 應用、責任與導入優先順序，可先透過聯絡頁說明目前情境與既有證據，再確認適合的顧問合作範圍。
AI 風險評估常見問題
風險評估的四步驟是什麼？
可用盤點應用情境、識別風險、評估風險與應對風險四步驟，再補上責任指定、核准、監測與重評。
AI 風險如何評估？
先定義具體情境與證據，再依一致尺度評估可能性與影響，並考量可逆性和受影響對象，最後記錄控制與剩餘風險。
誰要參與 AI 風險評估？
至少包含業務 owner、實際使用者、資料與技術負責人、資安、法務或隱私，以及能接受或停止風險的決策者。
需要哪些評估證據？
需要使用情境、資料來源、模型與供應商文件、測試案例、權限、人工流程、事件與監測資料，不能只依供應商宣傳。
什麼時候要重新評估？
模型或資料改變，或用途、受影響對象、法規、供應商與控制方式重大變動，以及發生事件或監測惡化時，都應重評。
風險分數低就可以直接上線嗎？
不一定。還要確認評分證據、必要控制、核准權限與禁止條件。單一總分不應掩蓋個資、重大權利或安全等不可忽略風險。
