AI Actor

◎劉汶渝

一、依經濟合作暨發展組織定義

依據經濟合作暨發展組織(Organisation for Economic Cooperation and Development,OECD)之定義,AI actor係指「於AI生命週期中,發揮積極作用角色者,包含部署或運行、操作AI之組織與個人1。」,而其亦為利害關係人的子集合之一2。又依OECD所列3,其將橫跨AI系統生命週期4之AI actor舉例羅列如下(文件中強調其可能未包含所有actor):

  1. 於「開發者端(Developers)」,其行為係創建AI軟體、應用程式介面、組成部分零件,及/或啟用硬體設備;其中包含開發者、資料探勘及提供者、雲端運算能力。
  2. 於「供應商端(Vendors)」,其販賣AI軟體、組成部分零件,及/或啟用硬體設備,涵蓋促進AI整合解決方案的開源平台(Open Source Platforms);其中包含供應商與同時身為供應商之開發者。
  3. 而「終端使用者(End Users)」包含政府、私部門、普通大眾。
  4. 又「高風險終端使用者(High Risk End Users)」包含軍事機構與執法部門。

二、依美國國家標準與技術研究院所列

依據美國國家標準與技術研究院(National Institute of Standards and Technology,NIST)於2023年1月26日公布之「人工智慧風險管理框架1.0」(Artificial Intelligence Risk Management Framework 1.0,AI RMF 1.0)5,其中「附錄A:AI actor之任務描述」羅列以該框架圖表二(AI系統之生命週期與關鍵面向)及三(橫跨AI生命週期階段之AI actor)為基礎之AI actor與其任務描述,以下依該附錄之分類方式分列各AI actor:

  1. AI設計階段(AI Design):資料科學家、各領域專家、社會文化分析師、多元化與公平及可包容性和可近用性領域之專家、受影響社群之成員、人為因素專家(如:UX/UI設計)、治理專家、資料工程師、資料提供者、系統資助者、產品經理、第三方實體、評估者以及法律與隱私治理者。
  2. AI開發階段(AI Development):機器學習專家、資料科學家、開發者、第三方實體、法律與隱私治理專家、與部署環境相關之社會文化與背景因素專家。
  3. AI部署階段(AI Deployment):系統整合商、軟體開發人員、終端使用者、營運商及其從業人員、評估者,與具有人為因素或社會文化分析或治理之各領域專家。
  4. 運行與監控(Operation and Monitoring):系統操作員、各領域專家、AI設計者、解釋或整合AI系統輸出之使用者、產品開發人員、評估人員及審計人員、法遵專家、組織管理階層,以及研究群體人員。
  5. 測試、評估、驗證與確認(Test, Evaluation, Verification and Validation,TEVV):由檢查AI系統或其組件,或偵測與修復問題之人員進行;並理想上執行驗證及確認任務者,與執行測試、評估任務者不同。
  6. 人為因素相關專家(Human factors professionals)、各領域專家(Domain Expert)、AI影響評估者(AI Impact Assessors)、與AI模型或產品與服務相關之採購者(Procurement)、治理及監督者(Governance and Oversight)。
  7. 另外的AI actor:
    1. 第三方實體(Third-party entities):包含為另一組織或該組織之顧客或客戶提供資料、演算法、模型與/或系統及相關服務之提供者、開發者、供應商與評估者。
    2. 終端使用者(End users):係指出於特定目的使用該系統之個人或團體。
    3. 受影響之個人或社群(Affected individuals/communities):涵蓋所有受AI系統或基於AI系統產出決定,而直接、間接受影響的所有個人、群體、社群或組織。
    4. 其他AI actor:即為特定與管理AI風險提供正式或半正式之規範或指導者,例如商業協會、制定標準之組織、倡議團體、研究人員、環保團體,以及民間社會組織。
    5. 一般大眾(The general public):一般大眾最有可能直接經歷AI技術正面與負面影響;本群體可能包含與AI開發或部署相關之個人、群體與消費者。
« Back to Glossary Index