人社學人與科技部AI科研發展指引的對話

◎李建良(中央研究院法律學研究所特聘研究員兼所長)

科技部基於推動全國科學發展與技術研究及應用的任務,以「科研人員」為訴求對象,於2019年9年發布「人工智慧科研發展指引」(下稱本指引),希望能夠藉此提升AI的正面效益,立意良善。

本指引揭示「以人為本」、「永續發展」與「多元包容」三大核心價值,並且延伸出八大原則,囊括AI作為一項科技,其與個人、社會交互作用的相關議題,涵蓋面廣。

本指引的行文用語,如「破壞式創新」、「包括但不限於」等,可對應disruptive innovation、including, but not limited to等詞彙,並不忌諱直接使用interpretability、traceability等外語,顯示其吸納世界先進國家與國際組織的相關規範,有據可查。

本指引立意良善、涵蓋面廣、有據可查,但須再區分以下三個不同面向:

第一是設定科研的「發展目標」:科技來自個人、社會,用於社會、個人,並影響個人與社會。因此,科研既要追求經濟成長、社會進步的利益,也要與環境的利益取得平衡,致力於多元文化、社會包容、環境永續;同時要防止個人權利與人性尊嚴受到科技的侵犯,避免產生偏差與歧視的社會不正義,並確保讓人類的自主權與控制權。

第二是確立科研的「行為準則」:在上述目標導向下,科研人員應遵守一定的行為準則,包括構築安全可靠的科技環境、採取保護個人隱私的預防措施、建立有公正性的科技系統、開發可理解、可追索的技術發展與應用等。

第三是建置行為準則的「落實機制」:例如研擬內部的檢測機制、建立外部的回饋機制、組成風險管控與監測組織、完備個人資料的管理措施、建立資料提供與揭露機制、設計相關紀錄保存制度、形成溝通與問責機制及正當程序等。 從作為一種「規範」來看,以上三個面向環環相扣,需要連結政府、產業、研發人員、民眾的能量,方能共同打造值得信賴的AI環境,不是科技一部之職權所能涵蓋,亦非指引一紙所能規範!

  • 發展目標
    • 科研既要追求經濟成長、社會進步的利益,也要與環境的利益取得平衡,致力於多元文化、社會包容、環境永續
    • 防止個人權利與人性尊嚴受到科技的侵犯,避免產生偏差與歧視的社會不正義,並確保讓人類的自主權與控制權。
  • 行為準則
    • 構築安全可靠的科技環境
    • 採取保護個人隱私的預防措施
    • 建立有公正性的科技系統、開發可理解、可追索的技術發展與應用
  • 落實機制
    • 研擬內部的檢測機制
    • 建立外部的回饋機制
    • 組成風險管控與監測組織
    • 完備個人資料的管理措施
    • 建立資料提供與揭露機制
    • 設計相關紀錄保存制度
    • 形成溝通與問責機制及正當程序
Photo by Aaron Burden on Unsplash

◎蔡政宏

針對科技部「人工智慧科研發展指引」的目前版本(108年9月版),個人有兩點看法:

一、科技部目前的指引版本(含三大價值、八大指引)相當簡略,無論是相較於歐盟的Ethics Guidelines for Trustworthy AI或是IEEE的Ethically Aligned Design而言皆是。過於簡略的版本,可能無法讓讀者(或指引的使用者)瞭解指引項目的重要性,或是無法讓讀者對指引項目背後的關懷/擔憂產生敏感度;簡要地說,過於簡略的指引不易轉化成實際行動的指引。IEEE的AI指引通常會說明關注議題為何、為何必須關注該議題、針對該議題的初步建議、並提供相關參考資源,如此的說明才能使AI研究者或工程師形成充分或深度理解,意識到其建立的AI技術在什麼環節上會對社會、經濟、政治帶來影響或衝擊,以使其在開發或運用相關技術上可採取適當行動。歐盟的AI指引甚至會對某些重要基本概念進行說明,例如說明什麼是「尊重人性尊嚴」。

二、科技部目前的指引版本能否用以檢核某一AI科研發展是否依循三大價值、八大指引?若無法,目前的指引版本是否可能被某些AI研究者或技術開發者拿來作為倫理漂白(ethical whitewashing)的工具?即研究者或開發者宣稱其依循相關倫理指引,然事實上卻沒有意願依循,或沒有能力依循(例如滿足可解釋性要求),或不知如何依循(因為沒有明確判準)?由於指引沒有明確的檢核方式,AI技術開發者可一方面高唱友善AI、倫理AI、以人為本AI等等,但另一方面仍依原有方式進行AI技術開發(例如戰爭機器人、不具解釋力AI等等)——無論其是因沒有意願、沒有能力或是不知如何依循。

Image by Pexels from Pixabay

◎林文源

科技部對於本國AI發展提出指引,有其用心之處。唯此指引若真正要落實,或許必須在相關資源配置、運作機制與可行性上多做思考,否則可能淪為想像與文字。

以下幾點建議,供參酌:

  1. 發展指引與實際投入之資源與工作上的比例關係:以現有核心方向。(一)以人為本 (二)永續發展 (三)多元包容 三大方向而言,顯然目前科技部四大中心之投入主要是以提昇技術發找,朝向準確度、效率與產值應用為主,在此三面向之考量或推動上,或許值得更進一步關注與投入。
  2. 目前AI相關規範或指引之適用對象,應該都是執行科技部計畫之科研人員。而在這些研究計畫與八大指引方向間的關係,要在何種進程與階段達成,或許需要進一步思考。否則,以當前多以技術為主的計畫執行與提案方向而言,有些是當前很難達成(如6、7之透明性與可追溯性,可解釋性等)、而有些則是有待建立管制與治理規範(如5、8之問責機制、隱私與數據治理),有些則是長遠不標,但需要吸引、鼓勵更多人文社會觀點之探索與投入(如1、2、8等)。這些相關機制與階段將於何時落實、如何落實,都需要進一步規劃考量。
  3. 整體而言,目前人文社會之研究能量尚無法更有效結合演算法技術的發展,原因之一在於技術門檻。而這會直接與間接影響到是否能在本地社會、文化、產業與治理脈絡,實現現有指引的許多面向(如1、2、3、4、5、6、8)幾乎是每一項。以AI的幾大面向:數據、演算法、學習、詮釋與應用來說,目前人社的數據要以個別研究者轉化為AI能應用的數據有相當落差,因此,相當需要「資料科學家」進行轉譯工作。建議科技部應該規劃推動「AI資料科學家」(相較於AI演算法技術科學家)與相關單位,例如以人文社會科學角度出發推動人社資料的AI資料處理方案。這才會真正落實上述以(一)以人為本 (二)永續發展 (三)多元包容(而不限於追求技術進展與產業價值)作為本指引的核心精神,不至於淪為空談。
photo credit: Andrey Murnik IMG_1763 via photopin (license)