◎李建良（中央研究院法律學研究所特聘研究員兼所長）
科技部基於推動全國科學發展與技術研究及應用的任務，以「科研人員」為訴求對象，於2019年9年發布「人工智慧科研發展指引」（下稱本指引），希望能夠藉此提升AI的正面效益，立意良善。
本指引揭示「以人為本」、「永續發展」與「多元包容」三大核心價值，並且延伸出八大原則，囊括AI作為一項科技，其與個人、社會交互作用的相關議題，涵蓋面廣。
本指引的行文用語，如「破壞式創新」、「包括但不限於」等，可對應disruptive innovation、including, but not limited to等詞彙，並不忌諱直接使用interpretability、traceability等外語，顯示其吸納世界先進國家與國際組織的相關規範，有據可查。
本指引立意良善、涵蓋面廣、有據可查，但須再區分以下三個不同面向：
第一是設定科研的「發展目標」：科技來自個人、社會，用於社會、個人，並影響個人與社會。因此，科研既要追求經濟成長、社會進步的利益，也要與環境的利益取得平衡，致力於多元文化、社會包容、環境永續；同時要防止個人權利與人性尊嚴受到科技的侵犯，避免產生偏差與歧視的社會不正義，並確保讓人類的自主權與控制權。
第二是確立科研的「行為準則」：在上述目標導向下，科研人員應遵守一定的行為準則，包括構築安全可靠的科技環境、採取保護個人隱私的預防措施、建立有公正性的科技系統、開發可理解、可追索的技術發展與應用等。
第三是建置行為準則的「落實機制」：例如研擬內部的檢測機制、建立外部的回饋機制、組成風險管控與監測組織、完備個人資料的管理措施、建立資料提供與揭露機制、設計相關紀錄保存制度、形成溝通與問責機制及正當程序等。 從作為一種「規範」來看，以上三個面向環環相扣，需要連結政府、產業、研發人員、民眾的能量，方能共同打造值得信賴的AI環境，不是科技一部之職權所能涵蓋，亦非指引一紙所能規範！
- 發展目標
- 科研既要追求經濟成長、社會進步的利益，也要與環境的利益取得平衡，致力於多元文化、社會包容、環境永續
- 防止個人權利與人性尊嚴受到科技的侵犯，避免產生偏差與歧視的社會不正義，並確保讓人類的自主權與控制權。
- 行為準則
- 構築安全可靠的科技環境
- 採取保護個人隱私的預防措施
- 建立有公正性的科技系統、開發可理解、可追索的技術發展與應用
- 落實機制
- 研擬內部的檢測機制
- 建立外部的回饋機制
- 組成風險管控與監測組織
- 完備個人資料的管理措施
- 建立資料提供與揭露機制
- 設計相關紀錄保存制度
- 形成溝通與問責機制及正當程序
◎蔡政宏
針對科技部「人工智慧科研發展指引」的目前版本（108年9月版），個人有兩點看法：
一、科技部目前的指引版本（含三大價值、八大指引）相當簡略，無論是相較於歐盟的Ethics Guidelines for Trustworthy AI或是IEEE的Ethically Aligned Design而言皆是。過於簡略的版本，可能無法讓讀者（或指引的使用者）瞭解指引項目的重要性，或是無法讓讀者對指引項目背後的關懷／擔憂產生敏感度；簡要地說，過於簡略的指引不易轉化成實際行動的指引。IEEE的AI指引通常會說明關注議題為何、為何必須關注該議題、針對該議題的初步建議、並提供相關參考資源，如此的說明才能使AI研究者或工程師形成充分或深度理解，意識到其建立的AI技術在什麼環節上會對社會、經濟、政治帶來影響或衝擊，以使其在開發或運用相關技術上可採取適當行動。歐盟的AI指引甚至會對某些重要基本概念進行說明，例如說明什麼是「尊重人性尊嚴」。
二、科技部目前的指引版本能否用以檢核某一AI科研發展是否依循三大價值、八大指引？若無法，目前的指引版本是否可能被某些AI研究者或技術開發者拿來作為倫理漂白（ethical whitewashing）的工具？即研究者或開發者宣稱其依循相關倫理指引，然事實上卻沒有意願依循，或沒有能力依循（例如滿足可解釋性要求），或不知如何依循（因為沒有明確判準）？由於指引沒有明確的檢核方式，AI技術開發者可一方面高唱友善AI、倫理AI、以人為本AI等等，但另一方面仍依原有方式進行AI技術開發（例如戰爭機器人、不具解釋力AI等等）——無論其是因沒有意願、沒有能力或是不知如何依循。
◎林文源
科技部對於本國AI發展提出指引，有其用心之處。唯此指引若真正要落實，或許必須在相關資源配置、運作機制與可行性上多做思考，否則可能淪為想像與文字。
以下幾點建議，供參酌：
- 發展指引與實際投入之資源與工作上的比例關係：以現有核心方向。(一)以人為本 (二)永續發展 (三)多元包容 三大方向而言，顯然目前科技部四大中心之投入主要是以提昇技術發找，朝向準確度、效率與產值應用為主，在此三面向之考量或推動上，或許值得更進一步關注與投入。
- 目前AI相關規範或指引之適用對象，應該都是執行科技部計畫之科研人員。而在這些研究計畫與八大指引方向間的關係，要在何種進程與階段達成，或許需要進一步思考。否則，以當前多以技術為主的計畫執行與提案方向而言，有些是當前很難達成（如6、7之透明性與可追溯性，可解釋性等）、而有些則是有待建立管制與治理規範（如5、8之問責機制、隱私與數據治理），有些則是長遠不標，但需要吸引、鼓勵更多人文社會觀點之探索與投入（如1、2、8等）。這些相關機制與階段將於何時落實、如何落實，都需要進一步規劃考量。
- 整體而言，目前人文社會之研究能量尚無法更有效結合演算法技術的發展，原因之一在於技術門檻。而這會直接與間接影響到是否能在本地社會、文化、產業與治理脈絡，實現現有指引的許多面向（如1、2、3、4、5、6、8）幾乎是每一項。以AI的幾大面向：數據、演算法、學習、詮釋與應用來說，目前人社的數據要以個別研究者轉化為AI能應用的數據有相當落差，因此，相當需要「資料科學家」進行轉譯工作。建議科技部應該規劃推動「AI資料科學家」（相較於AI演算法技術科學家）與相關單位，例如以人文社會科學角度出發推動人社資料的AI資料處理方案。這才會真正落實上述以(一)以人為本 (二)永續發展 (三)多元包容（而不限於追求技術進展與產業價值）作為本指引的核心精神，不至於淪為空談。
