第八次會議
2020年2月27日（星期四）
主持人：李建良（中央研究院法律學研究所特聘研究員兼所長）
主講人：林勤富（國立清華大學科技法律研究所副教授）
◎整理：洪于庭
◎定稿：李建良
規範面／事實面衝擊盤點
Government by algorithm : Artificial Intelligence in Federal Administrative Agency 美國聯邦機關使用AI技術的觀察報告內容
近年來使用AI技術的事務越來越多，其中Law enforcement是其中重要的一環，但也包括各種面向，農業、美國郵政信件分類也都有使用到。而使用AI技術或方法，但主要達到目的與分類和預測有關。由政府機關提供之訓練資料，資料來源最多來自結構數據，包括統計資料、表格。並不是所有的機關都使用這個系統，有些仍在測試當中。值得注意的面向是，政府不總是跟私部門的合作，很多是聯邦政府自己研發完成。但也有很多是跟私部門或學術單位的開發合作。在聯邦的層次，可以看出大量運用AI取代或是協助政府提供公共服務或基本職能的趨勢。
AI Global Surveillance (AIGS) index：這個報告主要把AI Surveillance分成三個面向：智慧城市（安全城市）、臉部辨識系統、智慧執法（犯罪熱點預測等）。
有很大量的國家已經開始使用AI執法的功能，並不限於非民主國家才會使用AI執法。並不只有華為在提供和研究AI執法的技術，美國、中國、日本也都有相關的公司在提供服務，也並非華為的技術就最為先進。
使用AI執法的動機？
- 增加執法效率：包括執法的精準度、速度、規模、減少成本。
- 公共秩序
- 國家安全
主要應用方向？三者可能會是重疊應用的，而這些應用的方向也需要賦能科技的部分：例如高階攝影機、雲端運算。
- 智慧城市/安全城市
- 臉部辨識系統
- 智慧執法/犯罪預測
智慧城市／安全城市
在城市安裝CCTV高階閉路攝影機或聲音、動作感測器，將即時資料統一匯往中央控制中心，透過演算法進行分析，可以鎖定槍聲是在哪裏出現、有沒有可疑的行為和動作。華為已經協助了超過九十五個國家，升級和建置智慧城市的系統。而於相對經濟發展並沒有這麼高的國家，例如烏干達，也還是有在發展相關的科技，華為提供與建置相關的技術，讓烏干達政府可以監控其潛在的政治對手是否有相關的舉動。
臉部辨識系統
臉部辨識方面主要還是依賴CCTV，其主要使用在邊境管制、以及警方的犯罪調查，比起來，AI不像人一樣會有記憶力的問題。於巴爾的摩的警局使用無人機進行每日監測工作，每秒拍攝照並利用臉部辨識系統監控甚至逮捕。FBI也被揭發曾經將全美國駕駛人的駕照照片掃瞄建檔用來犯罪調查，但並沒有告知任何駕駛人也未經同意，但已經建立了一個相當完備的資料庫。地方政府或州政府執法單位可以向FBI尋求臉部辨識及配對。Government Accountability Office (GAO)有針對FBI的行為糾正。
智慧執法／犯罪預測
- 強化犯罪調查效率，加速警方反應速度，或進行犯罪熱點預測，可以大量分析，自動判斷違法行為並執行處罰，迅速拆解複雜資訊，進行詳細風險分類。
- World-first mobile phone detection cameras rolled out in Australia：澳洲政府透過AI偵測用路人使用手機，進而罰款。
- Predictive Patrol：透過前面二到五年的資料，去預測哪一段時間、地區、類型有可能會發生搶案？但爭議問題在於：
- 美國在執法上的歧視更嚴重
- Over-Policing的情形
- New Orlean ends its Palantir predictive policing program：預測可能犯罪的人以及可能的受害對象。
- 日本在東京奧運去預測犯罪的時間、地點、甚至天氣，但這個訓練資料如果都是日本本土的情形，那麼如果是關於外國人到日本犯罪會不會有效果？
- 歐洲安全與合作組織（OSCE）、國際刑警組織的立場都是希望能夠透過AI系統讓執法更有效率。
AI Surveillance：利用AI技術取代或強化傳統執法人員犯罪控制與預防工作
- 看、聽、讀、嗅、記憶力之增強
- 什麼是人類無法取代的犯罪預防動作？人類較能夠在小量的資料之中去理解，並可以將觀察到細微的資訊脈絡化。
- 使用AI通常是期望增加準確度、正確性、速度、不受空間跟時間的限制，但相對的也可能會產生一些問題，例如可能就過往的資料作為訓練資料，可能會是問題來源之一。
- 看的強化：觀察可疑的行為、EX:曼哈頓的CCTV串聯，並利用人工智慧觀察CCTV所拍到的人之行為是否有異狀。
- 聽的強化：suspicious acoustic patterns、美國智慧路燈偵測槍聲
- 讀的強化：過濾社交網路的內容、歐盟則是嘗試想要使用在線上違反著作權的執法。
- 嗅的強化則是沒有相關的資料。除非是將味道圖像化或數據化，不然很難超越一般的緝毒犬。
AI監控對既有法律規範之挑戰
- 國家利用AI犯罪監控其實並不是本質上的違法，但其容易成為統治上的壓迫工具，進而在追求國家安全與公共治癒的過程中，侵害若干基本權利，如隱私權、平等、表意自由/言論自由及集會結社自由等
- 是否可以開發系統？在何種程度下（依據何種標準），可允許公部門或私部門協力開發相關系統或技術？
- 訓練資料來源從何而來？是否以及如何限制資料的使用？如何管制資料庫串聯問題？如何處理有關資訊安全之問題？
- 執法資料儲存時間是否有所限制？由哪一個機關單位負責查核/糾錯？相關單位是否有無能力發現錯誤？
- 政府在何種情況下可以取用監控紀錄？依據何種標準，可以使用？人民如何可以查閱政府使用紀錄？
- 是否直接或間接造成針對性或歧視性執法？如何避免？
- 是否有保護重大公共利益之正當理由與必要性？是否有明確的法律授權基礎？
- 是否滿足告知並取得當事人同意之原則與要件？是否符合比例原則？其他可替代且侵害較小的手段可使用？
- 如何建立事前的可課責性制度？以及確保事後司法審查與救濟程序？
- 「警察職權行使法」第十條規定，警察對於可能發生犯罪的公共場所或公眾得以進入之場所，為維護治安之必要，得架設監視器。但何謂「公眾得以出入之場所」、此條是否可一併適用在以AI系統為主的智慧執法工具或方式上，甚而作為處罰之依據，是有待商榷的問題。
- 儘管現行「個人資料保護法」訂有「公務機關對個人資料之蒐集或處理」等相關條文規定，但對AI監控系統與行為、影像分析等涉及相關個人資料收集的事項並無特別規範，在現今AI科技執法氾濫的情況下，似有討論是否補充相關規範以達保護個人資訊安全的必要。
- 此外，除司法救濟最後手段外，個資法也尚未有相關規定，設立適當監督與規範機制（如個人資料保護官等制度設計），檢視國家公務機關利用AI監控系統蒐集分析人民資訊的行為、 進行管制影響評估與設置前審核許可、調閱使用紀錄、制定行為準則、限制AI監控設置系統之目的、地點與數量等等行為或情狀是否違反個資法相關規定，亦屬可檢討之處。
規範建議分析
平等權、隱私權的問題、精準或不精準的問題、或是對於群組做大規模的剖析、臉部辨識，都還是有問題，有些既存法規也與此相關：
- OECD Privacy Guidelines：八個原則
- APEC的privacy framework則是相對的較為寬鬆，而是比較注重參與、告知同意
- White paper on artificial Intelligence：歐盟發布，其中內容有提到 AI Surveillance就是相對比較高風險的應用，對於不同的AI應用做出不同的判斷。
- SanFrancisco Stop Secure Surveillance Ordinance：提出相關制度性的相關規定，包括AI執法的話需要如何提案、審核通過，都有相關的制度性規定
其他延伸問題
- 是否應禁止特定類型的臉部辨識系統用於執法工作上？
- 是否應禁止全自動的監控與執法系統，以確保以執法人員為基礎的可課責性？
- 是否應建立公部門開發與應用AI監控與執法系統的相關準則？公部門與私部門合作的資料庫使用規範，開發過程的基本原則（如必須克服歧視與偏見問題、要求正確性、一定程度透明度或可解釋性等）？定期回顧與修正機制？
- 更遙遠地，運用自動執法所欲創造出的「完美法治狀態」，可能本身違反民主社會人民違反法律（但付出相對成本）的選擇自由？
- 是否應制定犯罪預防與秩序維護法？或在充分了解技術本質與細節（technologically-informed）的環境下制定規範與政策？
關於美國地方政府對於臉部辨識系統的相關禁止事例
- 紐約州禁止警用的臉部辨識系統
- 加州暫時禁止三年警方的攝像機應用臉部辨識系統
- 麻州則是沒有期限的暫時在執法系統使用臉部辨識
- 眾議院的已經有三次聽證會，但在聯邦的層次上還沒有任何的討論
- 聽證會中則是主要討論：要如何禁止，但如果要使用的話，要怎麼維持其transparency？
- 美國總統候選人也有相關的政見以及發表立場
不同程度的臉部辨識技術與應用的不同管制方式
- 臉部偵測：無須資料庫，不需要判斷是誰（計算人流的用途）
- 臉部分析：不需要資料庫，使用在市場分析行銷，判斷種族性別年輕情緒注意力
- 臉部辨識：需要資料庫但相對小規模，一對一辨識是否的特定人（例如電子通關？）
- 臉部識別：大規模資料庫所建構出來的臉部識別，從街上的所有人去掃瞄是誰，比對身份證的資料庫。其實必須要知道臉部辨識技術與應用的本質和細節，才知道要限制、禁止管制的東西是什麼，但很多的提案幾乎是一律禁止，完全沒有提到到底要禁止的是哪一種，這個情形可能就會造成規範不夠完善。
問題與討論（敬稱省略）
李建良：
我們所說的臉部辨識所指為何？穿戴式攝影機所記錄到的東西會不會被儲存？接下來打算要做的是找資訊方面人士做相關解釋，也可以讓大家針對這個議題有接下來的討論，先開放大家提問。
劉靜怡：
有關臉部辨識，有一個層次是，在每個人在不同狀況下所產生的表情，透過臉部表情辨識內在情緒，AI相關技術人員稱之為emotion intelligence。這是從心理學界所討論出，最近的討論是應禁止使用。可能會有另一個層次是，在工作下會有怎麼情緒，用此來評價你的工作情況、信用等。
林勤富：
清華大學有開發監製學生有無專心的系統，但是有些人的表情與實際上專心與否可能不一致，所以這部分不一定沒有爭議，要看怎麼運用。
陳弘儒：
有個AI從事暢銷書寫作，他們使用文本語意跟筆跡分析。筆跡是圖像辨識，他們在入學的方面要求學生寫一段文字，想要快速篩選高危險學生，投注資源在他們身上，這可以類比臉部情感分析。
何之行：
「臉」應是我們認為的個人資料，如果不儲存，只是即時去偵測，我認為也是一種搜集，這種脈絡下有需要當事人同意嗎。英國在公眾場所進去就有漠視同意會被照到，那或者是說，如果不是有漠視同意，此公共利益應該沒有大到在行為發生前，即可作為預測。我不清楚是否有無漠視同意的部分，或是是因為公共安全，公共利益很高，足夠在行為發生前即使用此預防措施。
李建良：
在歐盟的白皮書，先前已經有建議是禁止歐盟國家使用臉部辨識，但在最後關鍵時被排除，但在當時執委會要禁止這件事影響到美國，是同步的，反而歐盟最後踩煞車，這是有趣的現象。為何國會要去禁止，從我們的角度而言，要先問有無法律依據，由國會禁止有些奇怪，因為只要把法律依據去除即可。英國南威爾斯的爭訟案就是先討論法律依據的事。AI surveillance的法律依據是否非常少，才會有要外加禁止的問題，如果要做侵入性或是投影片上的第三或第四類型，授權的要件就要明確，或是根本不能做。
劉靜怡：
於紓困條例第七條說：「中央流行疫情指揮中心指揮官為防制控制疫情需要，得實施必要應變處置或措施。」有人認為是帝王條款，假設是原則性可以採取必要措施，只要通過比例原則，所以禁止是否需另加一個條文，或是透過特別法去限制。
李建良：
原本的公法規範被顛覆，這變成是國會去禁止行政機關去做某些事。
劉靜怡：
理論上是立法機關沒有授權就不可以去做，實際上有無授權都在做，反而必須要有一個禁止條款，或是須一一臚列，要做何種管制行為涉及數位化，需有一個明確授權。或是像公布鑽石公主號上的遊客走過哪51個地方，理論上好像不可以這樣做，但政府理由是這樣做有公共利益，公共利益為何未說清。以個資法當授權依據，個資法非作用法無法當做授權依據。
林勤富：
有一個概念化的地方，用AI的鑑識系統是在幫助或強化原本執法人員的工作，這些原本就有法律授權，也並未說清要用和工具做這些執法工作，可能再解釋上原本就沒有明確禁止，才會需要立法禁止這種工具輔助執法人員做傳統上執法的行為。
蘇凱平：
於警察職權行使法第10條，這是一種常見規範。偵查有很多種方式，規範中提到，警察對於經常發生或經合理判斷可能發生犯罪案件之公共場所或公眾得出入之場所，為維護治安之必要時，得協商相關機關裝設監視器，或以現有之攝影或其他科技工具搜集資料。規範如果是這樣，如果國會將科技的搜集方式摘出去另做規範，會不會是這種設計方式。
李建良：
先區分規範面與實際面，於警察職權行使法第10條，就犯罪的地方有切割出一定範圍，規範上有特定範圍、目的。現在臉部辨識的問題，尤其是最後的臉部識別（identification），已經是沒有條件與範圍，攝影的地方並不一定是犯罪發生地。剛剛疑慮是針對當掃過臉部的資料，是在當下就消失，還是會被儲存。我們比對指紋的收取，司法院大法官釋字第603號解釋違憲，那這一定是違憲，內政部擬訂有特定目的，事實上是全部收取，臉部辨識某種程度也是。
邱文聰：
指紋的資料庫是從大家申請國民身份證時照片已存在，不是剛剛李老師說在馬路上才像流刺網一樣在捕捉，那已經是在做配對，而不是採集指紋回去再做配對，那是第二層次的階段，真正第一階的是我們的戶籍資料就直接變成現在警用的人臉辨識系統中的資料庫。
劉靜怡：
最大爭議是在這，外籍勞工進入我國一定會有資料，所以現在我們的人臉，國家一定有資料，且每次跟戶政機關重新申請一次，就會要求換照，資料庫是不斷更新。惟外籍勞公從逃跑到現在容貌可能已經改變了，他可能在台北市某處聚會，人臉會被不斷地掃進，資料顯示他坐公車到北車來回六次，想像這些資料都是被儲存在某個地方，行動偵防車可以定位手機，可以攔截他的電波信號，開始在路上找，所謂四個小時是這樣找到的，聽說他找到的時候正在打電話，正在哭訴。
林建中：
我認為這有點低科技（low-tech），偵防對象都是不特定犯罪人，這對無警覺市民是最有效的，對特定要犯罪者是沒有特定效果。可以想像出很多方法規避臉部辨識，我真正的質疑是對真正遏止預謀犯罪的效果不強，對非預謀（不經意）犯罪是較強的，例如超速，這是我對臉部辨識系統的第一個問題。第二個是對場域問題，這些其實有很強的場域性，從被告角度就是不出門，不讓被收集到資料，變得較難辨識，譬如說要殺人時將人騙到一個沒有相機的地方即可，其實是有公法上意涵的，以後人不會去沒有相機的地方，對被害人或被告其實會開發新的行為模式，這與我們傳統對於犯罪的想像是不一樣的，我們傳統的想像是被害人與被告都是很特別的人，不是任何人都會成為被害人，他看起來高科技，其實他規避起來其實沒有想像中那麼聰明，這是從犯罪觀點所提到的想法。
林勤富：
用AI做犯罪預測、控制，系統出來後就會有人想要得到這個系統，然而這非一來一往而已，而是會不斷產生，慢慢得技術上革新，他得到系統的方法會更新，這可能是會一直循環。
林建中：
在得到的會是一群很小的人，他被吸取的資料越來越多，受害的是一般市民。
林勤富：
這個是場域問題，我想補充的是對於一般人的影響，剛剛有提到跟集會結社自由關係，這跟政府表現有關係，一般在集會結社時知道上頭都是臉部辨識系統，都知道是誰參與集會，可能會使一些人不到場，這是在場域上可能也會有影響的地方。
陳弘儒：
有一些其實是警方已經在使用，只是在技術角度提升。如果原本一種能力是人類能達到，只是沒效率，只是透過某些工具能更有效率的達到，為何在提升後不得使用，這有些是程度上的差別，有些是本質上的差別，可能到某一階段它的本質上會不同，到哪一階段需要停止，這是一個滿難的課題。在法治研究中，功能主義式的想法到現在無法克服，或許是很恣意地畫一條線，在停在這點，我目前可能的處理方式會是這樣。
劉靜怡：
有些本質上憲法保留，憲法未規定就是不能做，有些是法律保留，法律會規定可以做到什麼地步。
陳弘儒：
總是需要質疑為何要憲法保留，法哲學的角度是這樣。過去類比刑事偵查，譬如警察在外旁聽紀錄，而警察使用空拍機也不行，這好像又超越先前的能力展現，警察即便得到資訊是跟原本是站在外面是一樣，可能偵查手段可以當作類比，像是美國的熱顯像儀案例。
楊岳平：
另外一個更關鍵的是法官保留，要事前畫出一條界線是件很難的事情，現實上處理的界線是個案判斷，目前在通保法中是法官保留，個案能否使用資料，類似的道理會差不多，大家都在做犯罪預防、偵查，普通人會同意，主要擔憂是不確定是否有真實目的，即目的外濫用的可能性，但這條線事前無法畫出，因為事前是無知狀態，基本上由法官在個案中，或是某種監督機制，外於行政權，目前是由法官監督，但在每次要簽監聽線時，法官到底要如何決定，無法得知。
真正的問題是如何建立政府的監督機制，來監督針對資料的使用及濫用，剛剛講到國家內的監督機制，能想到最好的可能是建立在三權分立上，國會立法權只有作抽象規則，司法權可能可以介入。如果跳脫框架，另一個可能是外國勢力國際介入，如國際標準等。先前證交會的個資使用面臨外國監督者iso標準，我不確定此有效性為何，但根據證交所的說法是遵循iso的建議的，這是一個例子，也許有別的國際監督或國際協調，這是我目前想到可能要怎麼建立監督機制的可能，內國可能要靠司法權，不然就是訴諸國際治理。
陳柏良：
警察執法會帶一個穿戴式攝影機，穿戴式攝影機上傳資料儲存在哪，由誰所掌管該資料庫。接下來是剛剛岳平講的一個是國外監督，一個是司法監督，還有另外一個內部的討論是，在完全沒有管制或是立法明文的狀態，穿戴式攝影機相關資料全部放在警政資料庫，是不是等於是州政府或是郡政府下另外要擱置一個委員會來獨立監管。之後法庭在調查證據時，是不是也要有類似搜索票概念，要申請一個令才能這資料庫搜集資料，所以監管上司法是一種方法，但是成本較高。行政上有個方法是行政內部有一個委員會，只是級別要放在地方還是中央，有時候是收集一個階段，儲存是一個階段，另一個是儲存的資料庫有沒有辦法跟其他資料配對，要怎麼設計，或是守門員是誰，行政機關內部的管控方式，或是讓他逸脫於行政機關，還是交到司法手上，這是可以在辯論的。
林勤富：
我們可以看到在趨勢下有一些獨立機關，或是像在個資法下有個人資料保護官，這些建置想要政府對AI監督，或是設事前審核、影響評估等，獨立機關好像變成大家建議的一部份，剛剛弘儒與岳平說的，似乎是兩個不同階段。
邱文聰：
剛剛大家討論中有滿大部分聚焦在監管，與管控較相關，與AI較不相關，應該回到在AI內容監管下會遇到的問題。
蘇凱平：
AI有塊領域是有關預測正義（predictive justice），這個議題與廣泛地蒐集資料是否違憲有關。有些美國學者有指出過，在美國這種廣泛的監管的興起，與美國恐怖活動的興起有關，一方面是科技成長到一定程度，一方面是因為恐怖活動開始增加。從而在事實上或法理上增強可以使用這種蒐證方法的基礎，特定人與特定人的犯罪好像不需要，但恐怖主義普遍好像就會同意這種蒐證方法，因為任何人都不想成為被害人。
邱文聰：
美國可以簡單找到恐怖主義當作理由來說明這種發展，但台灣沒這理由還是一樣發展。
蘇凱平：
之前在美國或台灣我都有做警察訪談，警察的觀點與我們不同，典範原本就不同。我們會討論特定目的，警察認為所有事情都與治安目的有關。警大的偵查學書就寫說任何事情都不要掉以輕心，任何的事情都治安有關，任何的資料與資訊都跟治安有關，什麼資料都可以搜集，在這個意義上就涉及預測正義。所以在監管對警察來說不是要準確發現行為人，而是要增加效率、偵查成本降低，但不增加準確性。我們運用算法去預測，要怎麼要降低警察執法成本，而不是增加正確性，對警察而言準確性非KPI，因是否正確是由法官決定，以美國、台灣的架構下，基底不一樣但都不是他們的KPI，對美國來說很少會有機會向警察提告，警察的KPI是抓到人能否破案，在此典範運作下，在特定場所或是不是抓到正確的人，會有不同典範跟要求。
邱文聰：
所以很明顯應該是說不是因為恐怖主義控制的需要，而讓AI犯罪偵防去滿足該需要。反之，而是有AI犯罪偵防的技術，反而運用此技術做犯罪控制。
蘇凱平：
我不清楚，技術走到一個階段就可使用，但因為人權顧慮，而恐怖主義又有何人權顧慮，一來一往討論就可以用了。
邱文聰：
在台灣似乎不需後面的論證。
劉靜怡：
台灣基本上提到，維護治安、降低犯罪、科技執法、智慧城市就可以成為一個目的。
陳弘儒：
我認為要區分兩種預測。從因果關係而言，即便是恐怖主義發生後還是需要找特定人，可能AI有個更難的難題，未來超前部署，這在因果關係中就不是在找特定人，而是回溯在找一般人。這部分是滿危險的，在資源部署上，會加強巡邏，但他們應該還是想往未來看，抓到現行犯，這部分也是一個滿大的課題，CS現在要建模。
趙若漢：
之前是看頭部，後來是看DNA，現在是看電腦、AI預測的行為模式，還是同樣東西再重複，如果要反對，過去反對的理由繼續用即可。
蘇凱平：
我認為不太一樣，當初在骨骼學上有判斷特定犯罪的特徵，並沒有現在意義上的實證基礎，如果是波士頓馬拉松你有某種動作是不尋常，與要從事某種犯罪行為的人一樣，這件事的說服力是不同的。
邱文聰：
那是那個時代的實證，他也有收集很多的實證。
楊岳平：
我認為關鍵是準確度，頭顱也許是當時的實證結果，但現在的準確度客觀來說未到這種程度。
邱文聰：
但是這種準確度向未來尚未發生無法論證。
蘇凱平：
而且這也跟骨相學相反，骨相學是往前看的，當初切薩雷·龍勃羅梭（Cesare Lombroso）是將一群犯罪者聚集，是回溯的，而預測正義是向後的。
邱文聰：
大家有些誤會，AI都是回溯得到的，是運用在未來，也是過去的資料的累積，這都是歸納法。
蘇凱平：
運用在未來，就沒有準不準確這件事了，偵查者要的典範與法官要的典範不同，以台灣與美國的警察制度而言，只要能指向未來，就能鎖定特定人，鎖定特定人去搜集後，後來有無被判罪不重要，就變成一個自證的存在。
邱文聰：
AI可以透過監督的學習來矯正，也有一種是他的預測無法被證實。譬如美國為提升學校教育品質，開發一套系統老師表現不好會被開除，但這些人是否表現不好，我們無法去證明。當我們用這套系統作為犯罪控制，已被控制者無從犯罪，但也不知道是否會真的犯罪，確實無法被證實，無從自我矯正，有些AI還有辦法矯正，但那種運用無法矯正。
蘇凱平：
犯罪這件事很有趣，當我們認定他是恐怖份子，搜查完發現不是，發現別的犯罪，之前用Ａ罪，但他能發現Ｂ罪，也是正向的為何不使用。
陳弘儒：
我連結到廣義責任，特定人的行為是在真實世界可以被價值化，這個人做了這件事就必須負責，但朝向未來時，從行動哲學角度看他是一個類型，並非特定行為，我們認為可能有高可能性類型的行動轉化為真實世界的個別行為，這是沒辦法被價值化的。如果大家不在意，漸漸那個類型的行為會變成我們課責的基礎，這樣會有點危險，那個類型的行為可能是事件中的其中一個，並沒有被真實化，跟某種道德責任，或是刑事基礎成立會有關係，這是我擔憂的事。
林勤富：
所以不應該依賴準確度，因為準確度在預測未來事件是不相關的，他在測準確度會用訓練數據，再用測試數據去測，準確後以後都會視為準確。
陳弘儒：
如果要看準確度要怎樣說明，但任何一個要販賣這套系統的人，他都會宣稱很高的準確度，這是現在使用機器學習的AI都會強調的，只是要區分系統運作環境，跟真實世界是不同的，責任在這會產生危機。對未來只是類型而已，並不是實際行為，如果只是展現某種類型行為的傾向，並沒有在真實世界成立。
林勤富：
這就像風險分類，只有證明高風險，並未敘明是否在幾年內會有再犯之類的事宜，只是說十個類型中的其一，危險責任的前置化。
吳全峰：
剛剛講的是在危險前置化就採取一個行動，假設AI未要在當下採取行動，在產生某種程度的效果，還是有人權侵害的風險，社會會不會接受不確定。當風險大到一個程度時，像這次武漢肺炎，對於很多不確定的事寧願採取行為，去避免最大的傷害，剛剛在講的是當下就採取行動，假設我不採取行動呢，變成需要先預防發生。假設只是要確定發生後要處罰，行動並不發生就沒有違反。
林勤富：
有時需要依該預測做一些決定，可能會有不同的，跟犯罪類型跟風險有關。
黃詩淳：
家暴的預測系統大概就是採取這樣的模式，先觀察那些家暴的高風險家庭，接下來行政機關所採取的行動是電話關懷、訪視，我們可否允許這種形式。
蘇凱平：
如果從危險犯的角度來看，在刑事法的框架下，從刑法中一直都有危險犯的觀念，如果用某一個標準認為你高風險就可以認為你犯罪，就可以立法認為你犯罪，危險犯這個制度本來就存在，這非一個刑事法的立法者所陌生。
邱文聰：
有可能因為產生對人類越多的瞭解，我們會促進刑事立法往前，促進前進部署。
