人工智慧與法律規範學術研究群
第二年期（2019-2020）
第七次會議
2020年1月31日（星期五）
主持人：李建良（中央研究院法律學研究所特聘研究員兼所長）
主講人：楊岳平（臺灣大學法律系助理教授）、鄭瑞健（東吳大學法律系助理教授）
◎ 整理：邱筠雅、洪于庭
◎ 定稿、註解：李建良
人工智慧在金融監理會帶來的問題
問題綱要
- 產業發展狀況
- 法規衝擊影響
- 新型監理議題
產業發展現況
- 人工智慧在金融科技產業的發展與應用
- 人工智慧的應用：理財機器人為講述舉例重點，並以保險業為例
- 以汽車產險為例：人工智慧演算法核算保費，並且利用區塊鏈技術儲存相關訊息，區塊鏈綁智能合約，就有可能去確保其履行
金融科技產業的三大業務類別——資產管理、資金眾籌、虛擬貨幣
資產管理
例如傳統的投信投顧，實務上常有成效不彰的問題，再加上年輕人的資本不夠雄厚，或者對這樣的商品或服務沒有信心，基本上較少接觸相關的服務。
資金眾籌
新創產業也可以做這樣的事情，目前有可能會有巨大的成長。
虛擬貨幣
結合智能合約可能成為投資理財的工具，但這不是今天討論的重點。
理財機器人：以人工智慧演算法來取代傳統投顧業提供投資建議。
以當前美國的理財機器人先驅Betterment公司為例，雖然目前資金總額不到大銀行的三分之一，但未來成長非常可期。
我國國內的發展沒有這麼快，就國內的規範，金管會也還沒有直接的相關規範。但同業公會已經發展出作業要點：「中華民國證券投資信託暨顧問商業同業公會證券投資顧問事業以自動化工具提供證券投資顧問服務(Robo-Advisor)作業要點」（簡稱「投信投顧公會理財機器人作業要點」）1。
投信投顧公會理財機器人作業要點
共9點，簡要說明規定重點如下2：
- 第1點是「目的」規定，提及因科技進步與市場需求，證券投顧事業以自動化工具提供證券投資顧問服務，…。
- 第2點是「定義」規定：將自動化投資顧問服務定義為「完全經由網路互動，全無或極少人工服務，而提供客戶投資組合建議之顧問服務」，人工服務僅為輔助性質，例如限於KYC3的作業以及對投資組合的解釋權限。
- 第3點規定「演算法之監管」，分為初期審核與定期審核。
- 第4點規定「瞭解客戶（Know Your Customer）作業與建議投資組合」，要求取得客戶足夠資訊、問題須具體明確、適當機制處理客戶不一致的回答。定期更新資訊，取得客戶同意後適度調整投資組合的建議。
- 第5條規定「公平客觀之執行」，以客戶利益為先，避免利益衝突，並確保系統能公平客觀的執行各種功能。
- 第6點規定「投資組合之再平衡（Rebalancing）」。
- 第7點規定應建立內部專責委員會（監督義務）。
- 第8點規定「告知客戶於使用自動化投資顧問服務前之注意事項」，客戶初次使用自動化投資顧問服務前告知之注意事項，應由客戶以書面、電子或其他可得確定客戶意思之方式聲明已瞭解或知悉。重點如下：
- 客戶於使用前應詳閱服務內容或其他相關公開揭露資訊。
- 客戶應認知投資工具有其內在限制與現實情況所存在的潛在落差。
- 客戶應理解自動化投資顧問服務之產出直接繫於客戶所提供之資訊。
- 客戶應注意系統之產出未必符合客戶個人的財務需要或目標。
- 第9點規定：資訊揭露應注意事項–避免艱澀難懂的專有名詞、重要資訊的揭露應特別強調（如彈出視窗）、伴隨互動式文字或以其他方法提供額外細節（如Q&A）。
第3點規定「演算法之監管」，分為初期審核與定期審核，難免流於形式；第8點是否讓金融科技服務業者以已盡告知義務為由而脫免責任？
金融科技「資產管理」產業與傳統資產管理業務的異同與課題
- 不管是程式寫入或是執行，還是有人類的參與，到底誰才有fiduciary duty，之後會探討到的問題。
- 以「人數」論，典型的金融科技業者規模尚小（200 v.s. 40000）。
- 以「產品」論，理財機器人僅能依靠被動式的索引及分類策略應用在指數型證券投資基金（exchange-traded funds, ETF），是以大市場為基準的投資工具。
- 所需費用極低，對傳統金融業者產生衝擊，傳統金融業者也想要從事相關的服務。金融科技業者也是使用相同的手法，號稱低門檻或無門檻，先用幾乎零手續費的方式，吸引消費者使用，再進入更好的服務之後，才會再收取更高的費用。
- 對於使用之後對該服務的信任，後來再收取比較高的金額，提供更多的服務，基本上就是以低門檻來強佔市佔率的方法，就這個部分而言，其實與傳統金融服務業者差距並不大。
理財機器人六點特徵
- 降低業者營運成本與使用者費用
- 傳統金融業者跟金融科技業者如前面所述，差距正在縮小。
- 降低投資人的交易成本
- 舒緩投資顧問與投資者之利益衝突問題
- 因為新興業者只收取固定費用，和傳統手續費模式不同。
- 其實事實上還是有手續費的問題，只是手續費較低而已，會不會有利益衝突的問題，仍然有待觀察。
- 服務不中斷且立即
- 提供服務不受人類情緒與偏見影響
- 但有可能會將偏見從臨櫃移到演算法之中
- 投資建議品質透明度與其他優點
- 從演算法用語言呈現之後，帶來的實質意義為何？
金融監理理論概論
- 審慎監理：個體審慎監理、總體審慎監理（總體市場、系統的控制針對金融機構的監理）。
- 金融消費者保護：因為金融產品之資訊不對稱性更加強烈、金融消費者保護的理性不足，包括獲得的資訊不足、知識不足。
- 其他：法律遵循（洗錢防制法）…
金融監理工具
- 許可要求：金融作為一個特許產業、從事相關金融產業之人需要獲得許可、從事金融業務，也應該需要許可。
- 資訊揭露：金融業有高度資訊不透明性，所以需要資訊接露，但資訊揭露已經是相對低度介入的管制手段。
- 行為監管：金融業者應該遵循某種注意義務：忠實義務、…
- 審慎監管：
- 公司治理：內部機制，金融機構應該自行提出公司內部控制的規範。
AI進入金融科技產業之後，可能帶來的衝擊
AI與許可要求
(1)金融服務上的改變
傳統的金融業者：金融機構->金融機構的業務人員->金融消費者。
應用AI後，可能變成：金融機構->(金融機構的演算法)->金融消費者。
甚至可能讓資訊業者提供服務：（非金融機構）->（非金融機構的演算法）->金融消費者
(2)AI與業務人員資格要求？
當業務人員要用演算法取代之後，這些業務人員資格的要求就當然並不相同。
對演算法以技術規格要求取代業務人員資格要求
(3)AI與機構許可要求
傳統投資顧問業者需要相關的證照才可以提供這些服務，理財機器人軟體販售者是否也需要有一樣的證照嗎？
各國共識：並不是形式認定，而是較為功能導向的認定，以我國的狀況，仍然要拿投顧證照。然而待商榷的則是，相關的投顧服務證照是不是應該跟傳統的不同？不同的在於，這並不是人力提供服務，演算法可能沒有辦法像專員一樣了解使用者的需求。所以兩者是否牌照應該不同、需不需要特別法規、特別的許可？
美國的情形有專業的網路投顧的證照，我國則無。
資訊揭露
(1)AI與告知義務要求：同業公會要點：遇到的問題是，確保客戶應先審閱相關演算法？告知客戶演算法的描述？但演算法要如何讓客戶了解？要做到何種程度才可以算是有解釋？
傳統的金融產品其實也有相關的問題，但演算法的解釋的問題會讓這個問題更嚴重
(2)AI與資訊透明要求：證券投顧事業在提供投資分析建議，要有所謂的投資分析報告，也就是必須要附理由說明，也就是說投資服務業者提供建議的時候必須要有一個合理的根據，但演算法就會有不容易解釋的問題。可能提供的結果會有反直覺性，也無從判定是否正確。過去在傳統金融業者，是用提供合理分析基礎的方式，解決資訊不對稱的問題，甚至是正當化金融服務業者所提供的服務。
AI與行為監管
AI責任的問題一樣會在金融業發生，包括要向誰求償？如果不把AI法人格化的話，有可能沒有辦法向其求償。
以前的狀況是向負責的專員求償，但現在的狀況，不太可能讓演算法求償。
->可能的解決途徑：期初審核與定期審核的義務，必須定時的監督，必須是一個繼續性的義務
AI與個體審慎監管
人工智慧所帶來個體審慎監管比較新型的風險，是在於操作風險的部分
尤其是在資安問題出現的時候，服務可能無法提供，或者是提供錯誤的服務，造成的風險。但這並不是人工智慧獨有的問題，在面對新興的金融科技服務，也都有可能因為相關科技的使用而有資安風險的問題。
AI與總體審慎監管
為何需要探討金融科技產業的系統性風險：金融科技產業相對於傳統金融業，資本小，公司體制也尚未成熟，傳統金融業者的資訊透明，但金融科技業者並沒有這麼透明。性質完全不相同。
金融科技產業個資連結並沒有這麼強，會跟傳統金融業者一樣有骨牌效應嗎？
再者，這個產業如果即將遍及沒有使用金融服務的家庭，或潛在客戶，如果又有系統性風險的話，可能會是更大的危機。
金融業的系統性風險
業者是否易受突然來襲的負面衝擊影響
若獲利過度仰賴不穩定的單一來源、產品或客戶，其在面臨鉅變時便將遭逢更致命的傷害。
該負面衝擊擴及至其他金融機構的可能路徑的多寡
若業者間業務高度依賴、連結性很強，則單一金融機構的經濟衝擊擴散至其他機構的可能性便大大提升。
市場資訊不對稱的程度高低
若過度不對稱時，與該面臨危機之金融機構有業務往來之人或機構皆僅能做最壞打算，難免過度自我保護，恐將導致爭相終止合約，甚至引發擠兌或法律訟爭等毀滅性的事態。
總體市場的大小
總體市場越大，則引發危機時將越難收拾，好比將一桶水倒入浴缸勢可起波瀾，若倒入大海，則毫無意義。
因為擴及的使用者較廣、交易速度快、即便單一業者規模小，但總體規模大，所以仍舊需要討論金融科技產業所帶來的風險。
金融科技產業可能的系統性風險
可能會有另類的太大而不能倒（因為資料庫數量非常龐大）、太快來不及救（人的速度可能永遠比不上電腦，導致發展太快來不及救）、連結太深不容許出錯（雖金融科技業者彼此之間沒有太大的連結，但是如果演算法很相似的機制一起出問題的話，可能還是會造成系統性的崩壞）。
若從個體觀察，因人工智慧系統的深度學習技術需先有大數據的巨量資料為基礎建立模型，才能藉由不斷的運行運算而自我學習調整。且如前所提及，此大數據資料已不是純粹的金融數據而已，例如該數據的取得是透過臉書或推特等社群網站搜集並分析的資料，則可能因假訊息或假新聞氾濫的影響而造成偏差，致使人工智慧看待世界的模樣反與真實的世界不一致，恐造成諸如資本分配失當等結果，反無意中創設了一種前所未有的模型風險（model risks），而可能足以引發系統性風險。
即便資料來源不是假訊息或假新聞，就因現實社會充斥著因為法律保護而不得不表面上裝作平等中立但現實上因對種族、性別或宗教信仰等歧視而生的對金融消費者的差別對待；已有證據顯示類似雖非假訊息但不適當或不合法的訊息足以影響人工智慧的客觀性。
AI與公司治理的挑戰
- 風險管理的問題：財務風險的問題，人工智慧帶來的影響，可能會造成資訊安更重要。
- AI與內部控制：金融機構需要內部控制確保法令的遵守
演算法的監督管理、包括參與軟體開發供應商的研發審核實地調查、網路安全等相關的法令遵守，現今金融服務業者也認知到專責委員會，從內部人找尋的確有現實上的困難，因為專業度不足，目前應該可以找相關外部人來負責。內部控制的機制會進行改變。
- AI與金融監理模式調整
金融檢查資源實際上非常有限，金融監理還有一個很重要的部分但目前人工智慧還沒有強調，也就是外部稽核概念，完整的金融監理模式應該是在進行內部控制大部分的風險，還需要找外部單位去監理內部控制是否完備，然後由金融檢查作為最後一道把關。會計師事務所向來就是外部稽核的單位，但是會計師事務所目前的專業根本沒有辦法進行關於演算法的外部稽核。但會計師事務所之後也可能去找專家來做相關的事情，但如果是這樣，那律師事務所是否也可以承接相關的業務？
新型監理議題
演算法歧視的問題
我國的金融機構並沒有一般性的金融反歧視規範，但國外則有。
「銀行業友善服務準則」是唯一比較類似反歧視規範的部分，但是該準則只針對身心障礙人士。除此之外，並沒有那麼多的規範，隨著金融科技業的發展，可能會需要更多討論。
演算法歧視與解釋權問題
金融消費者是否對金融機構存在請求不歧視的權利尚待發展，以及演算法做出決定之後，有沒有請求人力再做一次決定的權利，也就是GDPR第22條所討論的部分。
目前還沒有相關的討論，有無可請求金融機構解釋演算法機制的權利？是未來需要處理的問題。
問題與討論（敬稱省略）
李建良：
金融的規範體系是相對完整而複雜，在面對AI的發展時，這套規範體系是否將產生變化，規範邏輯是否隨之改變？當AI進入金融規範體系之後，以科技提供服務是否也需要與人類服務提供者相同的執照？由此可以開始反思，既有的證照制度的目的是什麼？對於如此龐大的一個法律體系，甚至法律帝國，會引發許多的法治思考。
剛剛提到規範部分，在監理工具與行政監管間的邏輯關聯為何？許可的要求我們可以很清楚理解，像剛剛各位提到許多情形需要license，我們可以知道license是一種工具。然後資訊揭露也算是一種工具，但接下來其他的工具性是什麼？尤其到最後一項：公司治理，這部分在沒有AI的情形下，在金融法體系內與監理工具的關係是什麼？如果AI加入的話，又要如何處理？
楊岳平：
確實要把所有的金融監管歸類，並沒有那麼容易，有些好歸類，有些就比較抽象，像是行為監管，這其實就是很泛泛的金融機構可做或不可做，需要注意或不需要注意的行為監管，仍然十分抽象，這其實在想像金融機構與他的服務對象彼此之間的互動關係所需要遵守的行為準則，大範圍來說，就是注意義務、射倖義務等這些應對進退的大原則。
審慎監管在描述的是金融機構對自身的風險管理，就像剛所提到金融當中風險監管很重要的一塊，主要是怕金融機構倒閉，所以審慎監管主要在處理金融機構如何控制內部自己的風險，這裡面當然有一系列控管風險的規定，有許多的數字指標必須要具備。
公司治理，比較尷尬的是凌駕在所有東西之上，公司治理規定公司內部人員的組成需具備一定的要件或要素，規範者認為如此比較可以做好上述監管，例如要求要有法遵部門、法務部門、獨立董事的資格，因為規範者相信這樣做，內部較能完成上述規範者要求公司要做的事情，此為公司治理的面相。
簡報最後將「行政監管」括號起來的意思，並非指全部都是行政監管，意思是最後要如何執行這些規定，還是須依靠行政監管執行，當然可能會有對應的民刑事責任，但等到那時已太晚，所以行政監管才能有比較高密度的去確保以上的執行。
李建良：
剛剛特別提到的同業公會作業要點，其實是根據金管會的某一個函辦理，此要點訂出來之後又會送金管會，金管會也有可能改其內容，所以這是金融法規非常特別的地方。剛剛特別提到公司治理就是金管會在背後要求公司做或不可做，或要求一定要訂定規範，然後又要求要更改裡面的內容。對於這些現象，我們要如何進行詮釋，這是否是一種新興的規範典範？
鄭瑞健：
在金融監理很強調業者的自我管理，但自我管理就是沒有管理，所以還是需要監理機關監督業者自我管理。有一種說法是，沒有人比業者更了解自己的產品，還有需求是什麼，所以金融領域滿多工會提供作業要點，公會會自己會去詮釋這些規範，但也不能全部交由工會解釋，否則將等同自我管理就是無管理，所以金管會還是要去審視，這個要點是否合適，如果覺得合適就作為行政指導的內容，讓大家做為參考及遵守的標準，像美國的SEC，它的網站也有諸多行政指導的guideline，有一個checklist，打勾的越多表示風險越高，打勾越少表示越安全，因為產品千變萬化，透過這種方式給大家一個初步的指引，當然也是因為商法規方面要保持這樣的彈性，以便日後能有更大的解釋權限。
楊岳平：
補充一下，至少從我的觀察，這當中並不是典範轉移的形式，這種現象在金融業相當頻繁可見。首先金融業是受高度行政指導的一種產業，這也非完全無法律依據，這種相關的同業規範在各個單行的金融法規當中，常常會有一個同業公會的小章節，會提到主管機關是有權審核、核定這些所謂的作業要點或是同業公會規則，所以倒也不是完全沒有法規依據。現實來說，確實金融監管會與法律保留原則有所抵觸。很多時候會發現許多規範金管會自己不做，立法院不修，金管會自己也未做出任何行政命令，反而給金管會的周邊單位如同業公會來做。現實上有一個優點在於，相較於行政法規需要一個預告期間等等的規範會影響到期限，法規生效期間或變更的期間。其中一個傾向這樣做法的原因是因為時效性以及保留法規變更的彈性。
另外則是歷史淵源，在國際上，特別是美國、英國這些地方，很多金融法規本來就是從bottom up 建立起來，譬如股票市場本來是沒有規範的，是broker們自己組織的自律組織形成交易所。交易所在國外是一個自律組織，自律組織在自己規範這些股票的交易，最後才有SEC。所以，從歷史發展來說，英美的金融法治是由下而上發展出來的。但台灣並非如此，有保留外型在但現實上並非這樣運作，並沒有給自律組織如此大的自律空間，而是由上而下的指導，但是又透過這樣的方式規定法律保留的一些原則，這是金融業常見的現象，如果真的要去挑惕的話，會有非常多法律保留原則的問題在當中。
邱文聰：
科技部最近也有點在模仿這個模式，在其補助的三個醫療AI品項的計畫，要求三個受補助的醫院自己訂定一個自律的規範，來審核未來資料釋出給其他人使用時應該要遵循的一些程序及審查標準。當時，科技部有點抗拒透過內部的行政程序去訂定行政規則或法規命令，反而是用行政指導的方式要求醫院訂定，但須經科技部審視，仍保留一些權限，所以像剛剛李老師所提到的，這樣是不是一個新的典範，也許金融業有歷史脈絡可循，但是我發現似乎在一些新興領域裡頭好像也有這樣的現象逐漸在發生。大概就是並不想管，但又想把手伸進去。可以這樣做嗎？從法律保留原則來說，可能會有些爭議，不過有些地方確實可探討，如果從嚴格的干預行政跟給付行政的區分來看，因為這個計畫算是補助，政府透過在補助上設定一些條件的方式作為補助的條件，在這個層次上面來講，法律保留原則上的要求或許可以不需要那麼強。這當然是我自己的想法，可是未來如果長期涉及到由國家所經手建立的資料庫，因為這算是花國家的錢所建立的資料庫，此資料庫未來釋出供外界使用時，能否還是依循補助三家醫院的模式而課予其補助上的條件方式，作為未來使用資料庫的規範依據，恐怕就會比較有問題，但至少在補助期間用這模式來做，也許還說得過去。
楊岳平：
補充一下金融業更過分的作法，像是同業公會還算是相對守得住法律保留原則，就像是老師說的，母法裡頭常常會有針對同業公會的一些法律規定，金管會對於相關規則仍有審核權，至少有法律保留，但是金融業的監管更多是超脫於此。賴英照老師曾經提出抨擊，譬如說，金管會其實有十六個周邊單位，包括台灣證交所、櫃買中心、集保，這些在一般人心中大概都是官方單位，但在事實上不是，本質上來說他們都不是公家單位，但他們可以訂定大量的規則，進而影響整個金融業的進行，金管會也大量放手讓這些周邊單位做這些事。就我所知，金管會手上的預算很多時候就這種用途，這個就是更尷尬的情況，證交所、櫃買中心訂的那些規則，像賴英照老師就認為這有複委任的問題。例如證交法授權金管會主管某件事，結果金管會再轉給櫃買中心管理，金管會有權力為複委任嗎？這些事情其實是大量的在發生。最近台灣最大的一個金融科技的改變是所謂的「證券型虛擬通貨」，相關的規範大量的都是櫃買中心訂的，金管會只修了五條法規，據說櫃買中心印出了兩百頁的規定。
劉靜怡：
基本上這是一個很大的問題，一旦出事其實是沒有人負責的，包括剛剛講的狀況也是。前瞻式的預算可以補助三年，這種所謂自律型的規範模式已經變成一個model，然後就設立在那，以後就大家就會按照這個步調下去，其實最危險的地方在這，讓一個不應該出現的管制模式變成長期性的常態，這個就是滑坡效應吧。
李建良：
其實科技部不是一個好的例子，因為科技部不是一個掌有特定主管權限的部，法律中並未賦予科技部可以作成像是行政處分的權限，組織屬性仍然是過去的國科會，只是一個founding agency，雖然後來成為一個部，但因為沒有作用法，所以科技部所有任務的推動，還是如國科會時代，都是以計畫方式，每件事情都要包裝到計畫中，比較不是嚴格意義的行政機關，因此以科技部來討論規範訂定的問題，不是一個很好的例子。
從行政法的觀點出發，金融體系的規範模式的確是一個值得探討的問題。剛剛提到的一些問題，我們當然可以把這些現象歸因於歷史使然，或者看作是某種規範上的特色，問題是，當發生法律爭議的時候要不要解決？要如何解決？第二個值得思考問題是，整個金融法最核心的關懷對象到底是誰？是不是投資者？過去有許多的法律爭議是在行政法院解決，以前很多案子中，證交所被解釋成受委託行使公權力的私人，雖然是私法組織，金管會本身有來自法律的授權，為了行業的特色必須類似自律的管理方式，但現在沒有人敢說證交所等一定是委託行使公權力，因為太過複雜。
第二個問題是，金融法最核心的規範目的是什麼？若是保護消費者或投資者，因為消費者有兩套，一個是消費者保護法，特別還有一個金融消費者保護法，需要認真回過頭思考的問題是，如果今天投資者無法在此獲得保護時，是不是反映出金融法制哪裡失靈了？現在AI進入金融體系，會不會AI比人優秀，可以提供比人還要好的保護，或者反而更壞？
鄭瑞健：
從我們的角度觀之，會認為是同業公會的工業要點或是櫃買中心的OTCG做的在法律保留的程度上會有差別，但是如果從金管會的角度來看，必然不會覺得有任何差異，反正再來討論即可。再來就是老師提到的核心的部分，這個部分到底都是針對金融消費者的保護，對於金融消費者來說，都是一個看似是好的東西，所以大家對於法律保留或是行政程序這一方面的要求就不會這個嚴格地審視。
李建良：
剛剛會提到典範轉移的問題，AI現在越來越多讓我們反思的問題是，因為法律保留通常是規範公權力，而現在規範的是金融業、保險業，所以並不能說這些需要法律規範才能為之，所以整個典範的問題在於危險源並非國家（公權力），巨獸並非公權力，這是一個新的問題。再者剛剛提及反歧視的問題，如果我們去搜尋規定只會找到一些作業規定，這點我們和美國有很大的不同。因為美國有一部一般性的反歧視法，很多的問題可以在反歧視法之下解決。但我國並無一般的反歧視法，如果我們要建立一個新的典範的話，可以思考剛剛提到金融保險業運用AI的問題，例如如何計算保費，或篩選被保險人的問題，例如透過AI的方式預測要保人有自殺高度風險，所以就不保，或是資力有限繳不起保險費所以一開始就不保。美國的反歧視法就在防止這些問題，所以有時候法規範秩序的差異性，也產生不同的法律問題。
像是美國最近有同性戀者訂購結婚蛋糕被蛋糕店老闆拒絕的案子，最後是蛋糕店老闆勝訴，先不說這是基於宗教自由，還是對性取向的歧視，這個爭議在台灣法院爭訟上是否成案都是一個問題，因為在請求權基礎層面就會有問題，但美國的反歧視法就規定公開販售的商品對於消費者不能有歧視。
楊岳平：
補充一下剛剛提到的法律保留問題。在金融業大家都不重視的原因是因為在金融法中被規範的對象通常是金融機構，因此以違反法律保留的方式管制金融機構，增加更多規定，大家並不會有很多意見，這些金融機構不會跳出反駁的原因是因為，金融機構有求於政府機關，所以在這種大家相互妥協其情形下，這種現象可以持續，但延伸到其他產業時可能就不一定。
剛剛老師所提到美國有關反歧視的問題，除了老師剛剛講一般反歧視法外，美國針對授信有所謂Equal Credit Opportunity Act (ECOA)的法案，也是規範一般的行為，跟台灣完全沒有規定也會有很大的落差。前陣子也成為美國的一個議題是Apple card，Apple發行了自己的信用卡，結果爆發一個爭議，它們在核卡的時候，核給他們其中一個創辦人之一，但不核給其太太，被指出說有男女歧視的問題，這種現象如果發生在台灣，就像李老師說的，可能連請求權基礎在哪都不知道，我試著去看台灣金融消費保護法的規定，可能唯一接近的是要求條款要公平合理，這種上位概念，實際上也沒有相關案例會發生。
李建良：
現在請求權基礎可能會是憲法第7條，因為我們沒有像美國有一般性的法律相關規定，就必須轉個彎來建構請求權基礎，我認為不是沒有可能。
林建中：
這個問題最早不只是賴英照老師提出，劉紹樑律師很早期的好幾篇文章底下已經批評過這個問題。這個問題不只是台灣有，其實美國也一樣。美國最高法院很少真的去介入金融案件，把刑事案件扣掉基本上還是高度放手的狀態，背後可能隱含一個更根本的問題，就是銀行假如覺得客戶看起來危險，銀行可能很難講出某一個客戶為何危險，因為無法講得很清楚。就像為什麼投資人喜歡這支股票，投資人可以說我覺得這支股票過去很好，但過去不保證未來，類似這樣的情況。所以如果問銀行為什麼願意借錢給你，銀行可能會說我聽到一些小道消息，譬如說銀行覺得最近建築業借太多錢，銀行現在不想要再借建築業了，所以以前可能借得到，現在就借不到了。
這些事情很難用法律的觀點，說明為何不能這麼做，可是一般正當化的理由是，因為法律是不受時間限制的通常性規範，但金融其實是一個跟時間非常有關且敏感的規範，所以大部分的人都可以接受這些事情不適合由最高法院決定，甚至不太適合由法律來決定，自行競爭即可，我們只需維持夠多的競爭者，讓彼此競爭使價格調整，某種程度上這個問題的解法都是這樣解，能不能進行訴訟，我在猜應該也沒有可能，因為假如你是沒有卡的人，你就會換另一家，沒有錢借不到連蓋房子的錢都沒有更何況是打官司，這是很難理解的事情，所以好像都是這樣解決的。
邱文聰：
基本上應該是說，剛剛講的是一部份是證券，通常我們會期待市場競爭有辦法ratify這種不理性的市場，例如銀行不借給建築業者，認為自己借太多錢給建築業者，但另外一間家銀行若不這麼認為，借錢給建築業而獲利的話，應該會是自己被處罰，所以市場機制有辦法去ratify本身這樣的問題。
林建中：
再補充一些，其實我們台灣早點做這些事情，就像過去幾年市場會跟銀行說豪宅市場過熱，所以所有銀行對豪宅超過八千萬以上他不能讓你貸款超過五成，銀行會設定門檻，這件事情某種程度上來講就是大家都在做，連彭淮南都敢明目張膽地說我絕對不行這樣。
邱文聰：
基本上，如果大家認為這是合理的，譬如說真的現在就是過熱，那大家都往這個方向去做的話，市場機制本身也會往這個方向去，所以不會大家認為這是不合理的現象。所以預設是說，倘若只有你一間銀行這樣認為，可是其他人不這麼認為的話，那就表示你是不合理的，那市場機制自然就有辦法去糾正你那不合理的行為。可是現在有一個唯一的問題是說，倘若大家一致以為的合理方向，其實是一個歧視的結果，市場機制其實是沒辦法ratify，他只有辦法separate，滿equal的一個結局，就是會變有兩個市場，有一個市場會借錢給白人，另一個市場會借錢給黑人。
林建中：
剛剛舉彭淮南的例子，他等於是下令所有的行庫，不管有沒有公股你們都不能這樣子借，其實就已經講明白，根本沒有授權。傳統上都會被認為有很強烈的規定制定權，那個問題為何可以留置下來，我沒有合理的解釋，唯一合理的解釋是訴訟成本太高了。在金融圈中，一方面如岳平所講的，法規都會埋一些非常廣泛的授權條款，另一方面是沒有人成功在法律上挑戰過。所以剛剛提到劉紹樑律師，他其實舉了很多美國法的案件，事實上在美國最高法院很多人都挑戰過，但大部分的時候法院會說這件事情我不太確定，因為我希望主管機關能保障這個市場，假如你有這個任務的話，某種程度上他會認為這是你的判斷，我沒有辦法直接跟你說你這個辦法（除非是完全不理性的）。
邱文聰：
我想我們還是回到剛剛的主軸，有沒有違反法律保留，可不可以在訴訟上進行挑戰是一回事，但我比較好奇的是，針對發生在金融市場的歧視行為，如果真的有的話，到底要如何去管控，是我們期待的一般市場機制就有辦法糾正此行為，還是需要更多外部法令或是司法救濟的程序介入才有辦法解決。
楊岳平：
我基本上同意歧視行為在金融市場很難透過市場機制即可完全泯除，特別是許多金融行為具有高度一致性，很多銀行用同樣的授信標準，同樣的方式，甚至基於同樣的數據庫，所以有些歧視如果存在，可能不是那麼容易用市場競爭將之排除，至於法規介入，從比較法觀之，也看到相關例子，如剛剛我所舉例的案件有介入，司法也有一些成功的案件，以介入是有可能，但最後的問題可能就變成執行。
在台灣的執行方式，一定沒辦法像美國那樣真的靠訴訟的方式用以執行反歧視的規範，大概又是金管會要去做精簡，去看金融機構有無照著這些歧視性的規範來做，如果是這樣的話更需要有一部法規，不然金管會突然跳下來精簡，有一個法規應該會比較好。
像剛剛李老師提的上升到憲法層次的話，我認為這樣對精簡觀會造成較大的困擾，所以有一般性的金融反歧視規範或許還是比較適合的，尚且我認為需要有一個額外的金融反歧視規範，原因是譬如美國 Equal Credit Opportunity Act (ECOA)中，其反歧視規範不是一概的反歧視到底，法案中有列舉問題的項目，不是每個項目都可以被討論歧視，譬如說在授信這行業，不可能要求根據所得狀況來平等對待大家，這是不可能被放入的，或是教育水準這些，有些是不能被放進來的標準，所以哪些標準能放進來哪些不能，這是需要立法說明清楚的，這點是我覺得無法用直接上升到憲法就可以解決的原因，因為金融業在認定歧視與否的標準是不一樣的。
鄭瑞健：
如果是在台灣，假設如果是有一個人被歧視，甚至我們還沒搞清楚為何被歧視，我們的信用卡又不難取得的情況下，如果所有的銀行都不發給他，這個時候大家可能會普遍認為是這個人本身的問題，這是台灣可能會面對的。
蘇凱平：
在金融監理中引進人工智慧，這件事主要的好處是什麼？因為我們擔心了很多如果引進來是否會有歧視問題，怎麼樣金融監理的問題，其實背後的反應都是巨大的成本，我好奇為了什麼我們值得負這麼大的成本去做這樣的嘗試，還是現在就是嘗試的階段而已，並不真的解決實際上已經發生的問題，但是我們就是試試看，反正不試就落後，落後就輸了？
鄭瑞健：
我初步的想法是認為，剛剛講到很大的成本，這些就算不是機器人，傳統金融業這些成本其實都還是在的。這些fintech的功能是什麼，當然就是可以降低成本，減少人工，就可以讓金融業有更多人使用，就是所謂的普惠金融，初步來說大概是這樣。
楊岳平：
普惠金融是最多被提倡使用人工智慧的原因，使用人工智慧、不使用傳統人力的話，可以節省金融服務提供的成本，提升金融服務提供的速度及數量，那這些理論上都可能發揮規模經濟，而降低金融服務提供的成本，那就可以讓一些本來比較昂貴的金融服務，較容易被大眾所取得，像理財機器人為何會出來，就因為傳統我們要取得投資顧問的門檻是很高的，必須有產的規模，需要付一定的投資顧問費，如果能夠透過理財機器人工作，雖然他提供的服務沒那麼個別，但對一些投資的門外漢來說說不定也不錯，讓你能知道哪些ETF可以選，這就是所謂普惠金融的想法。
普惠金融就是認為，金融服務是可以提升人類的福祉的，但很多人因為資訊或能力的不對稱可能沒辦法使用到金融服務，如果能讓更多人使用到金融服務，應該可以提昇更多人的財務效率。
另外一個使用的原因，我認為某程度跟金融消費者保護有關，水能載舟亦能覆舟，剛剛我們講到很多傷害金融消費者的案例，但是很多事情是人為會傷到金融消費者，而使他機器化後可能不會傷害，譬如一些利益衝突、人為情緒的問題，這其實滿多人都有在提到，如果今天使用人工智慧來核保，或提供投資建議，只要程式、演算法設計的好，可以避免很多利益衝突問題，如果是傳統人為提供，就要擔心顧問本身是不是有再買股票，然後建議投資人賣股票，要擔心這種利益衝突，但是在演算法的情況下，當然不排除這種可能性，但是如果演算法設計的好且可被監督，演算法的利益衝突會被降低。再者像剛剛講到情緒問題，雖然剛剛鄭老師有提到說可能只是把櫃檯的情緒問題帶到演算法中，但程度有可能是不一樣的，例如，我今天失戀了，我給你提供的服務可能愛理不理，但演算法可以維持較一致性的服務品質，這都是一個保護消費者的面向，有它正面的作用，當然也有負面作用，就是我們剛提到的那些問題。
鄭瑞健：
為何有六十三億的大量資產，不去找理財顧問做交易上的建議，而是要使用理財機器人，既然有這樣的資產實力，為什麼不要用理財顧問？
蘇凱平：
其實剛剛後面鄭老師講的，剛剛提到「雅婷逐字稿」的例子，更貴的服務、更好的服務。我們好像會預設，比較好的服務是有一個更專業的人類來提供，今天「雅婷逐字稿」給更好的服務時，就會認為是一個人進來，而不是說我用一個更好的演算法給你，或一個更好的程式給你，所以可以表現得更好，可是我要人進來，那如果說人進來這個假設是成立的，那麼人進來會做得更好，在涉及專業服務的領域，像剛剛岳平老師提到的例如消費者保護，其可以提供相對來說一致的反應，這是我們可以理解的。但相對來講，如果我們要求一個很專業的人，是不是隱含金融服務，就robot advice這領域中，人還是可以做得比機器好的。
楊岳平：
這個我補充一下，我剛剛漏講了一個部分，很多人寧可用機器人、不用傳統人的原因是速度，特別是投資交易，很多時候非常重視速度，如果你用專業人工沒辦法做到像剛剛那樣同步的操作，其實這個已經十年了，所謂的高頻交易本來就是在拚速度。另外一個可能回應，為什麼他有六十三億還要用理財機器人，我猜其可能就是要利用理財機器人的這個問題。
林建中：
我試著回答一下這個問題，其實有一點尷尬，我們可以想見一個情況，如果一個advice主動給兩百萬個人，每個人的利潤都很少，所以他必須能夠分批給，第一批的人才能賺最多，所以這就表示其實那個人還是有用的。
蘇凱平：
可是為什麼我不能用演算法的方式，在我第一批給的是這個建議，第二批人來因為時間的關係我給的是另一個建議。
林建中：
所以這其實跟剛剛講的普惠給很多人的觀念是相反的，我們這邊講的是投資，剛剛講的是代管，這是不太一樣的兩件事情。代管基本上我們假設pool是很大的，跟口罩一樣，都拿得到，只是先後問題，沒有差到那麼多。但投資這件事，是先到的人會把股市玩掉，所以不太一樣，我同時給太多人時其實不會有價差出現。所以我們再談金融監理，金融科技，人工智慧時，常會有相反的邏輯存在，保險的邏輯跟證券的邏輯就會完全不一樣，證券是投資的觀念，股票跟證券也完全不一樣，各式各樣的交易都會不太一樣，去買玉米又是不同的世界，因為你會跟實體連動。所以其實可能再談fintech，你可以把金融想像非常的大，但其實我們真的再談fintech只有在很小的部分開始在試行而已，其實他不太能夠代表整個金融的全貌，更不用談那些我們在公開資訊可能看不太到的，譬如說影子銀行，或是私人投資管道。總之，假如投資人看到有那種加值型的服務時，那個資訊用了之後就會變得越來越沒有價值，但有些東西不用因為用的人變多就變得比較沒有價值，就像你借到錢並不會影響到我們能不能借到錢，因為pool真的太大了。
鄭瑞健：
現實上會怎樣我不是非常清楚，但是從閱讀文獻的感受，我會認為最好的辦法，應該還是投顧從AI演算法給他的意見，然後再去做出決定，所以投顧也不見得說是會很相反或強勢。
林建中：
我再補充一點，其實有很多有高資產的人最恐懼的一點是他的理專騙他，他寧可相信一個較為抽象的機器，因為他們常常被騙，有六十三億的人都會假設你算不清楚你的錢。
其實這類的問題，我上個月才整理一個判決，2016年在紐約的案子，墨西哥最大的食品進口商，操作了十年進口匯率的避險活動，竟然操作到在四個月之內整個公司破產，理論上他們有一整組的人在處理這件事，所以有時候有錢人他們常常還是會出現被理專騙這個事情，我不太知道這些人為什麼被騙，因為我不太知道這些人怎麼管理他們的錢的，但我知道被騙的事情還滿多的，所以假如你常常聽到你朋友被騙的時候，你可能會選擇相信一個機器人，這或許解釋了部分為何有六十三億的人還是喜歡機器的原因，可是我不確定這是否為一個普遍的現象。
蘇凱平：
這是一個很有啟發性的現象，謝謝各位老師，我之所以問這個問題，稍微延伸一點，因為我最近在弄審判理念法官，就是我們希望人跟機器在互動過程中各扮演什麼角色，像之前講到alpha go，在比賽之前有簽一個契約是說，無論如何要用機器人走到最後，人不可以介入，因為研發者自己知道如果人介入，這樣就不知道alpha go的結果了。像愛沙尼雅有AI judge，像他們的設計是說一審過了之後，人民有權利向人的法官提出申訴，我剛好認識幫助愛沙尼雅建立這個制度的老師，他就說其實他是反對這個設計的，他覺得AI法官的決定是我們所需要決定的話，又要讓人介入，其實你是毀了整個制度跟價值，所以我其實很好奇在人跟機器互動的過程中，到底怎樣的狀況會是最理想的，那剛剛老師提到說，可能一個最好的理財顧問加上機器是最理想的，但這絕對可能是衝突的，因為兩個最好的理財顧問的意見都有可能是衝突的，那如果他們的意見是衝突的該怎麼辦？
所以剛剛老師有提到說，是要跟人一樣好，人會有偏見歧視的時候，我們跟人一樣會有偏見跟歧視錯誤，還是我要比人更好。
林建中：
其實我覺得這個問題可以很快被解決，就是把錢拆成兩筆，做個幾年就可以知道誰比較可靠。
楊岳平：
這一點是我上次聽吳全峰老師報告醫療的感想，就是在醫療業它先驗的假設就是不能機器介入，但我們金融業沒有這樣的假設，我們比較能夠接受兩邊試試看，要人機互動，要純機，或是人機互動要30%、80%都可以，這點我們沒有特別假設。
劉靜怡：
那如果是審判呢，彭法官跟我提到有關量刑，他也提出了相同的疑問，如果機器做成的決定，最後還是需要一個法官聽審，那為何不讓法官直接做，接下來涉及的是，什麼是審判評析的問題，有什麼是絕對不可被取代的？
蘇凱平：
關於審判方面，我知道的多數的趨勢是認為可能比較保留，像是什麼是審判的核心事項，但是因為這個問題一直沒有釐清，以致我們在AI可以介入到什麼程度無法討論。美國現在有幾個州，包括舊金山在內，北加州，有一些jurisdiction他們容許用AI設定Bail，這也是跟量刑有些類似，你可以決定這個人能不能出去，如果你設定五千美金他可能就出不去了，他們不是覺得這是不是審判核心，他們認為可以做。那愛沙尼雅是覺得，有一些案子像是車禍、超速，一些公法上罰鍰他們認為可以做，但還是比較少數的。
邱文聰：
這跟我去年提出的四個象限有關。在我看來，觀念問題是在我們到底可以接受推論是base on association，還是不能夠？如果他是一個刑事判決，我相信絕對大多數的人沒辦法接受我們試試看，可是在其他譬如說投資上，大家會覺得反正頂多就是輸錢，所以這件事是比較能夠在我們完全不知道後續可能情況下放手一搏的。
回到具體的應用場景，如果是我們剛剛講的刑事判決的話恐怕比較難，如果是民事判決，小額訴訟或是行政裁罰較小額的類型，或許大家會覺得帶來效率的效益可能會較大，比較有可能會接受，但在大額訴訟、刑事判決比較難想像。
楊岳平：
跟審判的差異是，金融的可能是投資人同意過的事，但是審判沒得選。
蘇凱平：
審判還有一個特點是，我不知道在其他的法下有沒有存在，通常我們好像都要求要附一個理由，你做一件事要附一個理由，連理財的建議都要附一個理由，可是審判是很奇妙的事，他容許做出決定是不附理由的，當然你可能會覺得英美法系的人這樣很奇怪，但在地球上有一群人是可接受的，他們理性地做出決定，這好像是其他法領域相對來說少見的一個情況，我們好像認為你要有說明的義務，AI就是不能或是比較難去說理由，他在審判這塊是有優勢的，至少有一些人是能接受的。
邱文聰：
就是說在事實的認定可以這樣，事實連接到法律這塊又不能這麼說。
蘇凱平：
對，但是事實認定這塊就有很大的問題，像剛剛提到要提供專業理財建議，你有認定事實就是看到這些事情你要怎麼判斷，不說理給你聽，就是這樣，這決定就是這樣。
邱文聰：
這種情形在我的model底下是比較可以接受的，可以不需要這麼多揭露，你的揭露是可以association的。
楊岳平：
可是投票選總統也不用附理由，如果照這個邏輯其實可以用AI？
李建良：
回到拘束公權力的命題，同樣附理由的要求也是針對公權力，私人原則上是不用的。
剛剛提到單身條款的問題，我們最後就發展出規範規定哪些是不可以的，這是一種演進的過程，所以我才會說，在AI的發展之下很多東西也會慢慢變遷。我有一個疑問：為什麼在消費者保護法之外，還要有一個金融消費者保護法，保護的對象到底是不是兩種人？金融法所謂的投資人，是否不同於一般的消費者？又比如說剛剛提到醫療的部分，可能被保護的人跟金融法保護的對象不一樣。也因此，我完全可以同意在金融領域裡，為何有高度的自治，業者的同一性跟投資人的性質可能有關，有一定的屬性。
楊岳平：
我補充一下，這個在台灣的背景其實跟剛剛講的連動債有關，連動債出來後，大家發現消保法無法用來救連動債的投資人，法律的理由是因為，連動債之購買不是個消費關係，所以他們只好制定一個金融消費者保護法，主要在處理不是基於消費目的而購買金融服務的行為。
老師剛剛講到被騙錢的例子，當然是一個例子，但我們金融消費者保護法使用最大宗的例子是保護保險，他們不完全是基於投資目的在使用金融服務，但他們是很大宗適用的對象，所以我自己的感覺是，他的立法目的撇開法條解釋，他背後想像的是金融消費是屬於一群人，是不一樣的消費者，他們面臨不一樣的資訊不對稱的問題。
第三個很重要金融消費者保護法在台灣帶來很大的改變是金融消費評議中心，它有一套新的爭端解決處理機制，因為這個爭端解決處理機制的經費很大一筆是來自於金融業者，這個東西是連動的，所以這就是屬於金融消費者，解決金融業者之間的糾紛，所以我才有正當性跟金融業者要錢，超出這個範圍的沒辦法適用，金融消費者保護法不會適用於這些範圍以外的人。
李建良：
最後一點是，人與AI之間的取代關係？我在想如果AI取代人類法官，會不會挑戰我們的司法審級制度？會不會有因為AI不會犯錯，所以我們不需要有審級制度？或是我們要有另一套AI來審AI的決定？當我們還在討論審級制度到底是不是訴訟權的核心範圍時，AI的發展會不會反過來挑戰司法制度，因為AI法官就是不會錯，所以不需要審級制度！
