人工智慧與法律規範學術研究群
第二年期(2019-2020)
第九次會議之二
2020年3月30日(星期一)
主持人:李建良(中央研究院法律學研究所特聘研究員兼所長)
主講人:陳柏良(中央研究院法律學研究所博士後研究學者)
◎整理:邱筠雅、洪于庭
◎定稿:李建良
我於今年2月27日中研院資訊法中心所舉辦的研討會中認為,監控威脅主要來自於三個面向,第一個面向是來自於政府,第二個面向是來自於外國政府,第三個面向是來自網路公司、網路巨擘,或是大量的所謂的網路暴民和網路酸民。第一部分由昕璇報告,我主要是承接第二及第三的區塊。我下的標題是:AI時代的分裂社會與民主。
我今天報告分幾個部分:一是英國的劍橋分析醜聞事件所彰顯出的問題;第二部分是2019年美國的穆勒報告(即獨立檢察官的報告),指出在AI時代下,美國目前法制上的漏洞,不管是政治獻金法或是廣告法上的漏洞,造成美國民主會受到何種程度的破壞。接下來討論,台灣目前的網路生態系與美國雖非完全相同,但也會有類似的問題。簡單的說,第一是外國政府有系統地在操作網軍;第二個就是我們俗稱是網路酸民隨機帶風向,隨機起哄,會造成怎樣的問題。最後,我提出的方案是transparency,透過透明化的方式達到我們能盡量減少這樣威脅。

民主的核心假設被侵蝕?
第一張投影片中顯示波茲曼(Postman)的著作:「娛樂至死」(Amusing Ourselves to Death: Public Discourse in the Age of Show Business),他認為民主受到威脅主要來自兩個面向,第一種是歐威爾途徑,就是1984歐威爾,他所敘述是政府建立一個真理部,全面性監控,把資訊單一化,這比較像是昕璇今天所提出的威脅性,即本國政府如何去控制輿論、控制整個國家。波茲曼(Postman)的「娛樂至死」討論的其實是第二種。「美麗新世界」,赫胥黎所講的是,當大量的破碎性,類似像嗎啡式的資訊,把大眾全面洗腦後,他認為只要有這種資訊大量洗腦,政府不再需要真理部,也就是透過這種方法,我們每天、每分、每秒都會被所謂垃圾資訊或破碎資訊所佔據,我們就失去思考能力。民主的核心假設是,人民和公民經過審議思辨做出集體政治決定的核心,這個假設會受到侵蝕,我第一張投影片是指我的報告會注重第二條赫胥裡途徑所造成的威脅,與我們在這樣的時代下,我們應該如何面對。
劍橋分析醜聞
「圖一」是劍橋分析事件所做的生意範圍滿廣的,圖上紫色的部分都是。今年我在其他地方報告時,有人指正我說,台灣有一個政治公關公司當時跟劍橋分析公司有外包(outsource)的關係,所以這張圖有些過時。其實,台灣也是受害的民主地區之一,當時劍橋分析公司在英國受到很大的震撼是因為,他本來一開始是M16,就是英國情治單位的外包單位,當時英國的情治單位其實是想控制前英屬的殖民地,在選舉過程中能夠受到英國的掌控,我們今天在看圖時,有許多國家像是印度、南非,其實很多都是英國的前屬地。後來英國會受到很大的震撼是在脫歐公投後,他們才發現原來這套M16以前拿來控制外國選舉的方式,最後被反噬,等於這個技術被拿來玩他們自己的選舉。

Photo credit: Scroll.in
我今天不會花太多時間討論劍橋分析事件,如果大家有興趣可以去看一本叫「操弄(劍橋分析事件大揭祕)」(Target)的書,作者是Brittany Kaiser 。這本書主要資訊來源,第一個是這本書的作者(投影片左上角)、右上角的是劍橋分析事件的首席工程師,他也寫了一本書在爆料,到底怎麼做到,怎樣透過蒐集個資後達到全面洗腦與精神鎖定的目標。
稍微講一下劍橋分析事件的犯罪模式,公司成立時第一批的原始數據並非自己搜集,第一批原始數據是大量從黑市和合法市場買來,主要鎖定買的資訊有報稅資料、健保資料、政治情報,政治情報有從美國的選民資料庫,第一批的資料是從這裡買來的,再從Facebook的資料做比對。這是劍橋分析事件在討論我們今天用AI造成民主的傷害後,或是AI可能對民主造成傷害,第一個要去想的是AI是非常強大的機器,我們認為所有的機器都需要燃料,那就是大數據數據來源的燃料,今天此事件的關鍵不在運算程式到底有多少,而是海量資料從哪裡來?
關鍵是在2011年,那時公司是先買來海量資料,再進一步從Facebook上撈,資料方法是:Facebook在2011年時有一系列的心理測驗,當時做心理測驗需要受試者同意將其個資交給心理測驗公司,如果不勾選同意,就無法進行後面的心理測驗遊戲,只是在勾選中有一個隱藏條款是,不只交出自己的個資,包括臉書的朋友的個資會一併給心理測驗公司,就是Friends API (Application Programming Interface)這個軟體的遊戲規則。劍橋分析公司當時總共有32萬人做線上測驗,一個測驗者平均有160個朋友,所以當是在三個月內就擁有五千萬人的個資,所以這就是他一開始海量個資的來源,這是他的第一步。
第二步是將選民分類,總共將選民分成32種類型,簡稱Ocean,主要心理測驗試問五個面向的問題,第一個面向:你是否是喜歡新體驗的人?第二個面向:你是否是喜歡秩序和習慣的人?第三是:你是否為喜歡社交的人?第四是:你是自利還是利他型的人?第五面向:你是否為容易緊張的人?那為何會講32種與五個面向,因為2的五次方就是32,也就是說每個面向,會有是否,經過精細的排列組合,先在模型中分做32個,再把五千萬人分類。接下來再從Facebook上,API的做法是,他不只是搜集這次的個資,他是持續性的,目的是不斷的重複確認原先對你的分類是否正確,一旦確定了分類,才能決定事後要給你怎樣的資訊,就是所謂Micro-target,以前叫大眾媒體,現在叫分眾媒體,先把人分成32種後,32種人吃不一樣的資訊,且會先釐清怎樣的資訊才能最影響他,這是劍橋分析公司的核心戰術。
第四是核心的戰術,最關鍵叫做Ripon軟體,我們過去在講所謂的資訊戰或是網路上的洗腦帶風向,我們是俗稱空戰,Ripon是將空戰拉回地面,也就是大選前三十天、四十天,會有很多志工挨家挨戶敲門。Ripon軟體是能夠把選民不只做好分類,而且把選民的名字、地址出現後,志工可以看著iPhone或是iPad,可以決定這戶們要不要敲,譬如他已經決定這戶完全鐵桿藍、鐵桿綠他就不敲了。第二個是他就知道要敲的話第一句話要講什麼,譬如第一句話要講同婚議題、社會保險、武漢肺炎,他就知道要如何做開場,才能打動人心。所以Ripon是能將這些資訊彙整後,變成一個簡單操作軟體。第五個是選舉前最後三十天,那32種人會出不同資,決定要動員或反動員,這是劍橋分析公司最核心的戰術。
圖二有點複雜,講的是整個政治資金流,關鍵是劍橋分析公司一開始非幫川普助選,一開始是幫Ted Cruz美國參議員助選,在2016年6月前,川普與劍橋分析公司本來沒有關係,是在六月由Steve Bannon牽線,其為國家安全特別顧問,再拉到Robert Mercer,其為華府非常有名的金主,他把錢付給劍橋分析公司來幫川普工作。

Photo credit: Vox
美國政治獻金法管制的是錢如果捐給政黨或候選人需特別申報,可是川普聲稱其為百萬富翁,不需要政治獻金,那Mercer家族的做法是,他們錢確實沒有經過川普的競選總部,也沒有打進共和黨,Mercer家族透過海外的資薪,把錢打給英國的劍橋分析公司,所以第一個金流全部在境外,第二個金流只要在Mercer家族跟劍橋分析公司,金流對川普及共和黨可以說是clean hand,他們完全沒有碰這筆錢,這與他們無關,他的防火牆是這樣設計的。
接下來選舉的做法是,劍橋分析近來時候,剛除了講那32種分類外,再把選民分成三種,第一種是Hardcore選民,就是在圖上會看到六個格子(圖三),第一個右邊是川普,左邊是希拉蕊,Y軸越往上是越鐵桿,Y軸越往下是越鬆散,他們的做法是,如果是核心川普的支持者他們就把它當作是金主或是志工名單的募集者、募集的潛在來源,所以會拚命地將招募志工的宣傳往這群人撒。第二種就是對於中間光譜的,不管是希粉或是川粉,他的做法是恫嚇或是動員。至於是游離的選民,他們的做法是,原則上這些人投票率很低,基本上不浪費錢在這群人身上。所以整個的做法是,這些選民分成32種外,進一步內化把選民分成這六種,進而進行整個政治上光譜的鎖定。

Photo credit: reddit
劍橋分析公司做的事,當時的個資由Facebook上找,而且是拿完個資後將錢給Facebook做廣告,根據他們所稱,他們從Mercer家族拿到一億美金,有九千五百萬是花在跟Facebook買廣告,所以Facebook其實扮演兩個角色,第一個是把個資賣出去,買個資的那些人又要向Facebook買廣告,只是Facebook怎麼去操作這個遊戲,是透過所謂的白手套,Global Science Research簡稱GSR,Facebook是將個資先賣給GSR,GSR在將個資交給劍橋分析公司,最後由劍橋分析公司回來下廣告,Facebook發現CA是很大廣告客戶和金主後,他反而不斷告訴大家怎樣不斷有效率地去撈個資,怎麼把選民分類後,更精準地去投廣告,變成另外一種個資產業鍊,一種牟利方式,這是簡單的劍橋分析的操作模式。
穆勒報告
在2016年年底選完後,美國有人事後發現,剛剛劍橋分析公司不只是個英國公司,後面金主也不只是Mercer家族,還包括一些石油商也透過劍橋分析加入美國選舉廣告,那些石油商滿多是俄國籍或是俄國裔的,背後其實跟普丁有些關係,因此美國國會非常緊張,在2017年任命獨立檢察官,那是前FBI局長叫Robert Mueller。Mueller在2019年寫出了一份調查報告,調查報告總共四百多頁分成上下兩冊,上冊是講俄國怎麼干預美國選舉,下冊主要是講川普的那些行政官員,在被調查時有哪些妨礙司法的狀況。下冊部分與今天較無關,主要講上冊。
上冊主要分成兩個區塊,俄國如何干預美國選舉第一個是透過美國的社群網路,主要是Facebook、google search、twitter,第二個區塊是駭客攻擊,那如果他講的是資訊戰部分,俄國其實從2014年就開始佈建,也就是我們俗稱為空戰,俄國開始想要打空戰前,他先建立路基,在2014年就在美國境內設立大量的虛假帳號,而且虛假帳號設立後會開始投放資訊,先測試帳號本身有無吸引力,到了2015年開始,那些帳號還會開始辦一些實體的政治集會,避免那些萬人響應一人到場的狀況,測試哪些帳號不只有線上影響力,還開始有政治影響力,2016年開始反覆把錢跟資訊開始透過那些帳號動員,他的動員方式有兩種,帳號分成兩種,第一種是專門發訊息、動員,第二種是完全不發訊行,專門轉推跟按讚的,也就是衝按讚數將帳號衝上去,所以這是俄國第一個走向是這樣打的。
第二個是傳統思考的,俄國事先駭入美國地方政府跟美國民主黨和希拉蕊競選總部的email,先拿到希拉蕊競選總部幾個重要的情資,第一個是金主名單,第二個是競選策略,第三個是黑資料,包括希拉蕊的黑資料和搜集川普的黑資料,其實在2016年的7月後,希拉蕊每一次要攻擊川普,有重大新聞要出現時,不到兩個小時就會被蓋台,馬上就會有另一個希拉蕊的黑新聞出現,等於是每一次希拉蕊要發動對川普的攻擊時,議題還來不及發酵,議題就被壓過了。希拉蕊不管是電郵內跟金主的對話、華爾街的對話,或是在2012年的班加西事件,會不斷被爆料在維基解密上,背後破解的來源是從JRU俄國的情治單位,他們在2016年3月開始有系統地打破美國地方政府、民主黨、希拉蕊競選總部的防火牆,進行選舉干預,這是兩種策略,穆勒報告主要是指出這兩塊。
2019年穆勒報告出來後,大家開始討論民主竟然是外國政府有可能傷害,或是科技公司疏於管理會傷到民主,那我們接下來該怎麼辦?Brittany Kaiser他在英國國會作證時,他認為有兩種解法,第一種解法是全面性禁止政治廣告,這個主張其實跟黑箱社會的作者,他有提出類似的看法是要全面性的禁止政治廣告。另外一種解方是應該要求與政治廣告有關的要揭露,揭露政治廣告背後是誰出錢跟誰製作,也就是我們今天的透明化不只是政治之間的透明化,是所有政治資訊的來源都須透明化,也就是transparency之前做的事1.0,現在應該做的事transparency2.0,才能打破選民常常被政治洗腦帶風向、不明就理,是因為接受匿名的資訊後不自覺被洗腦,有個關鍵點是我們常常搞不清楚這是一般選民的發言,還是是一個付費後的發言,等於網軍的傑作,這是整個英國當時國會討論的核心,美國的做法在2019年開始,主要沿著是第二條在走,因為第一條要全面性禁止政治性廣告的話,言論自由會受到挑戰。
接下來要討論美國政治廣告之來源揭露問題,針對美國政治廣告揭露的核心母法是在2002年BCRA政治獻金法的母法,他要求第一個是所有的政治廣告必須揭露背後資助者和製作者,如果是電視上至少出現四秒,且字體不得小於百分之四,廣播至少要三秒,他有一個較嚴格的門檻。第二個是不只來源揭露,他會認為所有的選民或是一般人民去買廣告一年花超過一萬美金,本身需與聯邦選委會(FEC)揭露,美國在一開始母法設計就有基本的核心思考是來源跟資金要雙重透明化。後來這個管制在2016年的選舉完全失靈,因為會有一個很大的問題是,2002年法律想到指是大螢幕,所以當時管制的主要是電視、報紙廣播跟雜誌,對於線上這塊主要文字寫的是非常模糊。
後來2016年時開始做進一步做了幾個修正,第一個是如果是線上的話,候選人或政黨自己的官網需揭露,不能讓人民以為只是一般的人民之聲。第二個是同時發送超過五百個的群組Email,如果是政黨或政治人物發的,超過五百封就需揭露,這個是政治資訊。第三個是要求付費的線上廣告需揭露,這是美國在2006年本來對於線上的管制做的第一次修正。後來,揭露是有原則必有例外,事實上聯邦選委會認為所有政治廣告雖然要揭露,線上廣告在剛剛哪幾種狀況也要揭露,但有兩種情形是可以不必揭露的。第一種情形是如果是小物品(small item),譬如是鉛筆或一個鈕扣,不太可能在揭露是誰出資或製作的,第二種是impractical item,像是像噴水池大大的噴了一個R或飛機噴霧,這種現實上不可能揭露,這是有兩種例外。
接下來美國的科技巨擘那三大就開始操作這個例外,Facebook、google search、twitter、一般手機的簡訊主張小物品或impractical item,FEC是六個委員,民主黨會有三個,共和黨會有三個,但是會要求做成諮詢意見時必須要多數,至少要四票,不管是Facebook、google search、twitter會是三比三或二比四,基本沒辦法被認定,因為廣告字數少,不太可能揭露,他們都被定為small item不用被揭露,2000年美國開始有大量的匿名廣告,2010年美國FEC完全把線上廣告解釋為small item,所以從2011年開始美國大量線上政治廣告又全部陷入匿名化的狀態,這就是整個漏洞的來源。
在2018、2019年美國國會提出誠信廣告法草案(Bill Honest Ads Act, HAA),他要求所有付費的線上通訊,把一般人與付費講話區分,一般人依照自己想法發聲是言論自由,如果是付費就需揭露,必須要有一個揭露的指標,網站的話或是科技巨擘的話只要一個月流量有超過五千萬人,或是一個人一年開支超過五百塊美金購買線上廣告就需揭露,他的核心目的是避免外國政府或外國公司透過美國匿名方式,達到干預美國選舉,透過國外的資金流改變美國公民審議的資訊流,最後干擾美國選舉,所以他是想從源頭將政治資金透明化,才能坐後面分流的管制。HAA會有些問題是,第一個還是有死角,只能管制付費言論,有的時候縱使是付費揭露,人們還是會相信,如果繼續相信robots或是酸民帶出的言論或風向就無法管制。第二個就是HAA始終無法分清楚是或清楚定義的是,什麼是商業言論什麼是政治言論,這條線始終畫不出來,傳統我們會有個想像是,如果是商業那塊會屬類似美國類似我國的公平會管理,但政治言論是傳統是歸FEC管,但接下來就會有爭議的是打擦邊球,曝如主張減稅到底是商業言論還是政治言論,會打在很多邊緣地帶,所以HAA是沒辦法處理這個問題。
接下來是2011年開始FEC長期是沒辦法管制,內部的僵局將其認定是small item後,HAA到現在還沒有通過,但很多選民非常憤怒,2016年年底後很多選民認為他的選舉被偷走,所以他們給那三大科技巨擘非常大的政治壓力,要求這三個公司雖然法律、FEC還沒辦法管制,但是如果自己不做,大家開始要做出刪除等動作、政治運動已經開始。Facebook、Google search、twitter自己做出三種自治的動作:
第一個是Facebook的做法是,從2018年開始要求只要在臉書下政治廣告,之前一定要經過身份認證(Authorization),只有實名制。
第二個是所有的政治廣告後面一定要有免責聲明(disclaimer),一定要寫誰出錢、誰製作。
第三個是成立Ads Library,他可以點出從2018年五月之後七年內所有的政治廣告,不管是誰下的、下了什麼主題、下廣告的時間、總共播了多長、有哪些人點閱、在哪些地區點閱,這都是可以查出的,Facebook 是自己做出這樣的透明化。
第二塊是Google search,他主要核心是在兩塊,第一個是成立Disclosure & Transparency Report,這公佈的非常徹底,是一個exile檔,下載後可以計算誰買了廣告、什麼樣廣告、主要是什麼議題、從什麼帳戶出來。第二個是Google search聲稱從2019年開始他的micro-targeting精準鎖定,他認為他只會基於三種分類下廣告,第一個是Geographic location地理與疆界,第二個是Age與Gender年紀與性格,第三個是在特定的脈絡下,且該脈絡會被揭露,所以Google search的做法是自我限縮micro-targeting範圍跟數據透明化,他自我標榜是想要這樣管制。第三種是twitter,他是做最徹底的,從2019年11月開始所有的政治廣告他一律不收,完全禁止這些東西,只是twitter後來面對很大的挑戰是如何認定是政治廣告,政治廣告與社會倡議、商業言論的界線應該怎麼認定,目前Twitter的挑戰在此。
十字路口:線上政治廣告之管制模式
最後回到台灣,呼應邱老師先前所講,我們在這次所提出的白皮書的一些修法清單或立法清單:
第一個是在AI時代下我們的政治獻金法一開始的定義,在政治獻金的想像一開始要求都是經濟利益,在希拉蕊與川普的選舉中,會發現譬如像黑資料、駭客,很多時候有高度的政治利益而且是市場買不到的,因為我們經濟利益是市場上買得到,而且是有一定的金額,但這個東西無金額且無法計算,在捐獻上是否要死守經濟利益或市場價值的定義,這我們可能要檢討。那穆勒報告在這塊大部分下不起訴,但他也指出立法漏洞在這個地方,因為美國也是限於經濟利益。
第二個是我們的政治獻金法跟美國一樣有要求是,外國人民或宗教團體是不能捐錢的,尤其在候選人這塊,但是台灣的問題是空有規定無法落實,所以變成政治獻金法第7條跟公民投票法第20條如何落實,變成是我們要落實禁止規範的前提是要透明才有禁止的本能性。
第三個我們要修正的是,當時在台灣立政治獻金法時,本來有學美國要求選民只要每年捐助超過十萬台幣,獨立性去外面買廣告,就要自我揭露,但是台灣現在的狀況是在二讀被拿掉,所以我們現在看到一堆廣告看板下面都寫關心市政的小市民,全部是匿名,且選民不需向中選會揭露,因為台灣政治獻金法的管制模式,只管制政黨候選跟政治團體如果有收錢或花錢必須揭露,至於選民自己如何買廣告並非管制範圍,所以無法釐清是真的是關心市政的小市民,還是中國人或日本人,管制上因為不透明政治獻金第7條與公民投票法第20條無法落實。
第三個是我們在選舉罷免法第51、52條要求所有廣告需具名,條文中是報紙、雜誌跟其他大眾媒體,對網路是放鬆管制或是無管制,完全是回到叢林法則,所以回到避免匿名廣告的攻擊,我們必須從大螢幕走到小螢幕,才能因應AI時代的變遷。第四個是公職人員選罷法有規定每天早上七點到下午十點才能做競選活動,顯然不現實,PTT、Facebook、Twitter或是Google每天24小時都在打選戰,而且我們是規定選舉前十天才能動員,事實上在網軍攻殺上,其實天天都在打選戰,所以變成政治獻金法跟選舉罷免法還留在以前樁腳那種陸軍的動員,電視、報紙、廣告大螢幕想像的選舉,其實跟現代選舉已經非常脫節,所以在AI時代或是大量機器手臂、機器帳號可以開始自動推文的時候,我們在選舉法規必須做通盤式、清單式的檢討,這是我最後的結論。
問題與討論(敬稱省略)
李建良:
謝謝柏良的報告,這也是全球性進行中的問題。現在我國的選罷法、政治獻金法一定程度跟不上時代,或是跟不上非理性影響我國選舉的決定,反滲透法是不是一定程度解決一些問題,他的標的雖然是敵對國家,是不是一定程度可以處理部分問題。至於我國內部的網軍等等這又是另一個問題,剛剛看到報告的最後想到這個問題。
陳柏良:
簡單回應一下李老師的問題,穆勒報告最後的修法的建議清單,穆勒報告上冊最後的第四、五頁,他其實修法清單分成兩塊,第一個就是外國代理人法怎麼處理,第二個就是政治獻金法怎麼修正,不管是外國代理人法或是政治獻金法,穆勒報告要求或是建議都是透明化,2016年的選舉為什麼過去就有管制模式窒礙難行,是因為司法單位在迷霧中,搞不清楚網路上的發話者為何人,還有是哪些金流在支撐,穆勒報告的第一塊花了很多力氣在推外國代理人法怎樣進一步的收緊,和定義、司法方式如何進一步的作準界定,第二塊就是政治獻金法,穆勒報告的兩個部分李老師講的是第一塊,我今天討論較多的部分是第二塊,其實這兩塊是相輔相成的,等於是兩邊都同時做到透明化,才會做到國內選舉不會受到外國政府的干涉,或是科技公司疏於管制後,網路酸民或暴民如何跟外國政府互相起哄,最後導致整個民主思辯程序及審議精神最後被打亂,所以李老師完全看到這個點。
邱文聰:
我們這個月的主題應該是AI與政治參與,柏良從政治獻金與政治廣告的角度談穆勒報告、劍橋分析事件,嘗試描述的AI可能在政治產業上的景象,或是影響評估在描述上會長怎樣,我想再往前推進,除了柏良所談的從政治獻金與政治廣告這兩個角度來思考AI對於政治參與的影響之外,我們有無可能或有沒有需要再思考之後AI更直接介入政治參與的可能性,包括他可能不再用廣告形式,而是用app的形式,直接每一個公民在政治參與上的中介,或是建議的參考,再往下一AI有無可能作為政治的代理人或是甚至會變成是候選人,這樣場景可能的出現是我們現在要如何去因應或是如何去思考,可能會是在談AI在政治參與的影響問題上面是必須要去準備要預想的,因為從政治獻金跟政治廣告是我們現在擁有的兩種工具,但這兩種工具有辦法因應我剛所指出的,未來產生的影響衝擊嗎?
陳柏良:
謝謝邱老師,我先從第一題開始答,第一題是AI也可能成為很強的中介,不只是潛移默化的影響我們的政治選擇,甚至會推薦我們候選人,事實上美國已經有人在討論這個問題,就像紐約時報、華盛頓郵報、fox電視台在選舉前也會擁護特定的候選人,在類比上,AI與傳統大眾媒體再做資訊媒介時,以前我們會假設報紙會報導完全中立客觀的新聞或是店,後來我們發現報紙、電視媒體也有自己的立場,甚至是理想上的立場,甚至是偏見的立場都有,這兩個到底可否類比,也就是AI或是Google、大的科技公司做資訊串流及中介時,跟傳統媒體是否應用同種專業倫理的規範管理,不管是自律或他律,目前 我看到的是Facebook、Google、Twitter自己的標榜與定位不同,如果是Facebook、Google不承認他是媒體,Google會認為自己只是搜尋引擎,排列資訊而已,Facebook只認為自己是社交網站,所以媒體自律或媒體自我管制、倫理規範,他覺得完全不需被這些所拘束,反而Twitter比較承認自己是自媒體,所以廣告管理等Twitter會抓得比較嚴,因為Twitter會類比自己為過去大螢幕的Max Media,所以邱老師在討論這議題,會變成下一個問題是,我們變成不只是透明化,不只是政治廣告、政治資金的揭露,下一步我們在套用此工具不足時,應用什麼工具彌補,有人提出是過去傳統媒體管制方式再修正,這是第一種。第二種模式是要把所有的科技巨擘必須像傳統的受任人義務(Fiduciary Duty),他會認為科技公司掌握這麼多數據,不管是串流或是個人數據,他必須負起類似公司董事的受任人義務(Fiduciary Duty),如何具體化並未找出明確解法,只是一個概念。
第二個問題是從弱AI轉變成強AI,甚至成為代議士,不管是代議士的助理做實質的工作,或是AI自己出來競選,目前AI自己出來選選罷法會卡得比較緊,但重點是我們在代議士或政府官員他們的實質決策模式或是政治平衡的點,以前是透過人來做平衡,會不會用AI來做要如何管制,這會牽涉到一個核心問題,不管是陪審團或法官的類似問題,法官在做審判都有一樣的問題,最後再做決定就是心理學的黑盒子,如果用AI另一個黑盒子取代,就像是黑盒子換黑盒子,這會出現什麼問題,會有一個有趣的類比,目前我也沒有答案。
楊岳平:
剛剛受任人義務(Fiduciary Duty)的比喻,聽起來有點不適當,因為我們講的是受任人義務較接近委任關係中受任人要為委任人盡到一定的注意義務、保護義務這種類型,大概可以理解他想比喻的是我把我的數據交給你,你就像是我的受任人,我就像是你的委任人,這點我同意,但是受任人對委任人到底負什麼義務,通常我們說的是要為委任人的利益行事,但我們現在要求的似乎不是這樣,我們現在要求Google、Twitter做的事似乎不是你拿了我的資料,你要為我做最大利益的行事,好像不是,好像是某種公共利益,所以我會覺得這個比喻不是這麼妥當,但我大概理解他的邏輯,我會覺得提出這個比喻的目的不是保護個資本人,而是為了政治親民、民主政治這種公共利益,更多是為了公共利益非個資權人的利益,我聽完這比喻覺得更像是公司社會責任,而非傳統的受任人責任。
在這基礎上我有個相關的問題,我可以理解我們要利用這三大公司或是其他公司(例如:YouTube)來踐行我們想要做的公共義務,第一個我不確定是否從憲政角度是合理的事,只是因為他大或是近水樓台就要負責將我們的民主政治親民些,我不太確定這個正當性,這直接讓我聯想到洗錢防制的行為,我們認為因為銀行手上有很多資料所以我們讓銀行來做洗錢防制,即使洗錢防制對銀行一點好處都沒有,但我們就是要交給銀行實行,因為銀行是最接近這些資料的人,最省力,相對的成本就是由銀行負擔。我想問的問題是如果Google、Twitter、Facebook他們執行我們要求他們要做的這些事,他將會承擔的成本會是多少,譬如他要推動政治廣告實名制,他要去調查實名的人嗎,洗錢防制法在要求銀行法遵的實名制是十分嚴謹的,所以成本很高,但不知道要求Google的嚴謹度是否要到這個程度,如果有到這種程度,成本是否為他們自身吸收,可以想像會有一種反競爭效果,其他類似想要做類似業務的平台,會在新創階段停止在這些法遵業務上,會有一些反競爭效果,我不太確定我們在想像Google因為最接近這些資訊而要接收這些業務的同時,有沒有想過這類的成本效益分析。
陳柏良:
簡單兩個回應,第一個是受任人義務的問題,他確實強調的不是個人利益比較像是公共利益的問題,只是他當時為何會提這個概念,是因為他想透過集體訴訟這塊去凸顯這三大科技公司到底違反什麼義務,因為科技公司可能會抗辯為什麼要去做法規明文規定以外的事,他想借普通法受任人義務的概念,我的理解是應該想放在消費者團體訴訟這塊當作攻防武器,確實是有岳平剛剛講的問題存在,其實他的文章也有承認,很多事情無法扣上,非憲法學者能力所及。
第二個是成本效益分析,這段時間我有在研究這三大公司與美國國會的關係,在2019年穆勒報告正式發布前,國會透明化實名化的政策與法案主要阻擋的力量是來自那三大公司沒做,但在2019年後風向改變,三大科技公司積極在推動,之前是因為三大公司自己不做,所以大力阻擋立法通過,之後是因為市場壓力大、消費者團體的壓力大,所以三大公司就開始實行,這時三大公司就覺得憑什麼只有我三家做,故他們想進一步積極維護壟斷地位,乾脆要求法規將標準拉到那裡去,才能鞏固既有的市場優勢。
邱文聰:
我補充受任人義務的部分,他提這個的概念有一個背景,傳統對於使用ADI或是三大家數據的巨擘,我們對付的方式都是採取侵權或契約較個人的方式來課責,當然會造成很多困難,他的思考是說何不從公害角度思考這些問題,把他們製造的東西當作是他們產生的外部性,既然要處理外部性,我們就可以反過來要求說要有受任人義務,不要因為想要獲利而製造外部化成本,他是從這個角度來談,運用在演算法時,當演算法運用產生很多歧視性後果,不需要透過侵權這是一個侵權行為所以要求負擔損害賠償,反而是在前面要求需負擔受任人義務,來減少AI運用上所產生的騎士結果,他的角度是從公害來思考。我自己是覺得,去處理外部性的問題,除了用看起來有些弱的受任人義務之外,其實也有其他法律工具,譬如像是成立一些補償基金,環境法上、藥害救濟上、勞工法上也有先例,其他法治中治理外部性的問題有很多其他的工具可使用,那是否在AI或是數據資料領域、言論管制領域運用,也許有可能性,但有點超過今天討論政治議題的範圍,以上補充。
李建良:
柏良談的議題很多放在政治獻金和政治性廣告,用「廣告」這個詞來形容這些問題,我在想是否應換成其他詞,我們現在在講的就是一個資訊戰,所以廣告反而會被窄化,譬如剛剛舉了很多當時川普和希拉蕊陣營在對抗時,那些不一定都是廣告,要如何讓問題跟全面。有個實際性的問題是「被害人」的概念,有什麼機制可以處理這樣的問題,或是有義務可拘束,整個資訊戰當中的「被害人」到底是誰,是個人、群體,譬如選舉如果放在這個脈絡下來看的話。「被害人」這個要素丟進來,到底誰要進來對被害人提供保護?對象是在三個科技巨擘中提供相關機制,或是有公民訴訟的可能性。另外的可能性是國家介入的問題。柏良提到很多政治獻金的問題,其實是國家管控問題,對所謂的「被害人」不會受到太大的影響,這個問題可以做延伸思考。