淺談Shaun B. Spencer「The Problem of Online Manipulation」一文

◎ 顧長芸(中央研究院法律學研究所)

*本文經授權轉載自中研院法律所資訊法中心,2020/09/04發佈
*本研究感謝中央研究院「資料安全研發及人才培育計畫」及「中央研究院法律學研究所資訊法中心」支持

內文

Spencer於本文將操弄定義為,操弄者有意圖藉由剝削個人偏見或弱點,影響個人行為並破壞其決策過程,且其操弄機制是向個人隱藏。基於網路操弄(online manipulation)的事實認定與規範上之困難,Spencer主張,網路操弄應視為個資利用所造成的傷害之一,為避免數位時代所可能造成的其他未見的傷害,應從個資法的角度,針對資訊流動的整體進行管制。

Spencer指出,操弄的銷售技術早在數位時代之前就已經存在。認知與社會心理學指出個人形成判斷與做出決策,可能受到直覺、慣性、偏差、自動行為模式等影響。由於行銷的主要目的為說服或操弄個人進入交易或購買商品,而其通常涉及對人情感之操弄達成。早在數位時代前,銷售者便透過廣告內容、定價策略與服務、產品標示與環境擺設等造成認知或心理偏差之設計,與消費者以直接且一對一的互動,達成銷售目的。

而在當前數位時代的操弄,主要為針對使用者網路行為的針對性廣告技術;消費者在此為透過他人所設計之科技而進入市場的中介消費者(mediated consumer),因此讓銷售者得以記錄下消費者所有的互動,並同時設計消費者如何與其網站互動。數位時代的行銷,針對從單一網站或搜尋結果、而未蒐集個資的脈絡化廣告(contextual advertising),發展到剖繪個人網路行為以提供高度個別化之網路行為廣告(online behavioral advertising),其透過連結客觀人口學特徵(objective demographic characteristics)與抽象特徵(abstract characteristics),例如性別、年齡連結到所屬群體的興趣、意見等,以此做為判斷特定群體是否可能購買的心理變數(psychographic)結果。EU Commission於2016年已就銷售者剝削弱點的行為驅動(behavioral drivers)模式進行研究,並列舉銷售者試圖剝削消費者處理複雜資訊的有限能力,使得消費者難以了解產品或服務的真正成本的銷售方式。而透過臉書流出的內部文件,也證明臉書透過監視年輕使用者的貼文、照片、互動等即時網路行為,其微針對性廣告(micro-target ads)已可在個人情緒低落的「當下」,提供特定內容廣告,影響消費者。甚至,銷售者也可透過剝削的方式影響使用者對於隱私的保護,像是剝削使用者的認知偏差而於預設時給予低程度之隱私設定,或透過剝削使用者的隱私疲勞(privacy fatigue),提供看似有益於使用者、但實際上卻難以使用的複雜隱私工具,而讓使用者隨著時間暴露更多個人資訊。

Image by Mehmet Turgut Kirkgoz from Pixabay

Spencer認為「即時性」為未來數位時代之特徵,除可進入到針對使用者個人情緒層級做出回應的服務之外,更可進入到觸發個人原有之偏差或弱點的地步。儘管每個人都有認知或心理偏差,但基於個人經驗不同,銷售者將可以即時性的發現個人弱點,變更行銷內容與網站架構,甚至引發或加重個人弱點,其方式與當前相似,即透過特定行為界定其弱點、找出誰有這些行為、並針對個別客戶設計並剝削。即時識別透過說服剖繪(persuasion profiling)的不同與認知型態(cognitive styles)的差異,可動態的給予個人不同的網站內容呈現。而Amazon針對情緒偵測並提出相應情緒之廣告行銷、Google可針測負面情緒提供建議、IBM則有可幫助搜尋引擎依照使用者當下情緒狀態提供搜尋結果的程序、臉書可預測個人立即自殺風險等各大公司的專利申請,未來將可針對個人進行動態情緒定位(dynamic emotional targeting),即時剝削個人的偏差與弱點。Matz等人透過臉書之實驗已經證明個人在經過依其個性之針對性廣告,將可有效增加商品銷售率;甚至,將可創造個人弱點並剝削之,例如利用自我耗損(ego depletion)在個人自我控制最薄弱時給予廣告,或如臉書利用News Feed功能影響個人情緒。

Spencer指出,若要以法律規範網路操弄,則必須明確定義操弄的概念與內容,以及操弄足以產生何種傷害而進行規範,Spencer以各法學者對操弄的定義作為基礎來分析操弄概念的意涵。Susser、Roessler與Nissenbaum三位學者指出,說服(persuasion)、操弄(manipulation)、欺騙(deception)與強迫(coercion)等影響技巧有程度上的不同。強迫為公開的限制他人選擇,而操弄為隱密的破壞其有意識決定之能力;欺騙則是讓人有錯誤認知,而操弄則是不影響其信念但剝削其偏差與弱點;說服被視為坦白地訴諸自我決定之能力,而操弄則是繞過個人自我決定之能力。Susser等人將操弄定義為向對象隱瞞、試圖剝削對象的認知、情緒或其他決策弱點並且針對在這些弱點上;但Susser同時也注意到,由於後兩者對操弄的定義並非必須,且剝削對象決策弱點且針對這些弱點,實際上是操弄者在對個人進行秘密影響之手段,故Susser等人將操弄簡單定義為向對象隱瞞。

Sunstein則將操弄定義為一宣稱或行動未能有效地(not sufficiently)引起或訴諸對象的反省或深思熟慮;但以此定義,將幾乎涵蓋所有範圍,法律因而僅針對謊言、欺騙進行規範,而難以有效規範操弄。Sarsky與Sunstein有類似的定義,並指出當消費者受到特別設計之行銷與廣告利用其弱點而佔其便宜,其所做出的行為很可能並非消費者原欲選擇的,而應給予其獨自反省的機會。Calo則認為操弄涉及針對個人傾向使其行為不理性,並剝削這些傾向而獲得其個人利益來影響個人。Posner則將操弄定義為藉由狡猾的、不公平或暗中的手段,控制或玩弄以獲得個人自身利益,操弄者在此知道個人有不正確之預期而不糾正,或期待並利用個人做出不正確推論的傾向而獲利。Becker & Feldman提出,賣方知道其弱點且用以剝削、其有獲利動機、在有必要時忽略對方利益,並且此與其產品無關、也非行銷的副產品的剝削手段,再加上買方不知情,則此情況是為操弄。

透過上述各法學者對操弄的理論定義,Spencer綜合整理出操弄的特徵:首先具有繞過對象理性決策過程,或未能有效引起個人理性;其次,操弄者要有意圖,讓個人行為不理性或從個人不正確的推論中獲利;第三,但對於操弄是否為隱瞞的,Susser等人認為操弄必須為對個人隱瞞的,而Sunstein則認為有些明顯對個人呈現的事物也可以是操弄,對此,作者指出,操弄所要隱瞞的是其操弄的機制,因此,只要個人不知道如何或為何受其刺激,則其決策能力即被破壞,故,操弄也可以是可見的。綜上所述,Spencer將操弄定義為一意圖試圖影響個人行為,藉由剝削其偏見或弱點;操弄者要有意圖並要破壞決策過程,剝削個人決策弱點;要有弱點或偏差;而其操弄的機制是隱藏的。

但是,進行操弄並不等同於就須被管制,其必須要成傷害。而Spencer指出操弄造成傷害的四個原因,首先,操弄損害個人決策而傷害個人自主;第二,操弄將讓人選擇與其偏好不同之結果,導致結果無效;第三,在民主脈絡下,傷害民主審議;第四,操弄將個人視為達成目的之手段,傷害個人尊嚴。而網路操弄,企業可以捕捉與保留個人互動、設計如何以及何時與個人互動,再加上透過大量資料蒐集、複雜分析且極個人化,將使得網路操弄更具傷害力。行銷人可能會以過去普遍使用之散點操弄(scattershot manipulation)的方式,其操弄結果會對部分人有效,但並非所有人有效,而網路操弄也僅是針對有效的那一部分人而已,因此不需進行規範,作為反對對網路操弄進行規範的理論基礎;Spencer針對此反論指出,此理論忽略數位的特性將使個人化成為可能,網路操弄皆以個人行為資料而針對特定個人,並且繞過其理性決策,因此網路操弄比起現有之網路行為廣告,即透過個人行為資料影響個人所見之廣告,更具威脅。作者進一步指出,針對網路操弄的規範設計,必須針對其可能剝削個人或消費者的偏見或弱點,影響者要有此意圖,並且是為了影響者之的市場利益等三個特性。

但是,Spencer指出,直接規範網路操弄將必須解決六個關於線上操弄的定義問題。首先,要定義偏差與弱點,由於每個人認知與心理狀態不同,因此同一種操弄可能不會對每個人都有一樣的影響;若從其特定而言,繞過個人反思能力,或單就某種刺激可以影響某些特定人群,做為繞過反思能力的定義,都過於廣泛。其次,要定義商人具有剝削弱點的意圖,但作者指出,僅使用A/B測試,便可達到銷售目的,而無須刻意研究或知道弱點為何,而在不知個人弱點的情況下,規範此網路操弄也無意義,並且聰明的操弄者會將其操弄的弱點或特性,隱藏於A/B測試脈絡之下。第三,必須要定義影響者如何針對消費者弱點,狹義定義利用使用者先前行為資料,但Spencer認為,當前多數操弄並不仰賴個人網路行為回應資料,而是以揭露個人特質或認知型態的剖繪資料,對個人進行操弄;因此,Spencer指出,此處應廣義定義,即當行銷者決定提供客戶基於其個人之資訊時,便預設了修改此資訊的同時就是知道個人會受到影響,但此無法知道是何種特定的偏差與弱點,因此僅能規範潛在的操弄。

第四,作者認為,操弄與傷害的因果關係的建立,極為困難,因為每個人都有不同認知特質與經驗,不一定受同一種刺激而影響;並且,難以證明個人在不受影響下不會購買此項商品;倘若排除兩者須具有因果關係之要件,將會一併排除私人訴訟的可能性,因為會缺少當事人提告之適格性,而行政單位執法的正當性也被削弱。第五,須克服實際執法的挑戰,由於操弄預設當事人不知情,因此,個人無法察覺其背後的操弄機制,並且對每個人都有特定個人化內容的同時,儘管可以透過假帳號等來測試網站,但也僅能發現一小部分操弄的性質,而無法發現操弄的機制。第六,作者指出,直接規範網路操弄,勢必會面對憲法第一增修條文的挑戰。以Sorrel v. IMS Health一案為例,美國佛蒙特州(Vermont)禁止藥師未有個人同意下販賣可識別之個人處方資訊,並且禁止藥師與藥廠在未有個人同意下提供行銷利用;而聯邦最高法院認為,限制行銷但未限制其他目的利用,不足以宣稱政府保護此類資訊,並且僅限制行銷,使得該法基於內容與講話者進行限制,即便該法並非限制保護言論,仍須受憲法第一增修條文之審視。若適用Central Hudson 測試,反對者或可將操弄視為一種誤導消費者之形式,而反對規範操弄;在此測試之下,若言論為合法行為而非誤導的話,則政府應證實對其之規範為具有政府之重大利益、直接增進政府利益且未涉及必要範圍之外。但,作者引用Calo之敘述,認為操弄實際上逾越了Central Hudson的範圍,因為操弄並非試圖誤導,而是誤導即為操弄之重心所在,Calo以Ohralik v. Ohio State Bar Association為例,最高法院指出,州律師不得當面招攬客戶(in-person solicitation),因此將會使潛在客戶無法透過關鍵性比較其可行性、性質、價格與服務等內容,損害個人告知與可靠之決策;Calo指出,網路操弄等同甚至超過當面招攬客戶,因而應屬於Central Hudson之誤導,而應進行規範。

Photo by NeONBRAND on Unsplash

綜上所述,Spencer指出,若直接以法律規範網路操弄,將會攻擊到錯誤的問題。而網路操弄的真正問題在於其網路之應用,此為個資利用傷害的一種;個資利用傷害還包括令人容易分心的彈出廣告、針對性廣告更個人化更具侵略性、預測性分析預測個人的點擊與傾向等等。因此,Spencer認為,與其規範網路操弄之單一傷害,不如作為完整規範個資分享生態系統(data sharing ecosystem)的理由,即對蒐集、儲存、分享與利用等階段進行規範。限制蒐集,儘管無資料便無法利用,但會限制商家後續包括了解其客戶之各種利用;限制儲存,不得儲存超過交易或互動時間的資料,讓其擁有短時間內的資料而未能進行分析,但也因此同樣限制商家後續了解其客戶之利用;限制與第三人分享,此可限制即時利用使用者剖繪的操弄,並限制資料掮客(data broker)建立大量使用者剖繪的疑慮,但大企業便不受此限制,因其得以自己蒐集足夠之資料;Spencer指出,最有效的方式為禁止分析工具的即時應用所必須的自動化處理,即應限制行銷者在決定針對特定客戶之分析工具的即時自動化應用,雖然大企業在純脈絡化廣告(purely contextual advertising)下可同樣用自己的資料分析而佔有優勢,但作者認為,此優勢為從以前便被大眾所接受的方式。並且,就管制層面而言,由於行銷者偏好採取通知與同意(notice and consent)及選擇退出(opt-out)的方式,而即便採用選擇同意(opt-in)方式,作者指出行銷者也可以促使使用者同意;因此,作者認為最佳的管制方式應為建立責任或直接禁止,而無關乎使用者同意與否。

最後,Spencer認為,就實際立法層面而言,將網路操弄視為個資法傷害中的一種,其好處在於,可給予建立完整個資保護法前所未有的推力,並可使個資法更為完整,同時提供擴充個資法保護的政治討論,因為通過單一網路操弄法案難以吸引大眾注意,而且如本文所述的直接規範網路操弄的難度過高更重要的是,完整個資法相較於單獨規範網路操弄法規,較不受美國憲法第一增修條文之挑戰。因此,Spencer將網路操弄傷害視為個資法的一部分,為實務上最好的解決方法。

評論

Spencer以操弄作為一種自古以來皆有的行銷手段作為出發點,探討現今如何以法律來規範網路操弄的問題。影響者有意圖、了解個人弱點與偏差、透過隱藏之操弄機制來剝削或利用個人弱點與偏差,即符合Spencer對操弄的定義。

然而,探討操弄概念最特別的地方在於,似乎大眾普遍性地認為並非所有操弄的行為都不被允許,也就是說在某種程度上,操弄是可以被接受的。例如Richard Thaler與Cass Sunstein的輕推(Nudge)概念,採用相似的手段,但立足點為有利於使用者,似乎是可以被接受的;又或是從影響個人自主的程度著手,如Robert Baldwin所分類的三種程度之輕推,將其區分成不同等級,最輕微的第一種程度之輕推,也似乎未有不可。但是,手段與目的間差異的重要性,在此卻被忽略:是否只要能達成目的,任何手段都可被允許?倘若,任何手段都可被允許,是否代表沒有任何限制?而「以利用個人認知或心理偏差的方式」作為手段,來達成目的,我們又能如何劃出此種手段應有的限制範圍?這些似乎是在採用操弄作為手段之前,所必須回應與釐清的問題。

網路操弄如Spencer所述,已從群體行為找出個人特質之操弄,邁入以個人自身行為資料為基礎的預測性分析以及動態情緒回應的極度個人化設定,其對個人影響之程度,已遠遠超過網絡時代前的行銷方式,而其對個人造成之傷害遠比對個人之利益來的顯著。對網路操弄的規範在不久的將來,也將勢必成為立法者所必須面對的重要課題。


資料來源

Shaun B. Spencer (2020) The Problem of Online Manipulation. University of Illinois Law Review, 2020, no.3, pp.959-1006.