◎ 韓其珍（中研院法律所博士後研究學者）

背景

試想一下，當有一天你打開FB，發現有人傳了一個性愛視頻給你，打開之後發現主角正是你，但你根本不記得自己有做過這場愛，你是否會很害怕？

過去你可能會懷疑是自己得了健忘症，或是卡到陰，又或是開始相信宇宙出現平行時空。但是，現在可能有第三個更真實的原因——這是一個假視頻！

去年（2020年）媒體就曾報導，多位網紅出面指控網路上出現多個她們的假性愛影片，並為此困擾不已，由於當時還未追查到影片的製作者，媒體報導便流於娛樂新聞。直到今年10月19日媒體再次報導，網紅小玉以“Deepfake”程式，將多名藝人、網紅，甚至是政治人物的臉以AI技術深度偽造到AV女優身上（因為像是把AV女優的臉挖掉，小玉在群組稱此為「挖臉」性愛影片，故媒體取名「挖臉謎片事件」），再將這些造假的性愛影片透過Telegram群組販售，受害女性預計超過百人，不法獲利所得預估超過台幣上千萬元¹，從此挖臉事件從娛樂新聞一躍而成嚴肅並具修法議題的社會新聞。目前檢方依小玉涉嫌《刑法》第235條第1項之散布、播送及販賣猥褻影像物品罪及妨害名譽等罪，諭令以50萬元交保候傳；後又因小玉無法湊齊50萬元交保金，而降至30萬元交保候傳²。前述新聞逐一暴發，挖臉迷片事件受害的女性公眾人物眾多，因此多日來佔據新聞頭條，民眾始開始關注挖臉技術“Deepfake”，以及日漸容易取得的“Deepfake” APP所可能帶給社會及人類的風險。小玉為求私利，用AI的“Deepfake”技術製作以假亂真的性愛視頻，傷害多位女性的名譽及身心，其主觀惡性不可謂不重大。然目前現行刑法並無專門就此不法行為進行專文規定，亦沒有罪刑相當的刑罰規範，依現行刑法，小玉的行為僅涉嫌構成散布、播送及販賣猥褻影像物品罪、妨害名譽等輕罪。為此，受害女性及台灣社會的修法聲浪強烈，認為應盡速將“Deepfake”等以AI技術進行的人體圖像合成影片、音檔、照片等（如：合成假的性愛影片、合成假的裸體照等）行為修法，以期能有效管制及抑制未來AI科技在合成影像領域的可能犯罪。

其實，幾年前的美國就曾出現多起以Deepfake製作假視頻並將之散播、傳播的事件。在2016、2017年時，“Deepfake”程式逐漸在社交網路上流傳，近年甚至花10塊美金不到就能購買下載Deepfake APP，由於APP價格低廉又容易取得，從而假視頻到處流竄，甚至接連傳出美國前總統川普、一般社會名流、影視明星等，其臉部被移花接木並製作假視頻的新聞³，比如：將某女性政治人物的臉“挖”到AV女優身上。也曾出現過將本尊沒說過的話進行合成，比如：Deepfake程式製作歐巴馬“罵”川普的假視頻。這些真假難辨的假消息，造成跨越國界、甚至是跨越出網路的真實世界，造成可能隨處都充斥著虛假或誤導性信息的社會亂象，對國家安全帶來巨大的隱患。是以，美國民眾要求盡速以聯邦立法的形式禁止假新聞、假視頻的聲浪強烈，亦有國會議員努力推動立法，然而至今依然進度緩慢。眼看聯邦立法緩慢，在2019年到2020年間，美國的維吉尼亞州（Virginia）、德克薩斯州（Texas）和加利福尼亞州（California）率先在周內修法及立法，規範Deepfake的虛假言論和虛假淫穢內容任意傳播的禁止。維吉尼亞州（Virginia）修改其原有的Revenge Porn Laws，將原有對復仇色情（Revenge Porn）之規定：「未經個人同意（Nonconsensual pornography）而分發個人的性或色情圖片（包括未經同意拍攝的圖像或經同意拍攝但後來未經圖像中的人同意而分發的圖像）」，加入「分發個人被deepfake的性或色情圖片、影像檔案」之不法行為⁴。德克薩斯州（Texas）則專門立法禁止以Deepfake技術製作假視頻以企圖影響選舉的行為。加利福尼亞州（California）則是對虛假色情視頻和可能影響選舉的兩種行為皆立法以禁止，惟後者存在日落條款規定。

所以，話又說回台灣，現在問題來了，若台灣欲立法管制Deepfake，則應該管制其技術設計的開發商，還是一般以Deepfake APP製作、傳播虛假影像、視頻的使用者？還是兼而管之？若是立法或修法將Deepfake技術進行規範，那麼應該以刑罰規範或是以民法侵權行為請求損害賠償為宜？

DeepFake究竟是什麼？

“Deepfake”的技術目前中文翻譯為「深偽技術」或「深度偽造」，是將英文“deep learning”（深度學習）和“fake”（偽造）兩詞混合而成的新詞彙，專指基於AI（人工智慧）人體圖像合成技術的應用，此技術可將已有的圖像或影片疊加至目標圖像或影片上。⁵因此，可以扭曲又極具說服力的以AI技術創建視頻、音頻和文本，可以使這些被創造出來的視頻、音頻和文本的內容看起來像是真實發生的事情⁶。其詳細的運作方式是通過從數百萬個數據點中提取信息來學習人們的面部表情和動作，然後該程式的內部演算將欲替換成者的表情無縫定位到其他被替換者的身體上⁷。比如，今天的公眾人物都曾拍攝照片或影片並將之上傳至網上，AI便可從網路上自動收集他們的臉部特徵及表情，並在放到任何其他人的身體上後，AI會自動演算出目標公眾人物的頭銜接在另一個身體之後，並自動生成可搭配另一個身體的動作時其面部表情的模樣，Deepfake最後製作出來的視頻、錄音、照片令公眾人物說出或做出他們實際上根本沒有做過的事情。因此，若是在網路上曾上傳過越多視頻或照片的公眾人物，其可被生成的假視頻就會越“真實”，這也就是說，越有名則風險越大！

令人更加擔憂的是，AI技術、Deepfake深度偽造技術會不斷地自我學習，透過不斷的自我學習，將使被創造出來的虛假視頻、音頻和文本的內容越發的真實並真假難辨。也就是說，越多虛假音頻、圖像、視頻被製作出來，將助具有自我學習功能的AI Deepfake技術不斷“成長”，深度偽造技術將更加“進步”，從而更加“擬真”！

Deepfake 一詞首先出現在社交媒體平台 Reddit 上，當時Reddit上的一個賬戶（用戶）以“Deepfakes”為名，在其帳戶開始製作假色情視頻名人，其他人通過編寫允許任何人將某人的臉貼在另一個人的身體上的軟件來利用該技術⁸。儘管 Reddit發現這件事情之後很快地關閉了此帳戶，並刪除編寫軟件和發布深度色情偽造的程式，但損害已經造成。更令人憂心的是，由於AI的進步，“Deepfakes”的技術在近幾年之間更加的擬真，造成更大的“眼見不一定為憑”的隱患。

不過，Deepfake的發展也不完全僅是沒有價值的，在好萊塢（Hollywood）拍攝的電影中，運用大量的Deepfake的AI技術，協助存在巨大風險難度的場景製作，讓真人的演員不再需要冒巨大生命危險以進行拍攝，並且，Deepfake技術也可用在製作更加擬真的AI機器人的製作中。

DeepFake相關事件

1. 關於名譽

就如前文所述，Deepfake 最早出現在Reddit ，當時因為名為“Deepfakes”的用戶開始製作假色情視頻，其他人通過編寫允許任何人將某人的臉貼在另一個人的身體上的軟件來利用該技術，復又透過網路的傳播，假照片被迅速的流傳開來，儘管 Reddit 迅速感受到事態的嚴重，並即刻結束了這個編寫軟件和發布深度色情偽造的程式，但損害已經造成，Deepfake 技術在網路上被高度宣傳，並在虛假色情視頻中找到了歸宿⁹，這項“技術”令社會名流深受其害，比如網路上都曾傳播以Deepfake技術製作出Emma Watson（艾瑪·華森），Natalie Portman（娜塔莉·波特曼）， Michelle Obama（蜜雪兒·歐巴馬）等人的“Deepfake性愛影片”。不過，明星及政治人物被製作假的性愛影片，較容易透過自身的影響力而自我澄清。但若是一般社會大眾，被他人以打擊報復的心態製作假的性愛影片和圖像，並在網路上不斷傳播，想必所受到的身心傷害是無比巨大的！

當挖臉性愛影片發生在一個非公眾女性身上時，這件事情就真的非常嚴重了！Rana Ayyub是華盛頓郵報的印度記者和意見專欄作家，她曾臥底報導印度古吉特拉暴亂中的教徒屠殺，揭露此事件中政府官員的黑幕和不作為，自此報導刊登之後，她便收到不計其數的死亡威脅，甚至還有許多以Deepfake製作出來她支持強姦女童的假視頻，以及以她為主角的偽造性愛視頻，以打擊報復她的報導。這些用Deepfake技術製作出來的假視頻令Rana Ayyub困擾不已，雖然她不斷透過自己的Twitter澄清，但事情卻反而越演越烈，她的家人和朋友會詢問為什麼她會遭遇到這些事情，當她看到自己的假性愛視頻後會難過到不斷嘔吐，她無助的只能哭泣¹⁰，因此她只能到醫院去請求醫生的幫助，以祈能緩減自己的身體、精神和情感傷害¹¹。

2. 關於假新聞及國安

除了製造假視頻以打擊報復他人，造成被報復者（尤其是女性）心理上的巨大傷害，並且損及他人的名譽及信譽，然而，更令人擔憂的是自2016年美國總統選舉以來，有心人士用Deepfake技術製作假視頻和假新聞，這些音頻、視頻透過網路、聊天軟件等迅速傳播，造成在選舉期間網路上的假視頻和假新聞四處傳播，成為打擊政敵、抹黑對手的利器。近年不斷有學者指出，美國2016年的總統選舉以及和其後的多場競選皆深受其害，證據是在2016年的大選剛結束後，接受調查的美國人中有23%表示，他們錯誤地和故意地分享了捏造的政治故事¹²。復又根據麻省理工學院發表對於就假消息、假新聞的分析故事的影響力調查，他們將10多年來300萬用戶在Twitter上發布的約 126,000 個新聞故事進行分析，最後得出的結論是：「一個捏造的故事被1,500人轉發了6次比真實故事傳播更快，亦更具影響力。」¹³

美國2016年的總統大選之後，川普於2017年正式就任第58屆總統，不久後網路上就出現一支歐巴馬罵川普是“徹頭徹尾的蠢貨”的視頻。在傳播此視頻之初，由於對deepfake技術的不了解，許多人都信以為真，並且隨即轉傳，直到相關技術人員出面澄清此視頻是以AI技術深度偽造的成果，人們才逐漸意識到Deepfake技術足以以假亂真的潛在風險，而這個假視頻所引起的國際騷動，更可見使用deepfake深度偽造技術來操縱輿論的潛力。

這兩年復有學者表示，俄羅斯長期以AI技術製造以假亂真的影片製造假消息、假新聞，以打擊國內、外政治異己，AI人工智慧本來是為服務人類生活而存在，但現在已淪為有心人士操弄輿論的工具¹⁴，甚至是已經影響到國家安全。漸漸地，人們開始提醒自己「眼見不一定為憑」。

DeepFake的巨大利益

Deepfake的利益是巨大的，這個利益可以分為合法的商業利益和不法的所得。就如前文所介紹，Deepfake運用在電影的後期製作和特效上的商業價值不斐，不僅可以提升電影中所需特效的逼真感，降低替身代換演員時的違和感程度等等，這些都是AI深偽技術帶給社會大眾和經濟領域的正面價值。然而，Deepfake在不法用途上亦帶給不肖份子鉅額的暴利，這也是讓許多不肖人士繼續鋌而走險的原因，除了此次挖面性愛影片的首謀小玉的不法所得上看千萬，就在上個月（10月）的日本，日本警方也因43歲的中本（Nakamoto）在線銷售挖臉性愛影片，並出售以AI技術還原A片中依法應被模糊處理的男性生殖器的影片而被逮捕¹⁵，其不法所得約為1,100 萬日元¹⁶。

美國經驗及立法模式

從2016年開始，Deepfake技術越來越容易取得，時常付10塊美金不到的價格，就能下載Deepfake的App（「應用程式」或稱「應用軟體」），隨後便能不限場地、不限次數的進行假視頻、假圖像製作，隨著AI技術的進步，假的影片和假音頻可能都到了以假亂真的地步。並且因為年輕人對網路的依賴，隨時下載之後製作的假視頻，很可能透過任何社交軟體再轉傳出去。

從社會名流的假性愛影像，足以打擊個人名聲，再到假新聞，甚至可能危害國安問題，美國2016年的總統選舉中，雖然代表民主黨及共和黨參選的候選人，不斷的向自己的支持者及社會大眾發出警告，表達自己受到假新聞和假視頻抹黑的證據，美國國會議員及各州政府不斷的在討論以立法禁止和規範假視頻和假新聞的傳播。

只是，為達到禁止以Deepfake技術製造假視頻的繼續隨意傳播，可從兩方面著手，第一，從Deepfake的製作技術（也就是開發商端）進行規範，以禁令規定不可任意賣給他人使用。第二，督促Facebook、IG等社交網站肩負起禁止假視頻流傳的責任。第三，從Deepfake的使用者方面禁止，禁止使用者在未經同意的情況下散播變造的假視頻。

由於Deepfake技術也並非僅只有缺點，此技術也為娛樂產業帶來相當大的技術性突破，因此對於開發商以禁令規範生產及銷售對象，並不是有效且可行的辦法。而早在2017年開始， Reddit、Twitter、FB等社交媒體平台均相繼承諾肩負起網路安全的責任，對於製作、傳播的用戶進行關閉，然而視頻在網路傳播的速度實在太快。再者，對於Deepfake製作幻想的行為與美國憲法第一修正案所保護的言論自由之間尚存討論空間，直到現在以聯邦立法禁止製作“挖臉謎片”等相關行為，卻依然只聞樓梯響卻不見法下來，目前美國是以各州立法，禁止隨意傳播、轉傳挖面視頻等假視頻的行為。

美國對Deepfake的立法規範走向，後文從聯邦立法及州立法兩方面介紹。

1. Deepfake虛假言論和淫穢內容 v.s 美國憲法第一修正案

以Deepfake技術製造的假視頻，無非關係到虛假言論和淫穢內容，這就與美國憲法第一修正案之間有關了。

美國憲法第一修正案原文：

“Congress shall make no law respecting an establishment of religion, or prohibiting the free exercise thereof; or abridging the freedom of speech, or of the press; or the right of the people peaceably to assemble, and to petition the Government for a redress of grievances.”

憲法第一修正案禁止美國國會制訂任何法律以確立國教，妨礙宗教自由，剝奪言論自由，侵犯新聞自由與集會自由，干擾或禁止向政府請願的權利，是美國權利法案中的一部分，使美國成為首個在憲法中明文不設國教，並保障宗教自由和言論自由的國家。不過，第一修正案雖然保障言論、宗教、新聞、集會和向政府請願的權利等五項自由，但是欺騙、詐欺並沒有推進關於公眾的激烈辯論問題，不具有任何憲法價值，所以不被第一修正案所保障¹⁷，淫穢言論亦沒有獲得第一修正案的保護¹⁸。然而，美國卻也有很多極具藝術價值的電影或是畫作，都與性、情慾分離不開，這些有強烈的性、情慾的電影卻也成就了藝術的成果，並以這些成果為依託而與觀眾的精神層面進行對話，比如：色、戒（Lust, Caution）；情人（L’Amant）¹⁹。因此，檢視“淫穢”的標準至關重要。面對deepfake的挖臉性愛影片、性愛圖片，目前多數的美國學者認為這是一個“把性幻想變為現實的技術的結果”，面對人的性幻想並不應該是民法侵權和刑罰規範的對象，也就是說，侵權學說和現有的Revenge Porn Laws復仇色情法規並非旨在解決將一個人的性幻想變為現實的技術的後果²⁰。

2. 聯邦立法——停滯不前

在2018年時，參議員Ben Sasse是第一個提出聯邦deepfake深度偽造法案的國會議員，然而他提出的法案已經到期，隨後國會議員Yvette Clarke提出較為大眾流傳的法案，然而在這些被提出來以侵權行為法或刑法等實體法禁止deepfake的法案中，尚未通過相關的法案。

3. 各州立法先行——Virginia、Texas、California

(1) 維吉尼亞州（Virginia）

美國維吉尼亞州（Virginia）修改其原有的Revenge Porn Laws，將原有對復仇色情（Revenge Porn）之規定：「未經個人同意（Nonconsensual pornography）而分發個人的性或色情圖片（包括未經同意拍攝的圖像或經同意拍攝但後來未經圖像中的人同意而分發的圖像）」，包括分發個人被deepfake的性或色情圖片、影像檔案。由於屬於刑事輕罪規定，任何未經許可或同意創作或分享（散播）他人的以deepfake技術製作之色情影片或照片，都將可能致被判處12 個月的監禁和2,500 美元的罰金。不過值得注意的是，該維州該法律通過明確免除互聯網服務提供商對用戶發佈到其網站的深度偽造的責任²¹，其與《通信規範法》第 230 條對互聯網服務提供商（ Internet Service Providers ，簡稱ISP）責任豁免的規定相同，是重疊的豁免。《通信規範法》（The Communications Decency Act）是 1996 年通過的一項美國聯邦法律，用於規範互聯網上的色情內容，根據該法案第 230 條（Section 230 of the Communications Decency Act），互聯網服務提供商 (ISP)並不被視為其用戶發布的內容的發布者，因此，由個人用戶發布的色情內容與網站和服務提供商沒有關係，除非違反版權法或其他聯邦刑法，否則網站和服務提供商沒有刪除未經同意的色情內容的法律義務，亦非屬非共同創建者，因此亦不為用戶發布的內容承擔法律責任。

(2) 德克薩斯州（Texas）

2019 年 9 月 1 日，德州成為美國第一個通過法律以禁止用Deepfake製作、傳播出於政治目的，並旨在傷害公職候選人和影響選舉結果的視頻的州。相較前述維吉尼亞州對Deepfake的立法目的在於禁止「未經許可或同意創作、分享（散播）他人的以Deepfake技術製作之色情影片或照片」，以打擊色情的Deepfake為立法主要目的。德州則是針對Deepfake（深度虛假視頻）以人工智能以欺騙為目的，製作虛假視頻以達到影響選舉結果的政治目的處罰。深度虛假視頻應罰的理由是，視頻似乎描繪了一個真實的人在做一個現實中沒有發生的動作，以欺騙的方式影響選舉的行為。違反前述規定屬於刑事輕罪，可能判處監禁和4000美元的罰金²²。

(3) 加利福尼亞州（California）

除了前述的維州和德州，由加州議會通過、州長簽署的兩項法案AB 602和AB 730，均於 2020 年 1 月 1 日生效。相較維州以修法的形式，針對杜絕以deepfake技術傳播色情，德州立法針對影響選舉、影響政治的deepfake處以刑罰，加州通過的這兩項法案，則兼而有之的明確禁止使用deepfake操縱選舉和色情傳播的行為。不過，值得注意的是，加州對deepfake的色情和政治影響的傳播是以民事侵權行為規定，受害者的救濟是採侵權行為的救濟。

AB 602針對Deepfakes 和色情內容，並規定被害者對造假色情視頻提出訴訟的兩個理由：（1）在該人知道或理應知道被描繪者不同意創建或公開的情況下，卻創建並故意披露色情材料；或是，（2）該人故意披露並非自己創作的露骨色情材料，並且知道其中的被描繪者不同意該材料的創作。所謂的被描繪者是指作為（電腦）數字化的結果，似乎正在表演他們實際上並未表演或正在被改變的進行表演的個人。成功的原告將獲得：（1） (a) 因deepfake而直接造成的經濟和非經濟損害，包括精神痛苦，或 (b) 至少 1,500 美元但不超過 30,00 美元的法定損害賠償，或者，若該行為是惡意，最高150,000美元；（2） 懲罰性賠償；（3）律師費和費用；（4）禁令救濟。²³

AB 730規定對影響政治運動的 Deepfakes，AB 730 修訂了California Elections Code（加利福尼亞州選舉法），以禁止個人、委員會或其他實體以實際惡意在選舉期間並在選舉後 60 天內分發選票上候選人的“實質性的欺騙性音頻或視頻媒體”，意圖損害候選人的聲譽或欺騙選民投票支持或反對候選人。 “具有實質性欺騙性的音頻或視頻媒體”包括故意操縱候選人的圖像、音頻或視頻記錄，這些圖像、音頻或視頻記錄會 (1) 使一個有理智的人假裝是真實的，並且 (2) 會導致一個有理智的人有一個根本不同的如果他們聽到或看到內容的未更改的原始版本，則對表達內容的理解或印象。受影響的候選人可能會尋求禁令救濟，或者可能會針對傳發的人尋求一般或特殊的損害賠償。候選人承擔舉證責任，應通過明確和令人信服的證據確定違規行為的責任。

然而，AB 730有兩點值得注意，第一點是AB 730對廣播、電視廣播電台、互聯網網站在通常情況下是免責的。 第二點是本法案存在日落條款，定於2023年1月1日日落，此後將不再有效。

結語：Deepfake在我國的立法思考

這次發生在台灣的「挖臉性愛影像」事件，被害人除涉及多位明星、網紅，甚至還包括總統在內的政治人物，所以此次挖臉性愛影像事件從本來的社會事件，一躍而成了社會政治事件。各方都極力呼籲應當盡速修法，有立委和市議員主張未來將朝向於《刑法》第10條第8項增訂性隱私影像之定義，並於刑法增訂法規，保障人民性隱私權²⁴。被害者對自己的臉部被張冠李戴，並因為真假難辨的視頻讓自己被家人及社會大眾誤會，這些所帶給受害者的困擾和傷害，甚至是憤努，都是可想而知的。但是，畢竟修正刑法是一件極需理性的決定，除了從台灣的國情參考立法目的，亦需要以比較法的視角檢視挖臉性愛影片的法律責任問題。並且，若是對挖臉性愛影片科以重罰，則與挖臉影片出於同樣的以AI的Deepfake技術製作的其他虛假言論和假新聞，是否應該一併納入《刑法》第10條為考量？然而目前我國對於散布假消息的刑罰處罰，分為對個人、對候選人、對疫情等等，有些行為雖不致構成刑罰卻也可能依社會秩序維護法第63條第5款行政罰，惟我國目前對以deepfake傳播不實視頻或信息的立法形式沒有一個統一性、系統性的規定，是否妥當值得深思。再者，美國社會從2016年就發生多起deepfake事件，其內部對於用聯邦立法處罰的聲浪極高，然而立法的速度卻非常緩慢，其中基於美國憲法第一修正案的人權保護與立法禁止之間的拉扯，亦是現在亟欲修法將傳播deepfake假視頻入刑的我們亦應該理性思考的。

挖臉性愛視頻事件是一定必須處罰的，在新的時代就會面臨到新的挑戰，訂定相應的對策並完善相關的修法（甚至是立法），都是我們這個世代不可迴避的責任，甚至不僅是Deepfake亦包括所有AI人工智慧，在快速的技術發展之餘，需要的是法律約束其道德底線。只是究竟應當採美國加州的立法模式，以民法的侵權行為規定，還是如維州以刑法輕罪的方式處罰，其中的取捨尚須國人理性及冷靜思考。

2016年時，Deepfake技術的換臉技術還需要人工自己去比對換臉對象和AV女優之間的脖子粗細（因為不能差太多），但短短的5年中，AI的技術已發展到可以自動學習、自動校正，AI已經可以自行從眾多的AV女優中自行尋找合適的身體以匹配，並且數位技術的不斷提升，讓這些假視頻、假照片有更加真假難辨的趨勢。總之，在冷靜思考如何立法以應對AI技術之時，我們也別忘記不斷關注AI的進步速度，別讓人類智慧跑輸人工智能，也不要讓真實的美麗在Deepfake扭曲卻極具說服力的視頻、音頻和文本之前敗下陣來。