人臉辨識技術之風險與管制:微軟企業觀點
  • Post category:News
  • Post author:

◎ 陳箴(倫敦政經學院法律碩士、漢堡大學法律經濟分析碩士)

2018年12月,微軟總裁Brad Smith在微軟部落格上呼籲各國政府要開始立法管制臉部辨識技術的使用。他同時強調,企業也必須先開始擬定使用該技術的內部規範,不該等著政府立法。因為,人臉辨識技術固然能帶來許多福祉,例如尋找失蹤兒童以打擊人口販賣,辨識已故軍人,辨識罕見基因疾病,提款機用人臉辨識增加安全性等,但是也潛在許多危機。Smith提出了三項臉部辨識技術需要管制的理由:防止偏見與歧視、保護人民的隱私權、保護民主自由與人權;並且進一步提出如何管制的建議。本文以下摘要其觀點。

為何政府必須立法管制人臉辨識技術?如何管制?

Image by Peggy und Marco Lachmann-Anke from Pixabay

一、防止偏見與歧視

在研發技術的階段,由於人臉辨識技術尚不成熟,技術可能提供有偏見的結果,造成違反反歧視法的決策。例如研究顯示目前人臉辨識技術對於女性與有色人種有較高的辨識錯誤率。他相信一個健全的市場機制可以鼓勵技術的進步以消除該問題,然而認為目前的市場並不健全。許多企業不願意讓第三者去測試他們的人臉辨識技術是否有偏見的風險,或是批評測試結果有瑕疵。這樣的資訊不對等會造成購買該技術的人無法判斷哪家的技術錯誤率比較小,使得業者有較小的誘因去提升其技術以獲取更訂單或是更高的售價。

政府有兩種管制方法:一、要求透明化資訊:要求業者提供文件解釋其產品的能力與限制,讓消費者有足夠資訊去判斷。二、允許第三方進行產品測試與比較:要求業者提供獨立第三方進行技術測試與公開測試結果。例如要求人臉辨識業者在網站上提供聯絡資訊與可供測驗的軟體。

縱使技術的純熟可以挪去偏見衍伸的歧視問題,濫用技術仍可能造成歧視的結果,因此政府也需要針對此風險進行管制。他建議兩種管制方法:一、要求人類實質審查:對於濫用技術會造成高危害的案例類型,應立法要求使用該技術的機構不能單仰賴電腦做決定,而必須由人類審查該技術所產出的結果後做最終決定。二、課予技術使用者最終法律責任:讓技術使用者明白他們有義務避免濫用技術進行歧視。

二、保護人民的隱私權

美國於1890年代的隱私權運動,是因為可以瞬間拍照的相機技術的發明而開始的。而人臉辨識技術不只是拍照,更能夠辨識並且記錄一個人的行蹤與行為。例如一家百貨公司業者可以從過去你造訪所觀看購買的商品紀錄中,預測你這次可能會買什麼。這項服務可以提升消費者逛街的經驗,並不需要立法禁止,然而應立法規定業者必須在使用該技術時先告知人們,並且明定消費者若進入有告知只用該技術的場所,就視同消費者同意該技術的使用。如此,消費者有選擇權,可以決定是否進入有人臉辨識技術的場所。

有消費者保護團體主張法律應該有更多規範,例如歐盟規定資料的使用只能在公告的目的內,以及給予個人去取得予修改其個人資料的權利。然而,Smith認為應該先嘗試最基本的規範,再從經驗中決定是否需要進一步的規範。

三、保護民主自由與人權

臉部辨識技術的某些用途可以提升公共安全與提供更好的公共服務,但同時存在侵犯基本人權的風險,因為政府也可以用這項技術連續監控任何人。在大規模監控下,民主的核心基礎—人們能選擇在公開或非公開場所集會與討論觀點的自由也將遭到侵犯。民主是建立在人們可以自由行動且不受政府時常監控的能力上。

Smith主張,國會應立法限制政府使用臉部辨識技術監控特定人,且僅在下列兩種情況例外允許:一、政府取得法院許可使用該技術監控特定人。法院是否准許的標準可以參考搜捕令的做法。然而可能會比搜捕令多出一些可以許可的狀況,例如協助尋找失蹤人口。二、有急迫危險可能致死或重大傷害的緊急狀況。

微軟企業自身的作法

Image by Efes Kitap from Pixabay

在文章中,Smith同時公開微軟經過六個月的討論所擬定的內部規範,總共有六大原則。這些原則基本上跟Smith給予政府的建議相仿。以下簡述之:

  • 致力於研發公平的人臉辨識技術並幫助顧客正確使用該技術以維持其公平性。例如讓顧客測試他們使用該技術的情境下技術的錯誤率。
  • 公開說明產品的能力與侷限。
  • 鼓勵與協助顧客使用該技術時達到適當的人類審查。
  • 於服務條款中明訂禁止使用該技術進行歧視。
  • 鼓勵顧客使用該技術時告知並取得他人的許可。
  • 拒絕提供產品給我們認為該技術之使用方式會侵害人權或民主自由的顧客。

2019年,微軟基於人權考量拒絕提供警方其技術。目前仍持續遊說國會通過新的隱私法案The new Washington Privacy Act。


資料來源