制圖：馮婧

圍繞人臉識(shí)別技術(shù)有諸多討論：它的識(shí)別準(zhǔn)確性如何？數(shù)據(jù)會(huì)“歧視”哪些群體？作為敏感信息，“人臉”是如何存儲(chǔ)的？使用后，數(shù)據(jù)會(huì)被銷(xiāo)毀嗎？

經(jīng)過(guò)六十年的發(fā)展，它不再是加州一間小辦公室里技術(shù)探索者的古怪實(shí)驗(yàn)，人們?cè)噲D去理解，“黑箱”里有什么。

“越來(lái)越多人開(kāi)始關(guān)注，算法如何利用我的數(shù)據(jù)來(lái)定義我，它將如何影響政府和商家，他們會(huì)以此做出哪些關(guān)于我的決定”，長(zhǎng)期關(guān)注數(shù)據(jù)法的研究者安巴·卡克（Amba Kak）在接受澎湃新聞（m.nxos.com.cn）專(zhuān)訪時(shí)這樣表示。

卡克是紐約大學(xué)AI Now研究中心的全球戰(zhàn)略及項(xiàng)目總監(jiān)，今年9月，他們發(fā)布了一份報(bào)告，梳理全球范圍內(nèi)人臉識(shí)別技術(shù)引發(fā)的爭(zhēng)議，并評(píng)估了現(xiàn)有數(shù)據(jù)保護(hù)法及相關(guān)條例的效力，報(bào)告提出，仍有諸多問(wèn)題未能得到有效回應(yīng)，即便是被稱(chēng)為“史上最嚴(yán)格數(shù)據(jù)保護(hù)法”的歐盟《通用數(shù)據(jù)保護(hù)條例》（GDPR）。

澎湃新聞：談?wù)勥@份報(bào)告的緣起吧。

安巴·卡克：差不多一年前，我們啟動(dòng)了這個(gè)項(xiàng)目。當(dāng)時(shí)我們能感受到，世界范圍內(nèi)，圍繞生物識(shí)別——特別是人臉識(shí)別，各種討論達(dá)到了高峰。熱度既來(lái)自這項(xiàng)技術(shù)的大規(guī)模應(yīng)用，也暗含人們對(duì)它的擔(dān)憂(yōu)。人們期待，能有更針對(duì)性的法律規(guī)范這項(xiàng)技術(shù)。

實(shí)際上，全世界范圍內(nèi)，大約有130個(gè)國(guó)家擁有數(shù)據(jù)保護(hù)法，它們都涵蓋了生物特征數(shù)據(jù)，一些地區(qū)有更針對(duì)性的法律，比如美國(guó)伊利諾伊州的《生物識(shí)別信息隱私法》(BIPA)、歐盟的《通用數(shù)據(jù)保護(hù)條例》（GDPR）。但深入研究，這些法律條文仍有局限，比如，它們?nèi)匀粺o(wú)法有效解決人臉識(shí)別技術(shù)的準(zhǔn)確性、數(shù)據(jù)歧視等問(wèn)題。

這份報(bào)告收錄了8個(gè)來(lái)自世界不同地區(qū)的案例，我們希望梳理目前生物識(shí)別技術(shù)在應(yīng)用中的諸多困境。

澎湃新聞：人們對(duì)于人臉識(shí)別技術(shù)的擔(dān)憂(yōu)似乎存在一些地區(qū)差異，比如，美國(guó)的研究和行動(dòng)者聚焦在種族歧視問(wèn)題，人臉識(shí)別技術(shù)對(duì)于少數(shù)族裔的誤識(shí)率很高，當(dāng)它應(yīng)用于警察執(zhí)法會(huì)造成偏誤。而中國(guó)更關(guān)注數(shù)據(jù)隱私和安全性等問(wèn)題。

安巴·卡克：確實(shí)有差異，但我認(rèn)為，其中存在共性。

先談“歧視”，很有趣的一點(diǎn)，談及這個(gè)詞，很多人第一反應(yīng)是種族，特別是美國(guó)，如你所說(shuō)，目前很多研究都集中在這一領(lǐng)域，它確實(shí)引發(fā)了一些誤捕事件，所以才有了之后許多城市的禁令，警察執(zhí)法不得使用這項(xiàng)技術(shù)。

但“歧視”還會(huì)涉及更多群體，比如女性、老年人。舉個(gè)例子，我來(lái)自印度，2009年印度政府啟動(dòng)了Aadhaar項(xiàng)目，計(jì)劃為11億人口建立一個(gè)生物特征數(shù)據(jù)庫(kù)，每個(gè)公民的指紋、虹膜，甚至人臉信息都將納入其中，作為公民身份的唯一標(biāo)識(shí)符（編者注：identifier，指用來(lái)標(biāo)識(shí)某個(gè)實(shí)體的一個(gè)符號(hào)，來(lái)源于計(jì)算機(jī)編程語(yǔ)言），與教育、醫(yī)療、保險(xiǎn)、金融等社會(huì)生活的方方面面綁定。

Aadhaar的初衷之一是為了減少社會(huì)福利的冒領(lǐng)、漏洞，減少中間環(huán)節(jié)，避免因官員腐敗，救濟(jì)無(wú)法到達(dá)需要的人手中。但很快人們發(fā)現(xiàn)了各種問(wèn)題。許多底層勞動(dòng)者由于長(zhǎng)期勞作，指紋嚴(yán)重磨損，難以被識(shí)別，無(wú)法獲得救濟(jì)。

Aadhaar打造了一套唯一身份系統(tǒng)，但這些群體卻被排斥在外。除此之外，Aadhaar計(jì)劃還有很多問(wèn)題，比如數(shù)據(jù)安全，我們的報(bào)告中也有一章專(zhuān)門(mén)講Aadhaar計(jì)劃。

或許相較于“歧視”，更準(zhǔn)確的詞是“排斥”（exclusion），如果你生活在一個(gè)人口結(jié)構(gòu)并不那么多元的社會(huì)，種族歧視似乎離你較遠(yuǎn)，不如想想排斥，你是否被某種系統(tǒng)排斥在外了。

Aadhaar計(jì)劃建立了一套生物特征數(shù)據(jù)庫(kù)。圖片來(lái)源：Getty

澎湃新聞：比如數(shù)字鴻溝也會(huì)造成排斥？新冠疫情期間，中國(guó)的“健康碼”發(fā)揮了很大作用，但對(duì)于一些不習(xí)慣使用智能設(shè)備的群體，他們的生活也遇到了障礙。

安巴·卡克：沒(méi)錯(cuò)。幾乎每個(gè)地區(qū)都有數(shù)字鴻溝，可能是某些地區(qū)的網(wǎng)絡(luò)覆蓋率有限，也可能是某個(gè)人群不習(xí)慣使用智能設(shè)備。

Aadhaar使用唯一識(shí)別碼（UIDAI）與社會(huì)福利綁定，可以追問(wèn)兩個(gè)問(wèn)題，涉及到社會(huì)福利領(lǐng)取這種社會(huì)基礎(chǔ)服務(wù)時(shí)，是否可以保留其他“低技”的、非數(shù)字化的方式？技術(shù)的初衷是為了提高效率，但對(duì)于某些群體而言，它恰恰起到了相反作用。另一個(gè)問(wèn)題是，當(dāng)個(gè)人對(duì)識(shí)別結(jié)果存疑時(shí)，是否有申辯機(jī)制？

澎湃新聞：人臉識(shí)別的準(zhǔn)確性引發(fā)了各種討論，技術(shù)供應(yīng)商往往宣稱(chēng)很高的準(zhǔn)確性，但一些獨(dú)立測(cè)評(píng)顯示，對(duì)于某些群體誤識(shí)率更高，可以對(duì)準(zhǔn)確性提出“行業(yè)標(biāo)準(zhǔn)”嗎？報(bào)告中提到了一點(diǎn)，立法者開(kāi)始意識(shí)到需要對(duì)技術(shù)供應(yīng)商進(jìn)行審查，如美國(guó)國(guó)家標(biāo)準(zhǔn)技術(shù)研究院（NIST）會(huì)設(shè)置基準(zhǔn)，他們有自己的數(shù)據(jù)集，可以進(jìn)行獨(dú)立測(cè)試。

安巴·卡克：是的，比如NIST的“2019人臉識(shí)別供應(yīng)商測(cè)試”（Face Recognition Vendor Test，F(xiàn)RVT），它會(huì)評(píng)估同一個(gè)算法對(duì)于不同人群的表現(xiàn)。 

值得注意的是，這套標(biāo)準(zhǔn)可能只適用于美國(guó)獨(dú)特的社會(huì)人口結(jié)構(gòu)，比如種族、年齡、性別等等。如果在亞洲、拉美地區(qū)，數(shù)據(jù)集和標(biāo)準(zhǔn)可能完全不同。

設(shè)置準(zhǔn)入標(biāo)準(zhǔn)是正確的方向，允許專(zhuān)業(yè)機(jī)構(gòu)對(duì)準(zhǔn)確性進(jìn)行評(píng)估。但目前，包括NIST等標(biāo)準(zhǔn)設(shè)置機(jī)構(gòu)在內(nèi)，他們提出的標(biāo)準(zhǔn)具有多大效力，學(xué)界也有不同意見(jiàn)。有研究者發(fā)現(xiàn)，一些已經(jīng)通過(guò)了標(biāo)準(zhǔn)測(cè)試的算法，在實(shí)操環(huán)節(jié)仍然低于預(yù)期。

2018年底，倫敦警方曾使用安裝有攝像頭的面包車(chē)來(lái)監(jiān)視街道安全，這在當(dāng)時(shí)引發(fā)民眾抗議。圖片來(lái)源：視覺(jué)中國(guó)

澎湃新聞：2019年舊金山提出人臉識(shí)別禁令后，多個(gè)城市紛紛通過(guò)了類(lèi)似的禁用措施，主要禁用范圍是警察執(zhí)法。最近波特蘭也提出，禁止私人公司在公共場(chǎng)所使用這項(xiàng)技術(shù)。有人擔(dān)心，一刀切式的禁止是一種“技術(shù)恐懼論”。

安巴·卡克：這個(gè)問(wèn)題非常有趣。

首先，媒體報(bào)道中使用了一個(gè)非常干脆的詞，“禁令”（Ban），但許多城市出臺(tái)的是類(lèi)似“暫停令”（Moratorium），暫時(shí)叫停這項(xiàng)技術(shù)的應(yīng)用，直到有更深入的研究，或更健全的法律，可以切實(shí)保障個(gè)人權(quán)利。

這一輪人臉識(shí)別禁用浪潮可能會(huì)造成一種印象——這是一個(gè)糟糕的技術(shù)，但我認(rèn)為，恐懼論會(huì)讓人們遠(yuǎn)離它，而非了解它。

這一輪禁令浪潮背后有很多討論會(huì)，有的由城市的市政部門(mén)組織，有的由公民團(tuán)體組織。很多人試圖去理解“黑箱”里運(yùn)行的技術(shù)——算法如何利用我的數(shù)據(jù)來(lái)定義我，并做出關(guān)于我的決定。

舉個(gè)例子，我們正在研究新冠疫情期間，全球的各種防疫軟件。中國(guó)有健康碼，用不同顏色區(qū)分你的安全級(jí)別，據(jù)我了解，持有綠碼者可以通行無(wú)阻，而紅碼就無(wú)法進(jìn)入某些地方。人們會(huì)關(guān)心顏色為何發(fā)生變化，如果它對(duì)我的判斷有誤，我能否挑戰(zhàn)它，為自己申辯？

類(lèi)似的討論在全球各處都能看到，越來(lái)越多，透明度和申辯機(jī)制都很重要。所以我并不贊同技術(shù)恐懼論，相反應(yīng)該鼓勵(lì)人們“打開(kāi)”黑箱。

澎湃新聞：目前，世界范圍內(nèi)，很多數(shù)據(jù)保護(hù)法都強(qiáng)調(diào)了“同意”的重要性，但這份報(bào)告似乎持有不同觀點(diǎn)，為什么？

安巴·卡克：是的，同意并不重要，或者說(shuō)，它并不如你想象中那么重要。

個(gè)人需要有知情權(quán)，了解數(shù)據(jù)具體的使用場(chǎng)景、使用目的，如何獲取、存儲(chǔ)、處理、銷(xiāo)毀。但“同意”并不等于你真的有選擇權(quán)。

現(xiàn)有的“同意”機(jī)制存在問(wèn)題，比如，當(dāng)你想要安裝一個(gè)App，手機(jī)會(huì)彈出的說(shuō)明框，你可以選擇同意，但如果不同意就意味著你無(wú)法使用這個(gè)App。不要對(duì)“同意”有什么浪漫化的想象，它不能保護(hù)我們的權(quán)益，相反，它可能會(huì)被惡意曲解為一種“授權(quán)”。

無(wú)論從技術(shù)還是法律的專(zhuān)業(yè)背景上，個(gè)人與科技公司都是不對(duì)等的，保護(hù)個(gè)人信息安全不該是個(gè)人的責(zé)任，而應(yīng)是政府的職責(zé)。所以相較于一個(gè)模糊而形式化的“同意”，政府需要更明確的法規(guī)，規(guī)定數(shù)據(jù)的獲取及使用。

人臉可以作為一種連接個(gè)體信息的標(biāo)識(shí)符，與消費(fèi)習(xí)慣、行蹤軌跡等互通。圖片來(lái)源：Flickr

澎湃新聞：最近，中國(guó)公布了《個(gè)人信息保護(hù)法（草案）》，并向社會(huì)征詢(xún)意見(jiàn)。有法律學(xué)者提及，需要限定人臉識(shí)別技術(shù)的使用目的，它應(yīng)該被應(yīng)用于身份驗(yàn)證，而非其他商業(yè)性目的，比如用戶(hù)畫(huà)像和精準(zhǔn)營(yíng)銷(xiāo)?！稓W盟通用數(shù)據(jù)保護(hù)條例》等法規(guī)中也提出了一些原則，比如“必要性原則”、“使用目的限定原則”，實(shí)際操作中，這些原則的效力如何？

安巴·卡克：可以拆分成兩個(gè)問(wèn)題。

首先要警惕一種簡(jiǎn)化的對(duì)比，認(rèn)為“識(shí)別”（Identification）是高風(fēng)險(xiǎn)的，而身份“驗(yàn)證”（Verification）是100%安全的，但就像我前面提到的那些因素，Aadhaar就是一種身份驗(yàn)證，但很多人無(wú)法識(shí)別指紋。

使用目的限定原則（Purpose-limitation Principle）非常重要。比如，我可以將我的個(gè)人數(shù)據(jù)放心交給住房委員會(huì)，因?yàn)槲仪宄麄儠?huì)如何使用我的數(shù)據(jù)。但如果數(shù)據(jù)泄露，或是被賣(mài)給了保險(xiǎn)公司，他們可能會(huì)對(duì)我做出判斷，比如拒絕為我貸款。

這個(gè)設(shè)想很好，但在執(zhí)行層面上看存在困難。如Google這樣的科技巨頭，業(yè)務(wù)涵蓋多個(gè)領(lǐng)域，彼此之間會(huì)不會(huì)進(jìn)行數(shù)據(jù)互通？比如，我的健康數(shù)據(jù)會(huì)不會(huì)分享給保險(xiǎn)公司，或者廣告精準(zhǔn)營(yíng)銷(xiāo)？所以實(shí)際操作層面，立法者、公民團(tuán)體或許需要做更多實(shí)踐。

澎湃新聞：報(bào)告中提到了一個(gè)有趣的案例，國(guó)際紅十字會(huì)在分配人道主義救援時(shí)使用了生物識(shí)別技術(shù)，但他們決定放棄建立一個(gè)中心化的生物特征數(shù)據(jù)庫(kù)。中心化的數(shù)據(jù)庫(kù)存在哪些風(fēng)險(xiǎn)？

安巴·卡克：新冠疫情期間，你能看到中心化的數(shù)據(jù)庫(kù)，針對(duì)防疫它很有效。但它又存在風(fēng)險(xiǎn)性。一是數(shù)據(jù)安全，當(dāng)所有敏感信息都存儲(chǔ)在一個(gè)中心化的服務(wù)器上，如果遭到攻擊，很容易危及整個(gè)數(shù)據(jù)庫(kù)。

第二層風(fēng)險(xiǎn)，我們稱(chēng)之為“蜂蜜罐”（honeypot），它與前面提到的“使用目的限定原則”存在沖突——將不同來(lái)源的數(shù)據(jù)整合，這件事情誘惑太大了。

這也是紅十字會(huì)案例中，人們的擔(dān)憂(yōu)：他們有必要使用生物識(shí)別技術(shù)，以提升發(fā)放救援物資的效率。但試想，如果你擁有一個(gè)關(guān)于難民的中心化的生物特征數(shù)據(jù)庫(kù)，會(huì)有太多力量想要訪問(wèn)這些數(shù)據(jù)。所以紅十字會(huì)通過(guò)技術(shù)手段，盡量減少生物識(shí)別技術(shù)的實(shí)際保留。

澎湃新聞：報(bào)告的最后一章提到了一個(gè)案例，紐約的一處公立學(xué)校，家長(zhǎng)們反對(duì)校方以安保為名使用人臉識(shí)別技術(shù)。針對(duì)這項(xiàng)技術(shù)的應(yīng)用倫理，社區(qū)在其中可以起到什么樣的作用？

安巴·卡克：我們想通過(guò)這個(gè)案例告訴大家，行動(dòng)是可能的。

這個(gè)案例中，家長(zhǎng)們討論的都是最具體的問(wèn)題，而不再是一些看起來(lái)時(shí)髦卻有些抽象的詞匯，比如隱私和監(jiān)控。孩子的日常生活會(huì)面臨哪些改變，是否有其他更好的方式使用這筆資金。

實(shí)際上，在全球關(guān)于人臉識(shí)別的討論中，我們能看到這種轉(zhuǎn)向，從抽象的概念走向具體的問(wèn)題。

再談?wù)動(dòng)《?。進(jìn)行國(guó)際比較時(shí)，我們發(fā)現(xiàn)，很難在當(dāng)?shù)卣Z(yǔ)言中找到一個(gè)詞匯來(lái)表達(dá)“隱私”，這個(gè)詞當(dāng)然是存在的，只是人們?cè)谌粘Ｉ钪泻苌贂?huì)用到它。當(dāng)你去問(wèn)一個(gè)普通印度人，“人臉識(shí)別攝像頭會(huì)侵犯你的隱私嗎”，或許他無(wú)法明白你在說(shuō)什么。

這份報(bào)告發(fā)布后，很多人會(huì)問(wèn)我，“你對(duì)我們國(guó)家的生物識(shí)別技術(shù)法律有什么建議嗎？”這個(gè)問(wèn)題太大了，不如看看周?chē)?，如就業(yè)、居住、子女教育，人臉識(shí)別技術(shù)對(duì)你的生活產(chǎn)生了哪些影響？你同意它對(duì)你的判斷和決策嗎？

（市政廳得到AI Now授權(quán)，近期將翻譯報(bào)告中的部分內(nèi)容，呈現(xiàn)不同城市的行動(dòng)與思考。）

制圖：白浪