近日，一款名為“ZAO”的換臉APP引發(fā)輿論關(guān)注。用戶上傳照片，就可以把影視劇主角的臉替換成用戶自己的臉。在過把“明星癮”的同時(shí)，也讓大眾關(guān)注到“換臉”帶來的個(gè)人信息泄露風(fēng)險(xiǎn)。

信息時(shí)代，“臉面”不僅僅是一個(gè)人的名片，刷臉打卡、刷臉登錄、刷臉進(jìn)站、刷臉付款……面部信息成為個(gè)人財(cái)產(chǎn)保險(xiǎn)箱的一把鑰匙。而一旦鑰匙掌握在別人手中，將會對個(gè)人財(cái)產(chǎn)安全等構(gòu)成極大威脅。

為此，《中國科學(xué)報(bào)》走訪了科研院所、人工智能（AI）科技企業(yè)，請技術(shù)專家解析以刷臉為代表的生物識別技術(shù)背后的安全風(fēng)險(xiǎn)，同時(shí)進(jìn)一步探索：應(yīng)如何設(shè)置保障措施，來應(yīng)對AI技術(shù)打開的潘多拉魔盒？

人眼難辨，造假越來越容易

“人工智能帶來的安全和隱私問題早已引起國內(nèi)外的關(guān)注，AI換臉只是最近出現(xiàn)的一個(gè)新例子而已?！敝袊茖W(xué)院院士、清華大學(xué)人工智能研究院院長張鈸開誠布公地說。

早在20多年前，基于三維模型的AI換臉技術(shù)已經(jīng)走進(jìn)研究領(lǐng)域，但換臉的效果不盡如人意。近年來，隨著生成對抗網(wǎng)絡(luò)技術(shù)的引入，換臉效果大幅提升，人眼已經(jīng)很難發(fā)現(xiàn)換臉痕跡。

換臉的本質(zhì)是面部生物信息在人工智能領(lǐng)域的應(yīng)用，此外，人類早已實(shí)現(xiàn)指紋、虹膜、掌紋、手形、靜脈、筆跡、步態(tài)、語音等生物信息的應(yīng)用。

但是，個(gè)人生物信息泄露引發(fā)的安全問題從未如此備受關(guān)注。談及原因，清華大學(xué)孵化的人工智能公司RealAI(瑞萊智慧)算法科學(xué)家蕭子豪表示，一方面，近年來大眾越來越關(guān)注個(gè)人隱私問題；另一方面，AI技術(shù)發(fā)展迅速，技術(shù)越來越成熟，效果越來越逼真，操作越來越簡單，使得應(yīng)用領(lǐng)域和場景越來越多。

“以前世界頂尖科研團(tuán)隊(duì)才能完成的‘換臉術(shù)’，現(xiàn)在尋常人躺在沙發(fā)上動動手指就能輕松實(shí)現(xiàn)，大大降低了造假成本?！?蕭子豪告訴記者。

北京郵電大學(xué)模式識別實(shí)驗(yàn)室教授鄧偉洪認(rèn)為，“ZAO”收集的人臉圖像和人臉生成技術(shù)如果被濫用，將會帶來極大的風(fēng)險(xiǎn)。

此前，鑒于對個(gè)人隱私獲取的擔(dān)憂，美國舊金山、薩默維爾市先后禁止人臉識別的應(yīng)用。

過度攫取用戶信息，濫用風(fēng)險(xiǎn)加劇

“ZAO”引發(fā)關(guān)注的另外一個(gè)重要原因是，該應(yīng)用中含有涉及個(gè)人隱私保護(hù)的“霸王條款”。

該APP最初的用戶協(xié)議規(guī)定，用戶自行上傳的內(nèi)容，一旦發(fā)布，平臺即默許已獲得用戶和影片原主人公的肖像授權(quán)，且ZAO及其關(guān)聯(lián)公司有權(quán)在全球范圍內(nèi)“完全免費(fèi)、不可撤銷、永久、可轉(zhuǎn)授權(quán)和可再許可”地使用、修改、編輯這些內(nèi)容素材。用戶如果不同意協(xié)議，便無法使用該APP。

該規(guī)定很快引發(fā)公眾對個(gè)人信息安全及隱私保護(hù)的質(zhì)疑。

與此同時(shí)，相關(guān)生物識別技術(shù)應(yīng)用需要用戶上傳越來越多的個(gè)人信息。以“ZAO”為例，該APP要求用戶提供個(gè)人高清圖片外，還要求上傳點(diǎn)頭、眨眼等活體檢測的視頻。

蕭子豪對記者說，軟件應(yīng)用開發(fā)方獲取大量的個(gè)人生物信息后，能夠豐富訓(xùn)練數(shù)據(jù)，用以模型優(yōu)化，可大大提高應(yīng)用精度和準(zhǔn)確率，進(jìn)而增強(qiáng)用戶體驗(yàn)，但這也意味著個(gè)人信息的完全暴露。

今年8月，中國信息通信研究院發(fā)布的《人工智能數(shù)據(jù)安全白皮書》顯示，AI應(yīng)用可采集的人臉、指紋、虹膜等信息具有強(qiáng)個(gè)人屬性，且具有唯一性。個(gè)人數(shù)據(jù)的過度采集，將加劇隱私泄露風(fēng)險(xiǎn)。

針對 “ZAO”App用戶隱私協(xié)議存在不規(guī)范行為、存在數(shù)據(jù)泄露風(fēng)險(xiǎn)等網(wǎng)絡(luò)數(shù)據(jù)安全問題，9月3日，工業(yè)和信息化部網(wǎng)絡(luò)安全管理局對北京陌陌科技有限公司（以下簡稱陌陌科技）相關(guān)負(fù)責(zé)人進(jìn)行了問詢約談。

該局要求陌陌科技要“組織開展自查整改，依法依規(guī)收集使用用戶個(gè)人信息”，同時(shí)責(zé)令其“規(guī)范協(xié)議條款，強(qiáng)化網(wǎng)絡(luò)數(shù)據(jù)和用戶個(gè)人信息安全保護(hù)”。

換臉或能突破支付，數(shù)據(jù)管理僅靠自律？

ZAO引發(fā)大量關(guān)注之后，“支付寶安全中心”8月31日通過官方渠道發(fā)布聲明稱，不管換臉有多逼真，都無法突破刷臉支付。

支付寶安全中心解釋說，刷臉支付采用的是3D人臉識別技術(shù)，在進(jìn)行人臉識別前，會通過軟硬件結(jié)合的方式進(jìn)行檢測，來判斷采集到的人臉是否照片、視頻或者模擬生成的，能有效避免各種人臉偽造帶來的身份冒用情況。

話雖如此，但考慮到刷臉支付還沒有得到大規(guī)模應(yīng)用，潛在的安全風(fēng)險(xiǎn)可能還并未浮出水面。

鄧偉洪也告訴記者，盡管目前還沒有利用個(gè)人面部信息突破刷臉支付等功能的案例，但這并不代表刷臉功能的絕對安全。并且，造假生成技術(shù)不斷升級，未來存在突破現(xiàn)有刷臉支付功能的可能性。

他介紹了一種可能性：AI換臉軟件收集了大量人臉圖像，這些信息如果被濫用，技術(shù)上可以準(zhǔn)確地恢復(fù)出用戶的三維面部信息，結(jié)合三維打印模型和面具，足夠?qū)λ⒛樦Ц兜认到y(tǒng)進(jìn)行攻擊。

鄧偉洪提出，管理部門和學(xué)術(shù)界應(yīng)該重視這些風(fēng)險(xiǎn)問題，并制定或研發(fā)出效的防御策略。

應(yīng)如何保障個(gè)人生物信息安全？張鈸表示，至少應(yīng)該加強(qiáng)管理和約束，包括數(shù)據(jù)的管理和合理使用。

他舉例，最近一些公司的語音合成技術(shù)已經(jīng)達(dá)到足可亂真的水平，這與“換臉”技術(shù)一樣很容易被濫用。從這點(diǎn)出發(fā)，這些公司已經(jīng)制定了自律規(guī)則，對這類AI技術(shù)加以限制使用，以保障用戶個(gè)人生物信息的安全。

“目前，個(gè)人生物信息獲取多少，又該如何使用，缺乏行業(yè)標(biāo)準(zhǔn)。如何制定規(guī)則有效管控個(gè)人生物信息的使用是當(dāng)務(wù)之急?！睆堚摳嬖V《中國科學(xué)報(bào)》。

今年4月，清華大學(xué)成立了戰(zhàn)略與安全研究中心，開展國際戰(zhàn)略與安全相關(guān)的學(xué)術(shù)研究和政策研究工作。其中，AI安全政策的制定正是該中心的一項(xiàng)重要內(nèi)容。

“真相”“假臉”難辨，防反之爭或?qū)缛粘志?/strong>

目前有沒有技術(shù)手段，能夠鑒別哪個(gè)是“真相”、哪個(gè)又是“假臉”呢？

答案是既肯定又否定。鄧偉洪告訴記者，由于原始人臉圖像特征已經(jīng)完全被覆蓋，目前沒有特別可靠的技術(shù)可以反推出原始頭像。但計(jì)算機(jī)視覺技術(shù)比人眼更精密，可以有效地檢測出因?yàn)閾Q臉留下的圖像痕跡。

他舉例說，去年美國國防部發(fā)布了一款A(yù)I偵測工具，對換臉的檢測精度可達(dá)到99%以上。加州大學(xué)伯克利分校的科研人員也提出了通過特定人物的面部行為細(xì)節(jié)，準(zhǔn)確地“揪出”模仿各種名人的假視頻。

鄧偉洪所在的科研團(tuán)隊(duì)也據(jù)此進(jìn)行了初步的實(shí)驗(yàn)。實(shí)驗(yàn)結(jié)果顯示，假視頻的檢測率可達(dá)到98%以上。

不過，在見識了美國國防部研發(fā)的“反AI變臉”刑偵工具后，達(dá)特茅斯大學(xué)的數(shù)字取證專家Hany Farid 認(rèn)為，目前的一個(gè)關(guān)鍵問題是，機(jī)器學(xué)習(xí)系統(tǒng)可以接受更先進(jìn)的訓(xùn)練，然后超越當(dāng)前的反變臉工具。

這也就意味著，這些“以AI攻AI”的反變臉工具僅僅是個(gè)開始——AI視頻偽造者和數(shù)字刑偵人員之間或?qū)⒄归_一場長期持久的AI軍備競賽。

技術(shù)濫用頻頻，何以解憂引人深思

引發(fā)個(gè)人信息安全及隱私保護(hù)問題的AI技術(shù)，不只有換臉。

近日，一組課堂上學(xué)生行為分析的視頻截圖在網(wǎng)上引發(fā)熱議。照片中，攝像頭通過計(jì)算機(jī)視覺算法獲取學(xué)生的課堂表現(xiàn)，并以標(biāo)簽的形式計(jì)算出“聽講、閱讀、舉手、趴桌子、玩手機(jī)、睡覺”等動作次數(shù)。截圖顯示該技術(shù)方案來自曠視科技。

盡管曠視科技隨即在9月3日回應(yīng)稱此系該公司“技術(shù)場景化概念演示”，目前“僅停留在技術(shù)展示階段，尚未落地應(yīng)用”，也難免教育界人士直呼，智慧課堂行為分析已變成“全景敞視監(jiān)獄”。

AI技術(shù)發(fā)展至今，以“賦能”之姿已在安防、醫(yī)療、教育、工業(yè)等各行各業(yè)帶來了巨大變化，甚至扮演著顛覆行業(yè)的角色。然而，面對一波未平一波又起的技術(shù)濫用問題，AI應(yīng)用背后的個(gè)人隱私保護(hù)問題、信息安全問題，如何規(guī)范使用AI技術(shù)，的確發(fā)人深思。

美國一些城市以及歐盟的做法是嚴(yán)字當(dāng)頭，甚至采取禁止法案。正如前文提及，在舊金山，政府機(jī)構(gòu)擅自使用人臉識別技術(shù)、“靠人臉識別技術(shù)獲得某些信息”都是被禁止的違法行為；在瑞典，一所高中因試驗(yàn)用人臉識別系統(tǒng)統(tǒng)計(jì)學(xué)生出勤率，而被瑞典數(shù)據(jù)監(jiān)管機(jī)構(gòu)處以20 萬瑞典克朗（約合14.8 萬元）的罰款，理由是“數(shù)據(jù)的所有者及數(shù)據(jù)的管理者之間存在明顯的信息不對稱”。

“圍繞個(gè)人隱私、群體安全問題，對于人臉識別等技術(shù)的使用需要一個(gè)平衡?！? 商湯科技聯(lián)合創(chuàng)始人徐冰在近期的一次采訪中對記者說：“這個(gè)平衡，就是一個(gè)好的規(guī)則規(guī)范——不僅要去規(guī)范人臉識別技術(shù)企業(yè)，還要去規(guī)范使用這些技術(shù)的政府?！?/p>

“實(shí)際上，人臉識別技術(shù)所創(chuàng)造的價(jià)值是被認(rèn)可的?！毙毂幌ＭT如人臉識別這樣的新技術(shù)只是簡單粗暴地被一禁了之： “作為發(fā)明和使用新技術(shù)的人們，都要去認(rèn)真思考這些問題，并且一起努力促使新規(guī)范的形成，而不是直接禁止掉。”

來源：科學(xué)網(wǎng)