'小心“丟臉”！最近火爆全網的換臉APP“ZAO”，被工信部約談'
只需上傳一張照片，就能用自己的臉替換掉“小燕子”“小李子”等明星的臉，上演電視劇或者電影片段。近期，一款名為ZAO的AI換臉APP突然火了，雖然這款軟件受到了眾多年輕人的喜愛，但其安全性和隱私問題也引發了關注和討論。
"只需上傳一張照片，就能用自己的臉替換掉“小燕子”“小李子”等明星的臉，上演電視劇或者電影片段。近期，一款名為ZAO的AI換臉APP突然火了，雖然這款軟件受到了眾多年輕人的喜愛，但其安全性和隱私問題也引發了關注和討論。
爆款APP惹爭議
上週末，陌陌旗下一款名為“ZAO”的換臉軟件刷爆朋友圈，這款APP到底有多火爆？據未經認證的微博賬號“ZAO官方助手”介紹，該APP上線不到一天就出現了服務器滿負荷的情況，在蘋果商店的免費榜榜單中，ZAO也蟬聯多天第一。
記者也下載了這款APP，在上傳一張照片後，通過AI人工智能技術轉換，電影或者電視劇片段中主角的臉就變成了記者的，表情自然，效果逼真。
在火爆之餘，也有不少用戶在社交媒體表達了對隱私洩露的擔憂，由於它與“deep-fakes”類似的技術原理，用戶面部特徵有被作為他用的安全風險。據悉，在國外，deepfake已經出現了很多受害者，尤其是一些年輕的女孩，僅僅是因為在社交網站上公佈了一些照片，就被製作成了色情視頻，並廣泛傳播；也出現過詐騙事件。
"只需上傳一張照片，就能用自己的臉替換掉“小燕子”“小李子”等明星的臉，上演電視劇或者電影片段。近期，一款名為ZAO的AI換臉APP突然火了，雖然這款軟件受到了眾多年輕人的喜愛，但其安全性和隱私問題也引發了關注和討論。
爆款APP惹爭議
上週末，陌陌旗下一款名為“ZAO”的換臉軟件刷爆朋友圈，這款APP到底有多火爆？據未經認證的微博賬號“ZAO官方助手”介紹，該APP上線不到一天就出現了服務器滿負荷的情況，在蘋果商店的免費榜榜單中，ZAO也蟬聯多天第一。
記者也下載了這款APP，在上傳一張照片後，通過AI人工智能技術轉換，電影或者電視劇片段中主角的臉就變成了記者的，表情自然，效果逼真。
在火爆之餘，也有不少用戶在社交媒體表達了對隱私洩露的擔憂，由於它與“deep-fakes”類似的技術原理，用戶面部特徵有被作為他用的安全風險。據悉，在國外，deepfake已經出現了很多受害者，尤其是一些年輕的女孩，僅僅是因為在社交網站上公佈了一些照片，就被製作成了色情視頻，並廣泛傳播；也出現過詐騙事件。
值得關注的是，ZAO在註冊時的授權協議對公民個人信息安全構成了威脅。據瞭解，在協議修改前，有這樣一行小字：“在您上傳或發佈用戶內容以前，您同意或者確保實際權利人同意授予ZAO及其關聯公司以及ZAO用戶全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利。”也就是說，你授權的信息此後與你沒關係了，企業可以自主決定怎麼使用。之後由於被媒體批評，ZAO修改了用戶協議，刪除了原有的上傳肖像可被ZAO完全免費、不可撤銷、永久、可轉授權和可再許可的權利等描述，但依然保留“您同意對用戶內容進行網絡信息傳播的權利”。
中國政法大學知識產權中心特約研究員趙佔領表示，ZAO作為提供格式條款的一方，對於免除或者限制自己責任的格式條款，應採取顯著、醒目的方式提醒用戶注意。但該授權淹沒在用戶協議中，絕大多數用戶根本注意不到。另外，用戶對於其在ZAO平臺上所上傳的內容，有的擁有版權、肖像權，或者從權利人處獲得授權，但是有的並未獲得權利人的授權。
對此，記者也採訪了一些年輕人，“肯定會吸引一些用戶進行體驗，滿足好奇或者炫酷的心理，但我肯定不會下載使用”，楊先生告訴記者，自己覺得這種安全隱患比較大，可能會被不法分子利用，進行違法犯罪。但也有人對此無感，並沒有意識到有什麼不妥。由於對個人信息洩露的擔憂，不少已註冊的用戶在ZAO的微博上留言表示要註銷賬號，微信也禁止了直接分享功能。
ZAO表示不會產生支付風險
面對輿論的質疑，9月3日，ZAO通過微博對《用戶協議》引發的爭議做了四點說明。
ZAO表示，不會存儲個人面部生物識別特徵信息；ZAO所呈現的換臉效果，是通過後期技術疊加所實現的虛構圖像，並沒有採集任何個人生物識別特徵，技術疊加呈現的虛構圖像能達到肉眼上近似，但並不是用戶真實信息；僅通過一張照片實現的換臉技術，不會產生支付風險；用戶刪除信息或註銷賬號，ZAO均會依據相關法律法規的規定刪除相應信息，目前有用戶看到註銷後的緩存信息，會在後續更新版本時修復。
對於支付風險，螞蟻金服迴應稱：“刷臉支付”採用的是3D人臉識別技術，在進行人臉識別前，也會通過軟硬件結合的方式進行檢測，來判斷採集到的人臉是不是照片、視頻或者軟件模擬生成的，能有效地避免各種人臉偽造帶來的身份冒用情況。此外，在進行人臉識別後，部分用戶還需要輸入與賬號綁定的手機號進行校驗，進一步提高了安全性。同時，支付寶還會通過各種安全風控策略確保賬戶安全。比如刷臉支付功能需要用戶進行開通操作，開通之後才能進行支付，用戶也可以隨時關閉。而且，即便出現賬戶被冒用的極小概率事件，支付寶也會通過保險公司進行全額賠付。
9月3日，工業和信息化部網絡安全管理局對北京陌陌科技有限公司相關負責人進行了問詢約談，要求其嚴格按照國家法律法規以及相關主管部門要求，組織開展自查整改，依法依規收集使用用戶個人信息，規範協議條款，強化網絡數據和用戶個人信息安全保護。同時，要進一步加強新技術新業務安全評估，切實採取有效措施，積極防範自有業務平臺被利用實施電信網絡詐騙等風險隱患。
最新熱文
官方解讀！華為鴻蒙OS、EMUI10正式亮相
不同5G手機網速差別高達47%！怎麼回事？
iPhone使用2年以上，如何能保持更好的壽命？
重磅！華為正式宣佈起訴美國政府
網購“寫字機器人”刷作業！初三女兒花了800元，老媽發怒直接砸了
來源：大河報 記者：龔旭
"只需上傳一張照片，就能用自己的臉替換掉“小燕子”“小李子”等明星的臉，上演電視劇或者電影片段。近期，一款名為ZAO的AI換臉APP突然火了，雖然這款軟件受到了眾多年輕人的喜愛，但其安全性和隱私問題也引發了關注和討論。
爆款APP惹爭議
上週末，陌陌旗下一款名為“ZAO”的換臉軟件刷爆朋友圈，這款APP到底有多火爆？據未經認證的微博賬號“ZAO官方助手”介紹，該APP上線不到一天就出現了服務器滿負荷的情況，在蘋果商店的免費榜榜單中，ZAO也蟬聯多天第一。
記者也下載了這款APP，在上傳一張照片後，通過AI人工智能技術轉換，電影或者電視劇片段中主角的臉就變成了記者的，表情自然，效果逼真。
在火爆之餘，也有不少用戶在社交媒體表達了對隱私洩露的擔憂，由於它與“deep-fakes”類似的技術原理，用戶面部特徵有被作為他用的安全風險。據悉，在國外，deepfake已經出現了很多受害者，尤其是一些年輕的女孩，僅僅是因為在社交網站上公佈了一些照片，就被製作成了色情視頻，並廣泛傳播；也出現過詐騙事件。
值得關注的是，ZAO在註冊時的授權協議對公民個人信息安全構成了威脅。據瞭解，在協議修改前，有這樣一行小字：“在您上傳或發佈用戶內容以前，您同意或者確保實際權利人同意授予ZAO及其關聯公司以及ZAO用戶全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利。”也就是說，你授權的信息此後與你沒關係了，企業可以自主決定怎麼使用。之後由於被媒體批評，ZAO修改了用戶協議，刪除了原有的上傳肖像可被ZAO完全免費、不可撤銷、永久、可轉授權和可再許可的權利等描述，但依然保留“您同意對用戶內容進行網絡信息傳播的權利”。
中國政法大學知識產權中心特約研究員趙佔領表示，ZAO作為提供格式條款的一方，對於免除或者限制自己責任的格式條款，應採取顯著、醒目的方式提醒用戶注意。但該授權淹沒在用戶協議中，絕大多數用戶根本注意不到。另外，用戶對於其在ZAO平臺上所上傳的內容，有的擁有版權、肖像權，或者從權利人處獲得授權，但是有的並未獲得權利人的授權。
對此，記者也採訪了一些年輕人，“肯定會吸引一些用戶進行體驗，滿足好奇或者炫酷的心理，但我肯定不會下載使用”，楊先生告訴記者，自己覺得這種安全隱患比較大，可能會被不法分子利用，進行違法犯罪。但也有人對此無感，並沒有意識到有什麼不妥。由於對個人信息洩露的擔憂，不少已註冊的用戶在ZAO的微博上留言表示要註銷賬號，微信也禁止了直接分享功能。
ZAO表示不會產生支付風險
面對輿論的質疑，9月3日，ZAO通過微博對《用戶協議》引發的爭議做了四點說明。
ZAO表示，不會存儲個人面部生物識別特徵信息；ZAO所呈現的換臉效果，是通過後期技術疊加所實現的虛構圖像，並沒有採集任何個人生物識別特徵，技術疊加呈現的虛構圖像能達到肉眼上近似，但並不是用戶真實信息；僅通過一張照片實現的換臉技術，不會產生支付風險；用戶刪除信息或註銷賬號，ZAO均會依據相關法律法規的規定刪除相應信息，目前有用戶看到註銷後的緩存信息，會在後續更新版本時修復。
對於支付風險，螞蟻金服迴應稱：“刷臉支付”採用的是3D人臉識別技術，在進行人臉識別前，也會通過軟硬件結合的方式進行檢測，來判斷採集到的人臉是不是照片、視頻或者軟件模擬生成的，能有效地避免各種人臉偽造帶來的身份冒用情況。此外，在進行人臉識別後，部分用戶還需要輸入與賬號綁定的手機號進行校驗，進一步提高了安全性。同時，支付寶還會通過各種安全風控策略確保賬戶安全。比如刷臉支付功能需要用戶進行開通操作，開通之後才能進行支付，用戶也可以隨時關閉。而且，即便出現賬戶被冒用的極小概率事件，支付寶也會通過保險公司進行全額賠付。
9月3日，工業和信息化部網絡安全管理局對北京陌陌科技有限公司相關負責人進行了問詢約談，要求其嚴格按照國家法律法規以及相關主管部門要求，組織開展自查整改，依法依規收集使用用戶個人信息，規範協議條款，強化網絡數據和用戶個人信息安全保護。同時，要進一步加強新技術新業務安全評估，切實採取有效措施，積極防範自有業務平臺被利用實施電信網絡詐騙等風險隱患。
最新熱文
官方解讀！華為鴻蒙OS、EMUI10正式亮相
不同5G手機網速差別高達47%！怎麼回事？
iPhone使用2年以上，如何能保持更好的壽命？
重磅！華為正式宣佈起訴美國政府
網購“寫字機器人”刷作業！初三女兒花了800元，老媽發怒直接砸了
來源：大河報 記者：龔旭