我賺網

 找回密碼
 立即注冊

QQ登錄

只需一步,快速開始

搜索
我賺網 網賺教程 查看內容

黑產中運用AI技術換臉的APP“ZAO”

2019-9-1 17:09| 發布者: 欣欣信| 查看: 212| 評論: 1|原作者: 灰產圈|來自: 灰產圈

只需要上傳一張照片,你可以變成任何你想成為的人!冠希哥、小李子、張柏芝、瑪麗蓮夢露、爾康、中餐廳黃曉明……

8月30日,一款運用AI技術換臉的APP“ZAO” 在社交媒體上刷屏,用戶只需要一張正臉照,就可以替換為影視作品或者小視頻中的人物,生成以自己為主角的視頻片段。不過,在一夜刷屏之后,ZAO的用戶協議條款卻引發網友爭議。


“ZAO”涉嫌過度攫取用戶授權網友擔憂個人信息泄露

根據“ZAO”用戶協議內容中的必要授權協議:用戶上傳發布內容后,意味著同意授予“ZAO”及其關聯公司以及ZAO用戶在“全球范圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利”,“包括但不限于可以對用戶內容進行全部或部分的修改與編輯(如將短視頻中的人臉或者聲音換成另一個人的人臉或者聲音等)以及對修改前后的用戶內容進行信息網絡傳播以及《著作權法》規定的由著作權人享有的全部著作財產權利及鄰接權利”。


對此,知名法律博主、北京煒衡(成都)律師事務所專職律師@法山叔表示,“ZAO”如此規定涉嫌過度攫取用戶授權,讓用戶在無形中將自己的肖像權永久拱手讓人,以后用戶的人臉將完全有可能被別人隨意使用或變換。

“有手機號,有面部圖像,通過技術合成,犯罪分子可以替你和你的家人通話……”“如果被人盜用于支付寶刷臉付款,那你的錢很快就沒了,有很大的風險,也說不定哪天就成了色情片主角”。網友普遍擔憂人臉信息被永久攫取后,會遇到這些情況。

針對網友因AI換臉擔憂金融安全問題,支付寶隨即發表聲明:“網上換臉軟件有很多,但不管換的有多逼真,都是無法突破刷臉支付的。”

 “AI換臉”非新技術 “ZAO” 背后是陌陌系公司


所謂AI換臉,技術上并不新鮮。早在2017年12月,國外某ID名為“deepfakes”的Reddit論壇用戶,就首次發布了自己制作的AI換臉視頻。它能夠把照片和視頻中的人臉替換成任何想要替換的人臉,且效果十分逼真。

今年3月,國內知名視頻網站blibli流傳出一段視頻:電影《射雕英雄傳》(1994年版)朱茵主演的黃蓉,被視頻制作者通過“AI換臉術”處理成了楊冪的臉,神態表情如同朱茵飾演的黃蓉一樣生動俏皮,毫無違和感。


而“ZAO”這次之所以能刷頻,是因為以往的換臉視頻,對制作者的技術甚至制作的設備,有著比較高的門檻要求,而“ZAO”一下子把門檻降到了最低,普通手機用戶都可以玩了。

這款App屬于長沙深度融合網絡科技有限公司,其背后股東則來自主打陌生人社交起家的社交平臺陌陌。

天眼查資料顯示,長沙深度融合是海南喵咖網絡科技有限公司(海南喵咖)的全資子公司。而王力和雷小亮各持海南貓咖50%的股份。王力為陌陌公司董事、總裁及COO,雷小亮則為陌陌公司聯合創始人兼游戲業務部總裁。

“AI換臉”會不會被“刷臉支付”?

看到有人擔心,玩這個軟件會不會導致自己的支付寶刷臉被冒充?
先說結論:這點完全別擔心,不會的。


這不是互聯網上的第一款換臉App,也一定不是最后一款,但不管怎么換,也不管換的有多「逼真」,你都不用擔心支付寶刷臉支付的安全性。

1、「刷臉支付」采用的是3D人臉識別技術
在進行人臉識別前,會通過軟硬件結合的方式進行檢測,來判斷采集到的人臉是否是照片、視頻或者軟件模擬生成的,能有效地避免各種人臉偽造帶來的身份冒用情況。

2、在支付寶App上開通刷臉支付需要曾輸入過密碼
支付寶還會通過各種安全風控策略確保賬戶安全。比如刷臉支付功能需要用戶進行開通操作,開通之后才能進行支付,用戶也可以隨時關閉。而且只有在輸入過密碼的支付寶App上才能開通刷臉支付。

3、多因子校驗,確保萬無一失
在支付寶App上,人臉識別并不是唯一的校驗方式,我們的智能風控引擎會通過設備、環境等多個因素輔助校驗。部分用戶還需要輸入與賬號綁定的手機號以及驗證碼進行校驗,進一步提高了安全性。

4、100%的保障
即便出現賬戶被冒用的極小概率事件,支付寶也會通過保險公司進行全額賠付。

實際上,AI換臉技術并不是一個剛剛出現的技術,在《速度與激情7》中,為了讓保羅·沃克重現熒屏,影片的技術團隊就曾大量使用了AI換臉技術。

這項技術的核心是一個“自動編碼器”,這個“自動編碼器”實際上是一個深度神經網絡,它能夠接收數據輸入,并將其壓縮成一個小的編碼,然后從這個編碼中重新生成原始的輸入數據。

簡單點說,就是如果你想把視頻A中的人物b換成人物c,那么首先需要對視頻A進行逐幀切片,并把沒有人物b的幀刪掉,然后還需要提供人物c的大量圖片或視頻,方法同上。之后深度學習算法會提取人物b每幀的特征,我們將之命名為feature b,找到人物b變換成feature b所需的光照、扭曲等條件。之后對人物c進行基于feature b的轉換,形成feature c,然后用feature c替換feature b即可。

技術本身沒有錯,錯的都是使用技術的人

AI換臉技術自從出現開始,與其相關的爭議就沒有停止過。2017年,一名叫deepfakes的人,使用AI換臉技術,把一部18禁電影的女演員的照片換成了神奇女俠—蓋爾·加朵,并把視頻上傳到了Reddit論壇上,這應該是大眾第一次真正見識到AI換臉這項技術。

之后,deepfakes還使用AI技術侵犯過更多的明星跟名人,被他侵權的人不僅有好萊塢明星,還有特朗普這樣的公眾人物。迫于各方壓力,Reddit論壇封禁了deepfakes的賬號。出于報復,deepfakes直接開源了AI換臉項目的代碼。因此,這項技術,也被命名為“deepfakes”。

而這項技術在國內被大眾所知,是因為B站UP主“換臉哥”發布的一段94版射雕英雄傳視頻。視頻中,原本飾演黃蓉的演員朱茵的臉被替換成了楊冪的臉,從流出的視頻和動圖看,雖然是用AI合成的,但是整體效果十分逼真。

該視頻在網上引發了軒然大波,在對技術的感嘆過后,人們開始討論AI技術的侵權問題。


無論是國內的例子還是國外的例子,都表明了同樣的一個問題,AI換臉因其技術門檻較低的緣故,很容易產生侵犯他們名譽權和肖像權的行為。

事實上,AI換臉的黑產早就不是什么新鮮事。

門檻降低帶來的也就是魚龍混雜,有一些人專注于研究、分享自己的換臉作品,出于愛好或是出于玩樂。也有一些人看到了這里面的“商機”,于是對18禁影片進行換臉并打包售賣,最受歡迎的當然就是女明星,據有的賣家透露,其換臉作品幾乎囊括國內所有一二線女明星。

在國內,AI換臉儼然已經形成了一個黑產產業鏈,上游提供軟件及技術、中游提供視頻、照片定制、下游售賣成品視頻,也有的商家做全產業鏈的生意。部分賣家供不應求,求之者眾,黑產規模可見一斑。

不過,值得慶幸的是,目前監管部門已經注意到了AI換臉的危害性。今年4月提交十三屆全國人大常委會第十次會議審議的民法典人格權分編擬規定,任何組織或個人不得以利用信息技術手段偽造的方式侵害他人的肖像權。

5月底,國家網信辦會同有關部門發布《數據安全管理辦法(征求意見稿)》,其中要求,網絡運營者利用大數據、人工智能等技術自動合成新聞、博文、帖子、評論等信息,應以明顯方式標明“合成”字樣;不得以謀取利益或損害他人利益為目的自動合成信息。

政府部門的這兩個動作也表明,關于AI換臉等的法律文件或將出臺,未來如果再利用AI換臉進行相關操作損害了他人利益的或涉及侵權違法。

未來,AI換臉技術想要更好的發展,關鍵就是與其相關的配套政策能否完善。作為普羅大眾的我們,要做的是用一個合理的態度去看待這個技術。

鮮花

握手

雷人

路過

雞蛋
發表評論

最新評論

引用 游客 2019-9-8 12:17
每天在家上網掙錢的方法分享!
每日200元,滿1元提秒到
免費下載地址:http://t.cn/AiRPIjZZ(復制地址粘貼到瀏覽器打開即可下載)

查看全部評論(1)

QQ|手機版|我賺網-深圳簡易通汽車服務有限公司所屬 ( 粵ICP備14095397號-2 )

GMT+8, 2019-12-16 09:49 , Processed in 0.037676 second(s), 15 queries , Gzip On.

Powered by Discuz! X3.4

© 2001-2017 Comsenz Inc.

返回頂部
天空三肖中特好贴第一