商業(yè) AI 換臉：主播共用明星臉，動(dòng)動(dòng)手指變性別

文、圖 / 羊城晚報(bào)全媒體記者 羅清峣

越來(lái)越多的人對(duì)于 AI 雙刃劍效用感到擔(dān)憂(yōu)。近日，以深度偽造技術(shù)（Deepfake）為核心技術(shù)的 AI 換臉、語(yǔ)音模擬相關(guān)新聞層出不窮。5 月 22 日，一騙子使用智能 AI 技術(shù)十分鐘詐騙 430 萬(wàn)元；B 站音樂(lè)區(qū) up 主掀起了一波 AI 翻唱熱潮，AI 孫燕姿全網(wǎng)走紅；帶貨主播 AI 換臉成女明星引發(fā)熱議……隨著 AI 技術(shù)的發(fā)展，其自身的安全、倫理等問(wèn)題越來(lái)越重要，如何明晰真?zhèn)芜吔纾尶萍汲掷m(xù) " 向善 "，這是一個(gè)持久性的命題。

【資料圖】

換臉直播

動(dòng)動(dòng)手指能變性別

業(yè)內(nèi)人士分不清真?zhèn)?/p>

" 看了好幾個(gè)直播間，我都驚呆了，要么是佟麗婭，要么是迪麗熱巴，全都把臉換成了明星帶貨。" 近日，從事直播行業(yè)的小美在社交媒體上的發(fā)言引發(fā)大量討論。記者發(fā)現(xiàn)，不少商家把主播 AI 換臉成女明星進(jìn)行帶貨已成常態(tài)，有些直播間的 AI 換臉達(dá)到了以假亂真的地步，如果不是一些非常明顯的破綻，一般人根本分不清 " 真假女明星 "。

為了查看 AI 換臉直播與真人直播的區(qū)別，記者順著多位網(wǎng)友的爆料，來(lái)到了某個(gè)以 s 開(kāi)頭的服裝品牌的直播間，該品牌每天會(huì)在平臺(tái)上進(jìn)行直播帶貨，而主播疑似 "AI 換臉 " 女星楊冪，" 五官幾乎一模一樣，連牙齒都一樣。" 爆料人表示，自己曾向該品牌的客服質(zhì)疑主播是 AI 換臉，官方客服回應(yīng)她 " 長(zhǎng)得像，化妝的 "。

為了驗(yàn)證官方回復(fù)是否屬實(shí)，記者邀請(qǐng)業(yè)內(nèi)人士，英荔人工智能教育研究院成員陳海權(quán)一同到該直播間觀(guān)看直播。十分鐘內(nèi)，除了出現(xiàn)了數(shù)次臉型突然變大或者變小的情況外，沒(méi)有其他破綻出現(xiàn)。陳海權(quán)表示，這個(gè)破綻無(wú)法判斷是 AI 換臉時(shí)出現(xiàn)的識(shí)別失誤還是真人的瘦臉特效。他表示，以目前的技術(shù)，只要有足夠的預(yù)算和時(shí)間，可以把 AI 臉做得基本和真人無(wú)異，僅憑人眼基本無(wú)法分辨是 AI 換臉還是真人，" 除非發(fā)現(xiàn)特別的破綻，普通人很難區(qū)分 "。

也正好是看到了 " 破綻 "，不然小包還發(fā)現(xiàn)不了賣(mài)茶葉的不是迪麗熱巴，差點(diǎn)上當(dāng)。小包告訴記者，她五月中旬在抖音直播間看到一個(gè)五官和迪麗熱巴幾乎一模一樣的主播在售賣(mài)茶葉，" 最后兩單在三號(hào)鏈接，老板們趕緊下單。" 說(shuō)著說(shuō)著，主播低下了頭，" 主播低頭整理頭發(fā)的時(shí)候，腦門(mén)上全是黑的。" 這時(shí)，她才知道主播不是真的迪麗熱巴。

記者發(fā)現(xiàn)，目前網(wǎng)絡(luò)平臺(tái)上有多款可以進(jìn)行 AI 換臉的軟件出售，售價(jià)從幾十元到上萬(wàn)元不等。有男博主表示，花 99 元購(gòu)買(mǎi)軟件之后，只用一臺(tái)電腦和一個(gè)攝像頭就能讓人 " 換個(gè)面容 " 直播。記者來(lái)到該博主的直播間，看到他確實(shí)只用 " 動(dòng)動(dòng)手指 "，就能使用軟件把自己從一個(gè)男性變成 " 膚白貌美 " 的女性。

語(yǔ)音模擬

"AI 孫燕姿 " 擁有超千首作品

孫燕姿感嘆人類(lèi)無(wú)法超過(guò) AI

記者了解到，AI 換臉使用到了深度偽造技術(shù)（Deepfake），該技術(shù)能將圖片或視頻合并疊加到源圖片或視頻上，借助神經(jīng)網(wǎng)絡(luò)技術(shù)進(jìn)行大樣本學(xué)習(xí)，將個(gè)人的聲音、面部表情及身體動(dòng)作拼接合成虛假內(nèi)容的人工智能技術(shù)。該技術(shù)的運(yùn)用除了最常見(jiàn)的 AI 換臉外，還包括人臉合成、視頻生成以及語(yǔ)音模擬等。在語(yǔ)音模擬中，最貼近生活的例子就是地圖軟件里的明星語(yǔ)音包，目前許多地圖還推出了語(yǔ)音定制服務(wù)，用戶(hù)只需要錄入 3-9 句話(huà)，就能擁有定制語(yǔ)音包。

" 諷刺的是，人類(lèi)無(wú)法超越它已指日可待 "5 月 23 日，歌手孫燕姿《我的 AI》一文，首度回應(yīng)了自己對(duì) AI 技術(shù)的看法。據(jù)了解，近來(lái) B 站音樂(lè)區(qū) up 主掀起了一波 AI 翻唱熱潮。在 AI 技術(shù)的加持下，孫燕姿、周杰倫、林俊杰、陳奕迅等大咖紛紛化身 "AI 點(diǎn)唱機(jī) "。據(jù)不完全統(tǒng)計(jì)，目前 "AI 孫燕姿 " 已經(jīng)擁有超過(guò) 1000 首翻唱作品，最火的作品播放量甚至突破百萬(wàn)。

" 你跟一個(gè)每幾分鐘就推出一張新專(zhuān)輯的‘人’還有什么好爭(zhēng)的。" 孫燕姿在文中自嘲，她感嘆人類(lèi)再怎么快也無(wú)法超越 AI 技術(shù)。" 你并不特別，你已經(jīng)是可預(yù)測(cè)的，而且不幸的是，你也是可塑的。"

律師分析

擅自使用藝人肖像進(jìn)行商業(yè)活動(dòng)

侵犯了明星的肖像權(quán)

但無(wú)論是 AI 換臉明星還是語(yǔ)音模擬明星翻唱，都可能造成侵權(quán)。

廣州徑文律師事務(wù)所律師陳文妍表示，未經(jīng)明星允許，或未經(jīng)經(jīng)紀(jì)公司授權(quán)，擅自使用藝人肖像進(jìn)行商業(yè)活動(dòng)，侵犯了明星的肖像權(quán)。" 使用 AI 換臉的技術(shù)，若導(dǎo)致了特定主體的形象被扭曲，且視頻大量傳播后導(dǎo)致主體的社會(huì)評(píng)價(jià)顯著降低，就又侵害了這個(gè)主體的名譽(yù)權(quán)。" 清華大學(xué)法學(xué)院博士研究生孫鴻亮補(bǔ)充道，根據(jù)個(gè)人信息保護(hù)法的規(guī)定，若是沒(méi)有正當(dāng)化事由去處理人臉信息，既侵害了個(gè)人信息權(quán)益，也侵害了隱私權(quán)。

孫鴻亮表示，根據(jù)民法典和個(gè)人信息保護(hù)法的規(guī)定，侵權(quán)人要承擔(dān)侵權(quán)損害賠償責(zé)任，制作短視頻的人獲得的利益全部要賠償給權(quán)利主體。

不少明星已經(jīng)拿起法律的武器對(duì)付商業(yè) AI 換臉行為，記者查閱到，2021 年 9 月歌手林俊杰曾狀告上海寬娛數(shù)碼科技有限公司、肖某，公告詳細(xì)顯示為肖像權(quán)糾紛，肖某在 B 站的個(gè)人賬號(hào)中發(fā)布了多個(gè)娛樂(lè)視頻，林俊杰的肖像被 AI 換臉?lè)旁诹艘曨l中，最后法院判肖某公開(kāi)賠禮道歉，并向原告賠償經(jīng)濟(jì)損失，精神損害撫慰金等 275000 元。

如今很多商家為了規(guī)避風(fēng)險(xiǎn)，會(huì)使用許多特效，改變 AI 換臉明星后的某些特征，讓主播和明星 " 似像非像 "，該行為能否認(rèn)定為侵權(quán)呢？陳文妍表示，肖像權(quán)最核心的是可識(shí)別性，" 如果換了臉后，普通人能夠一眼看出他就是某個(gè)明星，也可以認(rèn)定為侵權(quán)。"

為何對(duì)于商業(yè) AI 換臉行為法律明令禁止卻還屢禁不止？陳文妍認(rèn)為原因是，目前 AI 技術(shù)屬于較新的技術(shù)，在現(xiàn)實(shí)當(dāng)中還沒(méi)有很多的司法實(shí)踐和判例，" 所以許多商家都想嘗一嘗，試一試。"

AI 詐騙

高科技詐騙層出不窮

有人十分鐘被騙 430 萬(wàn)元

官方提示轉(zhuǎn)賬前辨別身份

如果說(shuō)通過(guò) AI 換臉進(jìn)行商業(yè)行為只是侵害了某些特定人群的權(quán)益，那么近期多起在國(guó)內(nèi)外發(fā)生的利用 AI 技術(shù)實(shí)施的電信詐騙案件則是面向整個(gè)社會(huì)的犯罪行為，需要全社會(huì)重視起來(lái)，進(jìn)行預(yù)防和反制。

近日，包頭警方發(fā)布一起利用人工智能（AI）實(shí)施電信詐騙的典型案例沖上熱搜。福州市某科技公司法人代表郭先生 10 分鐘內(nèi)被騙 430 萬(wàn)元。4 月 20 日中午，郭先生的好友突然通過(guò)微信視頻聯(lián)系他，自己需要 430 萬(wàn)元保證金，想借郭先生公司的賬戶(hù)走賬，好友向郭先生要了銀行卡號(hào)，還把銀行轉(zhuǎn)賬底單的截圖通過(guò)微信發(fā)給郭先生。基于對(duì)好友的信任，加上已經(jīng)視頻聊天核實(shí)了身份，郭先生沒(méi)有核實(shí)錢(qián)款是否到賬，十分鐘內(nèi)，就分兩筆把 430 萬(wàn)元轉(zhuǎn)到了好友朋友的銀行卡上。

轉(zhuǎn)賬完畢后，郭先生撥打好友電話(huà)，好友不知道此事，他這才反應(yīng)過(guò)來(lái)，原來(lái)他遇上了高端的電信詐騙。騙子通過(guò)智能 AI 換臉和擬聲技術(shù)，佯裝好友對(duì)他實(shí)施了詐騙。幸運(yùn)的是，接到報(bào)警后，警方成功止付攔截 336.84 萬(wàn)元，但仍有 93.16 萬(wàn)元被轉(zhuǎn)移，目前正在全力追繳中。

記者再以 "AI 電信詐騙 " 為關(guān)鍵詞進(jìn)行檢索，發(fā)現(xiàn)近年來(lái)此類(lèi)案例還不少，據(jù)平安包頭、交口政法等官方通報(bào)，常州的小劉接到 " 初中同學(xué) " 視頻電話(huà)后，" 借 " 了 6000 元給騙子；公司財(cái)務(wù)小王接到領(lǐng)導(dǎo)電話(huà)信以為真，轉(zhuǎn)款 2 萬(wàn)元給騙子；王某接到省外某派出所 " 警官 " 微信視頻，對(duì)方宣稱(chēng)，王某涉嫌洗錢(qián)等違法犯罪，需要向 " 安全賬戶(hù) " 轉(zhuǎn)賬，因?qū)Ψ酵ㄟ^(guò)視頻與王某進(jìn)行了 " 交流 "，王某深信不疑，最終受騙……

利用高科技實(shí)施電信詐騙，對(duì)普通老百姓來(lái)說(shuō)，等同于 " 降維打擊 "，該如何預(yù)防 AI 詐騙呢？共青團(tuán)北京市委員會(huì)官方微博提供了兩個(gè)識(shí)別 AI 換臉的小技巧：在視頻聊天時(shí)，如果擔(dān)心有對(duì)方有 AI 換臉詐騙的可能，你可以要求對(duì)方，將一根手指或者其他物體放在臉前來(lái)回移動(dòng)。也可以要求對(duì)方左轉(zhuǎn)或者右轉(zhuǎn)，然后觀(guān)察他的側(cè)臉。

新規(guī)實(shí)施

加強(qiáng)深度合成內(nèi)容管理

建立健全辟謠機(jī)制和申訴、投訴、舉報(bào)機(jī)制

值得慶幸的是，越來(lái)越多的人和相關(guān)機(jī)構(gòu)關(guān)注到了深度合成技術(shù)的安全問(wèn)題，記者了解到，今年 1 月 10 日起施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，從技術(shù)提供者、服務(wù)使用者以及監(jiān)管等各方面，對(duì)技術(shù)的應(yīng)用提出規(guī)范。

新規(guī)要求深度合成服務(wù)提供者主體不得利用深度合成服務(wù)從事違法活動(dòng)，還要建立健全用戶(hù)管理制度，制定和公開(kāi)管理規(guī)則等，加強(qiáng)深度合成內(nèi)容管理，建立健全辟謠機(jī)制和申訴、投訴、舉報(bào)機(jī)制。同時(shí)要求深度合成服務(wù)提供者落實(shí)信息安全主體責(zé)任，建立健全管理制度和技術(shù)保障措施，制定公開(kāi)管理規(guī)則、平臺(tái)公約，對(duì)使用者進(jìn)行真實(shí)身份信息認(rèn)證，明確應(yīng)用程序分發(fā)平臺(tái)應(yīng)當(dāng)落實(shí)安全管理責(zé)任，核驗(yàn)深度合成類(lèi)應(yīng)用程序相關(guān)情況。

此外，《規(guī)定》也提出了明確的數(shù)據(jù)和技術(shù)管理規(guī)范。其中包括，深度合成服務(wù)提供者和技術(shù)支持者提供人臉、人聲等生物識(shí)別信息編輯功能的，應(yīng)當(dāng)提示深度合成服務(wù)使用者依法告知被編輯的個(gè)人，并取得其單獨(dú)同意。

五月初，相關(guān)短視頻平臺(tái)也發(fā)布關(guān)于人工智能生成內(nèi)容的平臺(tái)規(guī)范及行業(yè)倡議。要求創(chuàng)作者、主播、用戶(hù)、商家、廣告主等平臺(tái)生態(tài)參與者，在應(yīng)用生成式人工智能技術(shù)時(shí)，遵循規(guī)范，發(fā)布者應(yīng)對(duì)人工智能生成內(nèi)容進(jìn)行顯著標(biāo)識(shí)，幫助其他用戶(hù)區(qū)分虛擬與現(xiàn)實(shí)；禁止利用生成式人工智能技術(shù)創(chuàng)作、發(fā)布侵權(quán)內(nèi)容，包括但不限于肖像權(quán)、知識(shí)產(chǎn)權(quán)等。一經(jīng)發(fā)現(xiàn)，平臺(tái)將嚴(yán)厲處罰；禁止利用生成式人工智能技術(shù)創(chuàng)作、發(fā)布違背科學(xué)常識(shí)、弄虛作假、造謠傳謠的內(nèi)容。

同時(shí)平臺(tái)將提供虛擬人的注冊(cè)能力，并對(duì)已注冊(cè)的虛擬人形象進(jìn)行保護(hù)；平臺(tái)將提供用戶(hù)反饋渠道，方便用戶(hù)反饋違規(guī)生成內(nèi)容。

( 更多新聞資訊，請(qǐng)關(guān)注羊城派 pai.ycwb.com )

來(lái)源 | 羊城晚報(bào)羊城派

責(zé)編 | 張齊 王雋杰

校對(duì) | 馬曼婷