每經(jīng)編輯 盧祥勇    

近年來，“AI換臉”走紅網(wǎng)絡，一些“AI換臉”的App使用明星的圖片制作換臉視頻進行推廣，其趣味性背后暗藏不少法律風險和侵權糾紛。

4月7日，浙江杭州蕭山區(qū)檢察院曝光的一個“女神群”，引發(fā)關注。名為“女神群”，群成員卻都是一群大老爺們。每天都不停地有人入群，但除了群主虞某外，很少有人發(fā)言。這個群里究竟有著怎樣的秘密？

“女神群”里的秘密

早在2020年，“AI換臉”剛剛在國外興起的時候，80后安徽小伙虞某就對它產(chǎn)生了興趣，自學掌握了這門技術。

后來隨著“AI換臉”技術的走紅，讓虞某嗅到了商機。他想到在網(wǎng)上推廣該項技術及相關的軟件，并從中獲利。

但一段時間過去，虞某卻始終沒有獲得什么關注度。偶然的一次機會，虞某看到有些人會在群里發(fā)布一些淫穢信息來吸引他人關注，就也動起了歪腦筋。

虞某先是將原本建的“換臉軟件資源群”的群名更改為“女神試看群”，后又通過互聯(lián)網(wǎng)下載了部分淫穢視頻，截取片段后發(fā)布在該公開群中，吸引、招攬觀看者加入。當觀看者達到一定人數(shù)后，虞某會發(fā)布群消息稱，繳納198元-498元不等的“會費”，進入“內(nèi)部群”可以收看完整版。

除此之外，虞某表示，“內(nèi)部群”里發(fā)送的淫穢視頻有不少是由其本人使用“AI換臉技術”合成的，根據(jù)顧客的需要還可以使用不同的女明星的形象，進行“私人定制”。其中，經(jīng)警方查實，幾位人氣女明星成了虞某“AI換臉”淫穢視頻的“重災區(qū)”。

一面通過“吸粉引流”，收取會費；一面又通過出售“換臉軟件”，頻頻獲利。虞某短短幾個月的時間里就收獲了數(shù)萬元。截至案發(fā)，公安機關共在虞某所組建的公開群內(nèi)查證淫穢視頻1200余部、圖片1600余張，經(jīng)鑒定，上述均系淫穢物品。

2023年3月28日，蕭山區(qū)檢察院依法以制作、傳播淫穢物品牟利罪對虞某提起公訴。案件目前正在法院審理中。

律師：無論盈利與否

未經(jīng)授權即涉嫌侵權

“AI換臉技術”頻頻被一些犯罪分子盯上，除了女明星外，部分不法分子還將“AI換臉技術”使用在普通人身上，由此制造一些所謂的遭泄露的“私密照片”，對當事人實施敲詐勒索。

杭州蕭山檢察官提醒，即便只是用“AI換臉技術”來搞笑或者制作惡搞照片，也有可能涉及侵犯肖像權、名譽權，造成嚴重后果的，還可能構成侮辱罪或者誹謗罪。這不是開玩笑！希望大家依法使用該項技術，一旦遇到類似本案中利用AI技術實施犯罪行為的，應第一時間固定證據(jù)，并及時向司法機關報案。

類似事件近日已出現(xiàn)多起。比如廣州一女子在地鐵上的照片被他人使用AI技術“一鍵脫衣”，虛假圖片在網(wǎng)絡廣泛傳播。此前，某男網(wǎng)紅使用“AI換臉”技術，替換掉電視劇中的男主角頭像，制作自己與女明星親吻的畫面，同樣引發(fā)爭議。

此前報道：男網(wǎng)紅AI換臉熱吻女星引爭議

南方日報記者近日調(diào)查發(fā)現(xiàn)，互聯(lián)網(wǎng)上有人售賣人臉合成視頻制作教程和明星人臉“萬能模型”，一套模型只需10元，購買后可在軟件內(nèi)直接用于生成“換臉”視頻。

針對“‘換頭’親吻女明星”事件，南方日報報道稱，廣東立幸律師事務所律師莫圣瑋認為，男網(wǎng)紅利用技術手段制作自己與女明星“親吻”的畫面，可能侵犯了女明星的肖像權和名譽權。而其在未取得影視作品授權情況下對作品進行二次創(chuàng)作，并發(fā)布用于營利，還可能構成對影視作品版權的侵權。

在女子被“一鍵脫衣”事件中，莫圣瑋認為，造謠者除侵犯受害者民事權益，可能還涉嫌誹謗罪、侮辱罪，如果大量傳播照片并牟利的，則涉嫌傳播淫穢物品罪。

加強對“AI換臉”等深度合成技術的規(guī)范，有關部門一直在行動。

今年1月，《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》實施，其中明確規(guī)定網(wǎng)信部門和電信主管部門、公安部門等監(jiān)管部門，需要加強監(jiān)督檢查、技術治理，對不當使用AI合成技術的機構和人員，按照有關法律、行政法規(guī)采取措施，進行整改；造成嚴重后果的，依法從重處罰。

編輯|盧祥勇 杜恒峰

校對|王月龍

每日經(jīng)濟新聞綜合自蕭山檢察、杭州日報、南方日報