色情業(yè)一直是驅(qū)動互聯(lián)網(wǎng)提速的動力之一。從互聯(lián)網(wǎng)最原始階段充斥的無處不在的曖昧彈窗，到時(shí)髦的VR率先在色情產(chǎn)業(yè)中找到了自己的市場剛需，現(xiàn)在這股風(fēng)刮到了AI界，AI一鍵脫衣、AI一鍵換臉，AI查看女友前科的應(yīng)用紛至沓來。這不僅僅是色情擦邊球，更侵犯到了隱私，暴露了互聯(lián)網(wǎng)的暗面根植的人性欲望、獵奇和窺私。

穿著衣服也能看光你的身體

最近火到熄火的軟件是Deepnude，號稱可以“一鍵脫衣”，簡言之，就是上傳一張正常衣著的女性照片，Deepnude能自動生成該女性一絲不掛的裸照。而且如果上傳一張男性照片，隱私部位依然顯示為女性。

這個(gè)軟件的火爆程度遠(yuǎn)遠(yuǎn)超出了開發(fā)者的想象。短短5天之內(nèi)有50萬人使用了它，制造了許多名人，特別是女明星的裸照。巨大的流量一度造成服務(wù)器不穩(wěn)定，開發(fā)者在第四天的時(shí)候試圖暫時(shí)下架，修改bugs重新上線，但是似乎爭議太大，最終Deepnude的團(tuán)隊(duì)在隔日親口宣布產(chǎn)品永久下架，并表示“Deepnude 對這個(gè)世界還沒準(zhǔn)備好”。

所以最終，Deepnude沒能活過5天。

在Twitter上吳恩達(dá)以一個(gè)父親的身份，對deepnude之死表示欣慰，并對AI社區(qū)發(fā)話，你們擁有強(qiáng)大的能力，但請用你們的超能力去做更有價(jià)值的東西，推動世界進(jìn)步。

跟扒光女性衣服的Deepnude比起來，換臉軟件Deepfake只能算前奏。如果你對楊冪、朱茵換臉視頻還有印象的話，該特效就是來自Deepfake。B站上，粉絲們以此制作了偶像換臉的追星視頻，但在國外，Deepfake被應(yīng)用得最多的場景是成人視頻。甚至有美國成人網(wǎng)站主動推出換臉技術(shù)，為用戶提供個(gè)性化定制視頻，試想色情片的女主角或男主角換上了自己的臉，是不是代入感更強(qiáng)？

可是不能忽視的是，Deepnude和Deepfake都能用來惡意制作色情圖片，報(bào)復(fù)、攻擊和污蔑他人。

在迅速發(fā)展的科技創(chuàng)新和應(yīng)用面前，法律往往反應(yīng)慢一拍。據(jù)機(jī)器之心報(bào)道，美國弗吉尼亞州率先對Deepfake這些新應(yīng)用采取了行動，擴(kuò)大了其「色情報(bào)復(fù)法」（revenge porn law）的范疇。

這項(xiàng)擴(kuò)大后的法律規(guī)定：未經(jīng)當(dāng)事人允許分享他人的裸露視頻、照片屬于違法行為，用于「脅迫、騷擾或恐嚇」將被定為一級輕罪（Class 1 misdemeanor）。無論該照片或視頻是真實(shí)的還是偽造的。除了Deepfake，用photoshop或其他工具制作的虛假照片、視頻也包含在內(nèi)。

修正后的法律于當(dāng)?shù)貢r(shí)間 7 月 1 日生效。 

查對方前科，為保護(hù)老實(shí)人而生的原諒寶

如果說Deepnude是赤裸裸地為了看身體，而大洋彼岸的中國的原諒寶則試圖穿越重重迷霧，看到對方“不為人知”的過往。

原諒寶自我營銷為“為保護(hù)老實(shí)人而生”、“接盤俠的福音”，如果不想當(dāng)接盤俠，就用這款軟件檢測一下現(xiàn)在對象的“前科”。原諒寶一出世，就包攬了IT界、八卦圈、婚戀圈的話題C位。

使用也很簡單，上傳一張圖片，系統(tǒng)將圖片與1024、PronHub等特殊網(wǎng)站的數(shù)據(jù)庫進(jìn)行對比，如果圖片上人物恰好匹配到了，那么，結(jié)果就是Fail，圖中人極有可能是特殊工作者，如果沒有，則顯示為Pass，可以原諒ta。

原諒寶的由來得從2018年8月，一位@將記憶深埋的微博用戶的想法說起。他表示為了幫助碼農(nóng)初步過濾“退休小姐姐”，聯(lián)合了幾位朋友把1024、91等網(wǎng)站上的視頻和圖片打上標(biāo)簽，進(jìn)行人臉匹配。

巧合的是，2018年7月就有一些平臺零碎地發(fā)布信息表示，一個(gè)叫原諒寶的APP正在眾籌，即將啟動老實(shí)人保護(hù)計(jì)劃。這些信息是否也來自發(fā)起人團(tuán)隊(duì)，則不得而知。

差不多一年之后，這個(gè)創(chuàng)意變成了初步的現(xiàn)實(shí)，并取得了有點(diǎn)驚人的成果。今年5月27日，@將記憶深埋稱，“半年時(shí)間，100多TB數(shù)據(jù)， 利用1024、91、sex8、PronHub、xvideos 等網(wǎng)站采集的數(shù)據(jù)對比Facebook、instagram、TikTok 、抖音、微博等社交媒體。我們在全球范圍內(nèi)成功識別了10多萬從事不可描述行業(yè)的小姐姐。”

并且彼時(shí)，@將記憶深埋 還有將此商業(yè)化的打算。

支持者認(rèn)為這就像婚戀交友版本的征信報(bào)告，可以迅速識別出所謂的渣男、渣女。反對者認(rèn)為，這會侵犯隱私，甚至惡意中傷。5月30號，“原諒寶”的百度指數(shù)沖到最高點(diǎn)。人們心思各異，一些人希望用來查看對方過往，一些人想看看里面有沒有自己的熟人。 

發(fā)酵的輿論風(fēng)暴，糾結(jié)的程序員

原諒寶也引發(fā)了外網(wǎng)的熱議。一些網(wǎng)友在Twitter上指出危害，這可能會使一些人被侮辱和敲詐勒索，同時(shí)指出該項(xiàng)技術(shù)的適用范圍也許在尋找被拐賣的受害者中更恰當(dāng)，而非一個(gè)程序員為了找出自己交往對象的過去歷史。

對于數(shù)據(jù)收集行為是否恰當(dāng)?shù)馁|(zhì)疑，@將記憶深埋 以自己居住在德國，而德國的色情產(chǎn)業(yè)是合法的為由進(jìn)行反擊。

但是國外網(wǎng)友認(rèn)為未經(jīng)當(dāng)事人允許的情況下，私自建立人臉數(shù)據(jù)庫，在德國并不合法。此外還有人指出這也違反了歐盟的《通用數(shù)據(jù)保護(hù)條例》（General Data Protection Regulation，簡稱GDPR），侵犯了公民隱私權(quán)，以及被遺忘權(quán)。

即使對于性工作者本身，也有人認(rèn)為這也只會帶來傷害，因?yàn)樗鼘⑿怨ぷ髡叩乃饺诵畔⑵毓猓芏嘈怨ぷ髡咭灿姓５纳?，做色情行業(yè)是為了還貸款和生活。

男女權(quán)力的爭議再次被放大。據(jù)VICE中國報(bào)道，《Rage Becomes Her》的作者 Soraya Chemaly 表示：“這是一個(gè)可怕的范例，它完美解釋了這些系統(tǒng)和制度是如何在全球范圍發(fā)生作用，幫助男性占據(jù)主導(dǎo)地位的。監(jiān)控、假冒、敲詐勒索、不實(shí)信息總是先發(fā)生在女性身上，然后才暴露在公共領(lǐng)域，直到男性也受到波及，才會引發(fā)關(guān)注。” 女權(quán)主義研究和機(jī)器學(xué)習(xí)方面的專家也認(rèn)為此項(xiàng)目是一種被算法驅(qū)動的騷擾。

當(dāng)然，沒有誰比旋渦之中的當(dāng)事人更糾結(jié)了。@將記憶深埋將微博名改成“把自己關(guān)在房間里反省的書生”向公眾致歉，并表示“100多TB數(shù)據(jù)在半小時(shí)內(nèi)會徹底清空”，目前這則道歉已經(jīng)被刪除，微博名也被重新改了回來。并且，@將記憶深埋 在微博上重申，微博上的@原諒寶官方 這一賬號與自己無關(guān)，且“本人未發(fā)布過任何手機(jī)端App”，并風(fēng)險(xiǎn)提示道，目前市面流行的原諒寶很可能是灰產(chǎn)團(tuán)隊(duì)編寫用來竊取用戶信息。 

灰產(chǎn)把流量截了胡，起底山寨原諒寶們

去年這一創(chuàng)意提出之際，聞?wù)吡攘葻o幾，可以看做是碼農(nóng)圈的一個(gè)興趣試點(diǎn)。但是今年的軒然大波中離不開灰產(chǎn)的碰瓷，它們樂見其成，甚至變相助推，呼喊婚戀市場將迎來大地震，讓各方“撕”得越來越兇猛，把流量做大，被激起了好奇心的人自動入甕。

在原發(fā)起人刪庫之后，立馬有人跳出來，截胡流量。

6月4號登陸APP store商店的“原諒寶”并非原團(tuán)隊(duì)所開發(fā)，除了名字是“原諒寶”，APP還特意頂了一個(gè)帶X的綠帽子，牢牢把自己掛在了這個(gè)大熱點(diǎn)上。而且下載后必須要交30元的會員費(fèi)才能使用。用戶們交完30塊錢后，馬上發(fā)覺被騙，因?yàn)檫@個(gè)APP根本沒有任何上傳圖片和識別系統(tǒng)，看起來更像一款陌生人社交軟件，界面簡單，是一款做得很倉促的產(chǎn)品。

截止2019年7月1日下午5點(diǎn)32分，APP首頁顯示“已有956542人加入APP”，956532乘以30元，就是將近3000萬元。這個(gè)名不副實(shí)的山寨寶APP很聰明地把爭議帶來的流量變成了人民幣。雖然現(xiàn)在互聯(lián)網(wǎng)大都流行顯示虛假的用戶數(shù)據(jù)，百萬用戶數(shù)未必真實(shí)，但充值人數(shù)還在持續(xù)增加。只要圍繞原諒寶的爭議聲不止，這款頭頂綠帽的APP就能有源源不斷的進(jìn)帳。

有趣的是，很多花了30塊錢上門的人，發(fā)現(xiàn)這款A(yù)pp無法看過往，也無法看熟人，干脆碰碰運(yùn)氣，開啟“約”模式。

除了應(yīng)用商店，目前微信上也能搜到一個(gè)名叫原諒寶的個(gè)人公眾賬號。該號本質(zhì)上像一個(gè)山寨廣告號，雜七雜八地混雜了一些娛樂文和圖片修理功能。而之前網(wǎng)絡(luò)流傳的微信端的公眾號，即賬號主體為“西安曲江新區(qū)灝蕊睿百貨商貿(mào)店”已經(jīng)刪除了所有文章，也沒有查詢工具入口。

但@將記憶深埋 特意聲明與自己無關(guān)的微博“原諒寶官方”賬號依然存在，且簡介為“保護(hù)個(gè)人隱私，全網(wǎng)檢測是否被偷拍或偷攝，并提供我們力所能及范圍內(nèi)的數(shù)據(jù)清除服務(wù)。”這是不是和著名灰色產(chǎn)業(yè)“開房記錄查詢和開房記錄刪除”有異曲同工之妙？

@原諒寶官方 目前僅僅保留了兩條微博，第一條就是公測版的測試鏈接。點(diǎn)開后，會看到一則聲明，表示僅對真實(shí)人員進(jìn)行識別匹配，至于檢測后給出的數(shù)據(jù)可信度問題，聲明稱不提供詳細(xì)來源。

該測試的火爆程度有增無減，目前已經(jīng)有將近兩百萬人次查詢。頁面中的 “想知道TA拍過的照片和視頻嗎”、“查詢有風(fēng)險(xiǎn)，備好救心丸”等字眼，都在喚起人的窺探欲。

照片的分析過程乍一看，很像醫(yī)美APP的五官掃描和全臉分析，下一秒似乎能跳出一個(gè)整容咨詢報(bào)告。查詢后的結(jié)果會給出一個(gè)原諒指數(shù)。系統(tǒng)與開放數(shù)據(jù)進(jìn)行匹配，匹配到的結(jié)果越多，則原諒指數(shù)越低。原諒指數(shù)如果在90%以上則可以認(rèn)為你們的關(guān)系很安全。

雖然掛著人工智能的頭銜，但是檢測過程和結(jié)果就跟星座命理一樣玄乎。因?yàn)?strong>數(shù)據(jù)來源未知，如何匹配未知，服務(wù)器如何荷載這么多數(shù)據(jù)未知。如果照片匹配到很多則得出不安全的結(jié)論，似乎又創(chuàng)造了一個(gè)灰產(chǎn)機(jī)會，即可以故意用換臉軟件移花接木，在所謂的相關(guān)網(wǎng)站上傳某些人的圖片，再回頭找人要錢，再收費(fèi)操作刪除。

而且類似原諒寶這樣平臺如果真的投入運(yùn)營，還會涉及平臺數(shù)據(jù)采集和公民信息保護(hù)問題。

目前我國對App的數(shù)據(jù)采集加強(qiáng)了監(jiān)管。《App違法違規(guī)收集使用個(gè)人信息行為認(rèn)定方法（征求意見稿）》自今年5月5日起公開征求社會意見，并明確，App違法違規(guī)收集使用個(gè)人信息共分為7種情形：沒有公開收集使用規(guī)則；沒有明示收集使用個(gè)人信息的目的、方式和范圍；未經(jīng)同意收集使用個(gè)人信息；違反必要性原則收集與其提供的服務(wù)無關(guān)的個(gè)人信息；未經(jīng)同意向他人提供個(gè)人信息；未按法律規(guī)定提供刪除或更正個(gè)人信息功能；侵犯未成年人在網(wǎng)絡(luò)空間合法權(quán)益。

針對中國目前的公民信息保護(hù)上存在立法分散的情況，2019年，十三屆全國人大常委會已將制定個(gè)人信息保護(hù)法列入了立法規(guī)劃，更加系統(tǒng)的公民信息保護(hù)的立法工作正在穩(wěn)步推進(jìn)中。

回到原諒寶本身，現(xiàn)代人的感情關(guān)系并非原諒寶可以拯救。但是原諒寶的流行和爭議，再次放大了信任問題，也點(diǎn)燃了每個(gè)人心中隱秘的窺私欲，我們窺探別人，也被別人窺探，互聯(lián)網(wǎng)不過呈現(xiàn)了我們亙古難題的一角。

36kr 汪慧（封面圖來源于攝圖網(wǎng)）