中國企業新聞觀察網
版權聲明:

本網原創文章轉載請注明來源,如本網轉載稿涉及版權等問題請來電或來函!

AI換臉調查:淫穢視頻可定制女星,700部百元打包賣

2019-07-18 08:28來源:中國企業新聞觀察網作者:chinaenwc點擊:

打印轉發

AI(人工智能)換臉的颶風,正為網絡安全帶來挑戰。

新京報記者近日調查發現,隨著AI技術走紅以及門檻降低,售賣明星換臉的淫穢視頻已經成為一門地下生意。百度貼吧中部分標榜“換臉+女明星姓名”的發帖者,售賣通過AI換臉技術合成的視頻,價格可4元一部,也可158元打包購買700部視頻。而多位知名女明星頻被提及。

此外,新京報記者注意到,閑魚上還有賣家提供“定制換臉”服務。買家提供明星或私人照片,賣家即可將淫穢視頻中的主角“移花接木”。定制換臉視頻1分鐘20元-50元不等。

對此,聯合國網絡安全與網絡犯罪問題高級顧問吳沈括對新京報記者表示,售賣AI換臉淫穢視頻,本身已經是傳播淫穢物品牟利罪,同時也侵犯了肖像權。而買家購買之后加以傳播或者以傳播牟利,則可能構成違法。

售賣

女星頻被“換臉”,35部視頻打包69元

記者搜索發現,“換臉”、“Deepfake”以及“FakeApp”貼吧等都存在售賣AI換臉淫穢視頻的帖子。發帖者多為無頭像、簡單英文字母名稱的用戶,而且發帖用詞隱晦,包括“國內外81部,誠信第一”。

記者聯系到一位名為阿長(化名)的賣家,其隨后發來“80部明星合成視頻列表”的壓縮包,包含多部淫穢視頻的列表截圖,文件名上標注出多位大眾熟知的女明星。

“(購買)低于15部算4元一部,超過15部算3元一部,80部全買只要68元。”阿長表示,視頻文件將通過QQ文件發送,支持微信、支付寶、QQ紅包等支付方式。記者4元隨機購買了一個標題為某知名女明星的視頻。視頻中女主角臉部全部替換成了該女明星,盡管換臉效果粗糙,但仍能一眼識別出來。

隨后,阿長附贈了相關視頻的剪輯版本,包含多個淫穢視頻的部分內容,其中女主角的臉全被替換成了這一女星。

另一位發帖的賣家林祥(化名)則是向記者發送了網盤鏈接,網盤中除了視頻目錄、截圖、試看視頻等文件,還包括一個單獨被命名為某知名女明星目錄的文件。

“打包價158元,700部視頻,買打包送截圖。”林祥提供的壓縮文件顯示,多位女明星被換臉成主角的頻率最高。

“有30分鐘、40分鐘的,也有5分鐘的,有像的也有不像的,所以單買價格不可能一樣。”林祥稱,單個視頻根據時長和制作效果定價。

而上述某知名女明星目錄文件中包含35部視頻,打包價69元,單賣約5-10元一部。時長10分鐘以上的視頻為每部20-28元。

記者詢問阿長,其他售賣相關視頻的賣家是否也是他時,他隨即否認并拿出更新目錄。“他肯定沒這些,我這會更新”。他告訴記者,這些視頻并非自己制作,均來自國內某網絡平臺,充值會員可以下載,然后再分銷。

不過,記者通過檢索并未發現這類國內網絡平臺。

定制

提供照片或視頻可移花接木,“照片越多越像”

除了百度貼吧,二手閑置平臺閑魚同樣存在相關售賣信息。記者在閑魚上搜索“AI換臉”看到,“AI換臉 明星最全精品”、“AI換臉,合集,都懂!”等信息,實則在售賣“嫁接”了女明星臉部的淫穢視頻。

記者分別與4位賣家進行了溝通,其一般會提供標有女明星姓名的目錄截圖,并以100部打包的形式售賣,價格從10元-38元不等。賣家子君(化名)告訴記者,在他打包售賣的淫穢視頻中,知名女性明星被惡意“嫁接”的最多。

此外,記者檢索閑魚發現,部分賣家還提供“定制換臉”服務,買家提供明星或私人照片,賣家可將照片中的臉“嫁接”到包括淫穢視頻在內的任何視頻之中,制作周期為1-2天,報價1分鐘20元-50元不等。

賣家高爾(化名)表示,視頻素材和照片需要買家提供。“照片要多點,側面等各個角度,至少需要提供二十張以上。照片越多越像,沒照片發視頻也行”。

另一賣家要求,如果是“換臉”淫穢視頻,3分鐘起做。該賣家的定制價為一分鐘50元、二分鐘95元、三分鐘135元,也就是說,買家至少要花費135元才能定制換臉淫穢視頻。

記者近日在閑魚平臺搜索“AI換臉”顯示9個商品售出,包括“換臉軟件”、“定制換臉”和“換臉教學”,有部分賣家在商品信息中注明,“本店僅負責服務配置環境和教授基礎知識,不幫忙操作,請各位自覺遵守當地法律,否則后果自負”。

記者調查過程中注意到,閑魚平臺已將部分淫穢視頻售賣鏈接刪除。

此外,記者在淘寶搜索“AI換臉”,20多家店鋪有相關售賣信息。記者隨機詢問7家店鋪,其中4家店鋪提供定制服務,但有賣家明確表明“不做黃、不辦證”。該賣家還向記者默認曾有人要求他制售假證。

教學

賣家稱398元包教會,學生打七折

記者在查看上述視頻時注意到,部分視頻有“合成聯盟”的字樣及其QQ號水印。記者通過這一QQ號聯系到昵稱為“明星合成+教學+代做視頻”的賣家,其稱不僅售賣明星換臉視頻和定制換臉服務,還提供教學服務。

“買教學送全套視頻,600多部。”該賣家表示,他提供AI換臉視頻的制作教學服務,售價398元,包教會并附贈淫穢視頻600多部。“我們用的云電腦,做出來效果是Deepfake的幾十倍。”該賣家告訴記者,“買云電腦送FakeApp和DeepNude。”

賣家提供的教學內容顯示,用戶根據指引,完成“鏈接到云硬盤、提取臉部數據、訓練模型、換臉輸出視頻”四個步驟就能實現AI換臉視頻的制作。

“感謝你們的信任,(學員)昨天下午剛學的,不到3個小時全會,只要想學我都會盡心盡力的教你們。”該賣家的微信朋友圈顯示,已有多位學員學習了相關AI換臉技術。

記者翻閱賣家朋友圈看到,“AI智能暑假期間所有學生憑學生證一律7折,一學就會,不費勁。”而賣家提供的截圖顯示已有學生提供學生證信息,并購買了該教學服務。

根據《紐約時報》報道,Deepfake指的是用人工智能軟件制作的虛假視頻,由FakeApp程序創建而成,FakeApp則可實現AI換臉。而DeepNude可通過人工智能將照片中穿著衣服的人物實現“一鍵脫衣”的效果。

“隨著科技的發展,大眾一定會面臨這樣的問題,DeepNude生成的照片并不是本人,而是PS后效果。”網絡安全專家張百川在接受新京報記者采訪時表示,目前網絡上已存在部分人士開始研究類似的算法。

同時,針對網絡安全,吳沈括指出,《網絡安全法》確立了網絡產品和服務的安全可控原則,將他人肖像用于制作淫穢視頻或者利用網絡技術“作惡”,是對他人合法權益的侵害。

爭議

換臉視頻網絡扎堆,個人難防中招

其實,AI換臉技術,已經在各個領域沿用許久。而運用最廣泛的領域便是電影。據新京報此前報道,中國科學院計算技術研究所張杰解釋稱,“這個技術簡單可理解為,通過學習的方式讓一個神經網絡把李四扭曲過的人臉還原成真實的人臉。”該神經網絡在學習后,具備了將任意的人臉,還原成“李四”人臉的能力。

早在今年年初,一段通過AI技術將《射雕英雄傳》中朱茵臉部替換成楊冪的視頻在網絡引起熱議。記者搜索發現,視頻網站嗶哩嗶哩(B站)上存在大量AI換臉視頻,且人氣較高。其中,一個將蔡徐坤臉部替換成前網絡游戲主播盧本偉的視頻,播放量達到253.1萬。不少網友在相關視頻評論區留言稱“毫無違和感”、“好笑哈哈哈”。

阿樂(化名)告訴者,出于獵奇和娛樂心態,自己喜歡在嗶哩嗶哩觀看AI換臉視頻。“把外國人的臉換在古裝人物身上,很新奇。”但也有網友在相關評論區稱“AI換臉(可能用于)敲詐勒索色情造謠,技術無罪,果然還是人本惡”。

律師、星娛樂法創始人李振武曾對新京報記者表示,視頻制作者未經朱茵和楊冪許可,擅自使用其肖像,雖其抗辯未有營利行為,但在互聯網語境里,流量變現以及粉絲倍增,都很難解釋為非營利行為,因此,此舉可能涉嫌侵犯肖像權。

有觀點認為,AI換臉技術門檻正在不斷降低。對此,張百川稱:“放在以前的話,技術難度非常大,已經有人開始研究這種算法了,如果算法公開,這種趨勢將很難抵擋”。

張百川告訴記者,普通人可能不太容易學會AI換臉技術,但有人可能利用此項技術制成有類似功能的軟件,那么普通人只要在APP上傳照片即可。針對個人如何防范,張百川表示:“很難,如果你有照片在互聯網上,就會有(被利用)的風險”。

記者注意到,Deepfake和DeepNude在國外已引起熱議,據《紐約時報》報道,隨著越來越多的人利用FakeApp制作名人的色情視頻,FakeApp正在引起恐慌。《衛報》稱此類軟件為“對未來可怕的一瞥”,顯示了對人工智能未來可能造成的倫理問題的擔憂。

當地時間7月2日,美國弗吉尼亞州已通過一條有關色情禁令的法律修正案,成為美國首批禁止傳播計算機生成的色情內容的地區之一。根據修正案,未經許可傳播或出售以任何方式創作的某人處于裸體或脫衣狀態的視頻或靜止圖像都是違法的,包括虛假創作的視頻或靜止圖像。

在我國,根據《刑法》第三百六十三條規定,以牟利為目的,制作、復制、出版、販賣、傳播淫穢物品的,處三年以下有期徒刑、拘役或者管制,并處罰金;情節嚴重的,處三年以上十年以下有期徒刑,并處罰金;情節特別嚴重的,處十年以上有期徒刑或者無期徒刑,并處罰金或者沒收財產。

聯合國網絡安全與網絡犯罪問題高級顧問吳沈括表示,就中國法律來講,售賣AI換臉淫穢視頻,本身已經是傳播淫穢物品牟利罪,同時在民事侵權領域,未經允許,將他人的肖像用于謀利的,也侵犯了肖像權。

針對AI換臉淫穢視頻的購買者,吳沈括告訴記者,目前對于購買淫穢物品沒有設置法律責任,主要集中在傳播淫穢物品和傳播淫穢物品牟利兩種非法形式。買家在購買AI換臉淫穢視頻之后,加以傳播或者以傳播牟利,則可能構成違法甚至犯罪。

張百川認為,技術本身沒有問題,是有人利用技術作惡,大眾需在日常生活中,注重個人隱私保護。“例如即時通訊軟件,有人用它工作,有人用它詐騙。”


相關新聞:

下一篇:沒有了
驗證碼: 點擊我更換圖片
最新評論 更多評論>>
彩票手机版 荆门市 | 比如县 | 蒙山县 | 临沧市 | 漳州市 | 正镶白旗 | 上饶市 | 临漳县 | 宁陵县 | 岳阳县 | 泽州县 | 武陟县 | 泾川县 | 琼结县 | 淅川县 | 赤峰市 | 肇州县 | 穆棱市 | 昭觉县 | 文成县 | 扎兰屯市 | 旺苍县 | 普兰店市 | 白河县 | 灵丘县 | 白银市 | 兰西县 | 平潭县 | 凤冈县 | 巫山县 | 察隅县 | 冕宁县 | 通山县 | 桃江县 | 丹江口市 | 磐石市 | 扬州市 | 莒南县 | 兰西县 | 湄潭县 | 仙居县 | 冀州市 | 乐至县 | 洪洞县 | 沐川县 | 金阳县 | 略阳县 | 唐海县 | 清水河县 | 民丰县 | 林芝县 | 乃东县 | 汶川县 | 利辛县 | 突泉县 | 正定县 | 维西 | 新河县 | 潮州市 | 丹阳市 | 金塔县 | 木兰县 | 西宁市 | 北票市 | 关岭 | 麻栗坡县 | 张家川 | 额济纳旗 | 南平市 | 都昌县 | 崇州市 | 新津县 | 大悟县 | 依兰县 | 波密县 | 枣阳市 | 遂川县 | 洪泽县 | 富源县 | 项城市 | 唐山市 | 九江县 | 墨竹工卡县 | 安阳县 | 阿荣旗 | 青州市 | 萨嘎县 | 昂仁县 | 元阳县 | 来宾市 | 禹州市 | 宁阳县 | 开远市 | 通城县 | 双鸭山市 | 高雄市 | 密山市 | 黄平县 | 清水河县 | 永顺县 | 讷河市 | 南岸区 | 乌鲁木齐市 | 平远县 | 满洲里市 | 榆树市 | 松阳县 | 文登市 | 祁阳县 | 大渡口区 | 扶沟县 | 揭西县 | 宜都市 | 岱山县 | 河西区 | 汾阳市 | 措勤县 | 青田县 | 邢台县 | 阜康市 | 顺昌县 | 喀什市 | 宁安市 | 云梦县 | 得荣县 | 湟中县 | 吕梁市 | 汝南县 | 雷山县 | 清水县 | 共和县 | 巴楚县 | 道孚县 | 祁东县 | 利辛县 | 巨鹿县 | 富宁县 | 云霄县 | 温宿县 | 六枝特区 | 青田县 | 荃湾区 | 新安县 | 延边 | 凉城县 | 海南省 | 葫芦岛市 | 黄山市 | 绥德县 | 新竹县 | 嘉荫县 | 溧水县 | 乌审旗 | 黄龙县 | 若尔盖县 | 肇庆市 | 嵩明县 | 鄱阳县 | 金山区 | 静宁县 | 濉溪县 | 玉门市 | 磐安县 | 富蕴县 | 平江县 | 布拖县 | 花莲市 | 栖霞市 | 广河县 | 虎林市 | 黄浦区 | 拜泉县 | 昌图县 | 江西省 | 通州市 | 莆田市 | 永清县 | 玉门市 | 武夷山市 | 科技 | 哈密市 | 平原县 | 浑源县 | 雷山县 | 故城县 | 上虞市 | 高唐县 | 南充市 | 额敏县 | 乐亭县 | 沁源县 | 萝北县 | 闵行区 | 卢湾区 | 乐亭县 | 无极县 | 凉山 | 滕州市 | 富阳市 | 突泉县 | 同德县 | 定南县 | 黄陵县 | 湖口县 | 道真 | 兴城市 | 云浮市 | 天津市 | 蓬莱市 | 潮安县 | 四川省 | 定兴县 | 义乌市 | 高邮市 | 柳河县 | 明溪县 | 肥东县 | 涿州市 | 富顺县 | 广饶县 | 临猗县 | 衡水市 | 白玉县 | 奉化市 | 开阳县 | 花莲县 | 虹口区 | 贞丰县 | 松桃 | 视频 | 麻阳 | 宜兰市 | 新巴尔虎右旗 | 鲁山县 | 庐江县 | 宜昌市 | 田林县 | 新昌县 | 中超 | 贵定县 | 贵港市 | 林口县 | 龙里县 | 福建省 | 都安 | 扬中市 | 安宁市 | 巴彦县 | 株洲市 | 永顺县 | 马山县 |