四海網

AI換臉調查 技術濫用或致違法侵權

2019-07-18 11:35:49來源:網易新聞

  教學

  賣家稱398元包教會,學生打七折

  記者在查看上述視頻時注意到,部分視頻有“合成聯(lián)盟”的字樣及其QQ號水印。記者通過這一QQ號聯(lián)系到昵稱為“明星合成+教學+代做視頻”的賣家,其稱不僅售賣明星換臉視頻和定制換臉服務,還提供教學服務。

  “買教學送全套視頻,600多部。”該賣家表示,他提供AI換臉視頻的制作教學服務,售價398元,包教會并附贈淫穢視頻600多部。“我們用的云電腦,做出來效果是Deepfake的幾十倍。”該賣家告訴記者,“買云電腦送FakeApp和DeepNude。”

  賣家提供的教學內容顯示,用戶根據(jù)指引,完成“鏈接到云硬盤、提取臉部數(shù)據(jù)、訓練模型、換臉輸出視頻”四個步驟就能實現(xiàn)AI換臉視頻的制作。

  “感謝你們的信任,(學員)昨天下午剛學的,不到3個小時全會,只要想學我都會盡心盡力的教你們。”該賣家的微信朋友圈顯示,已有多位學員學習了相關AI換臉技術。

  記者翻閱賣家朋友圈看到,“AI智能暑假期間所有學生憑學生證一律7折,一學就會,不費勁。”而賣家提供的截圖顯示已有學生提供學生證信息,并購買了該教學服務。

  根據(jù)《紐約時報》報道,Deepfake指的是用人工智能軟件制作的虛假視頻,由FakeApp程序創(chuàng)建而成,F(xiàn)akeApp則可實現(xiàn)AI換臉。而DeepNude可通過人工智能將照片中穿著衣服的人物實現(xiàn)“一鍵脫衣”的效果。

  “隨著科技的發(fā)展,大眾一定會面臨這樣的問題,DeepNude生成的照片并不是本人,而是PS后效果。”網絡安全專家張百川在接受新京報記者采訪時表示,目前網絡上已存在部分人士開始研究類似的算法。

  同時,針對網絡安全,吳沈括指出,《網絡安全法》確立了網絡產品和服務的安全可控原則,將他人肖像用于制作淫穢視頻或者利用網絡技術“作惡”,是對他人合法權益的侵害。

相關文章