“媽，8000元不夠，給我轉1.5萬元吧。”一位母親正和女兒視頻聊天，聽著在外埠上學的女兒在視頻里撒嬌埋怨“生涯費不夠用了”，她疼愛不已預計立即給孩子轉賬。就在這時，家門打開了，她的“真女兒”走了進來。而另一頭，視頻里的“假女兒”還在央求媽媽“給生涯費”。
這是一則AI反詐視頻。在這條反詐視頻評論區中，不少網友反應本身也有過類似的被騙經歷，“騙子來電，聲音容貌和我家人一模一樣”。
《法治日報》記者近日調查發現，AI換臉擬聲技術已成為簡單易操縱的“低門檻”技術，只需擁有聲音與照片等“素材”，借助軟件即可瞬間實現“AI克隆”。實踐中，一些犯警分子試圖應用AI換臉擬聲技術實施違法犯法活動。
近日，國家金融監督治理總局金融消費者權益保護局發布防范新型電信網絡詐騙風險提醒，將“AI換臉擬聲”納進此中，作為專門類詐騙。據介紹，AI換臉擬聲類金融詐騙，多為犯警分子以“網店客服”“營銷推廣”等為捏詞聯系消費者，采集發音、語句或面部信息，之后應用“換臉”“擬聲”等技術分解消費者虛假音頻、視頻或圖像，模擬別人聲音或抽像騙守信任，誘導其親友轉賬匯款等。
受訪專家指出，私行應用別人信息制作換臉擬聲視頻觸及多重法令風險。需求進一個步驟完美相關領域的立法，加年夜執法力度，秉持包涵審慎的態度均衡技術的平安與發展。
幾乎沒有應用門檻 輕松實現換臉擬聲
“只需求一段語音，幾乎完善還原音色語氣，明天就教大師若何簡單、疾速復制一個人的聲音。”在某社交平臺上，一名科技博主發布了一段教學視頻，向網友介紹若何用AI精準克隆人聲。
“只需求準備一段25秒的聲音，構建聲音進行訓練，訓練完畢后就可以輸進想要的文本進行語音分解。”教學視頻中，這名博主用時不到1分鐘，就把AI擬聲的道理講解得清明白楚，與此同時，一段“孫悟空”的擬聲就這樣誕生了。他輸進了一段文本，AI便能用與“孫悟空”近乎一模一樣的聲音語氣念出來。
記者依照視頻中的唆使打開鏈接發現，這個AI擬聲東西無需下載，也不收費，是可以免費應用的網頁，而這般制作出來的音頻可以公開供別人應用，也可以導出應用。記者在網頁平分別上傳了5種分歧聲音，經過訓練，這5種聲音被幾乎無差別地勝利“克隆”，能夠用來讀出肆意案牘。除此之外，用戶還能在輸進案牘時參加情緒的描寫，使得AI擬聲好像能夠“談笑風生”的真人。
除了AI擬聲，AI換臉也成了“熱門”技術。在一些圖片處理軟件中，“一鍵AI換臉”能瞬間將圖片包養網甚至視頻中的臉毫無痕跡地置換成另一張臉。
“一天能做100個原創作品，這個東西太強了。”在社交平臺某AI科技博主的短視頻里，該博主向粉絲介紹一款視頻換臉軟件。屏幕中，博主所展現的兩段視頻中的女生除了五官分歧，其余的表面、穿著及動作完整分歧。視頻中，女孩不論若何轉身或做出任何臉色，面部都沒有產生畸變。“一鍵就能高清換臉，讓你們變成別的一個人。”
記者嘗試了該博主所推薦的軟件及操縱方式，勝利將一段視頻中的人臉換成了另一張人臉。即便是“技術小白”，上手也幾乎毫無門檻。記者瀏覽發現，這樣類似的視頻換臉軟件還有許多，除了進行視頻剪輯換臉之外，部門軟件在技術操縱之下還能實現實時換臉擬聲。
換臉軟件明碼標價 鮮有賣家詢問用處
記者在某社交平臺檢索“AI換臉”時，發現頁面彈出了“無痕換臉，只需5元到20元”的廣告。在評論區中，有不少買家詢問可否供給視頻換臉擬聲服務，也有不少賣家混雜此中尋找“客戶”。記者在評論區留言咨詢后，很快便收到幾名賣家的回復或私信。
“需求自定義AI換臉軟件嗎？”一名賣家通過私信聯系記者，推銷其軟件。記者進一個步驟詢問賣家該軟件能否能夠實時視頻換臉擬聲，賣家稱“任何社交平臺都能夠支撐實時”。
隨即，該賣家向記者展現了其在社交平臺上發布的換臉演示。在換臉演示中，一名男人以“俊秀的臉龐”出現在視頻頁面中，而這張“俊秀的臉”則是換臉后的“假面”，該賣家配以文字“網戀神器，直接變小哥哥，換個面孔可以往找蜜斯姐網戀了”。
為了讓記者更逼真地體會到換臉技術的高明，該賣家提出可以“打個視頻看後果”。記者打開某社交軟件視頻通話，只見視頻畫面里是與“換臉演示”中樣貌分歧的另一名男人。該賣家稱，二者都是本身通過換臉軟件制作的。在視頻中，他展現了喝水、捂嘴、捏臉、捂臉等多個動作，“做動作是沒問題的，只需打開視頻前把這個軟件打開就可以了”。
在交通時，賣家不斷向記者強調其所售賣的技術操縱難度不年夜，且在視頻時“看不出破綻”。價格方面，其介紹299元可以裝好軟件，操縱一遍演示；假如付出599元，則可以一對一教學，“教會為止，軟件可以永遠不限次數地應用”。
調查中，記者還收到了另一名賣家的“推銷”，其同樣向記者推薦了自定義AI換臉軟件。該賣家稱，軟件分為mobile_phone版和電腦版，mobile_phone版的價格為40元，電腦版為69.9元，兩者均可以永遠不限次數應用。當記者問及電腦版與mobile_phone版為何存在價格差異時，該賣家告訴記者，電腦版的軟件包括一鍵“AI往衣”效能，即可以把照片上的衣服脫下來。
在調查過程中，記者留意到，類似供給“自定義AI換臉擬聲軟件”的賣家還有不少，他們年夜多在社交平臺上尋找買家。對于買家購買技術的目標，有些賣家絕不在意，甚至會將包養“往衣”等擦邊效能作為一年夜賣點進行推銷。
除此之外，記者還發現，在某二手買賣平臺上，也有賣家出售相關技術。好比有賣家在產品描寫中這樣寫道：“有手就可以，拍下就發完全視頻資料和制作方式，可批量搞，虛擬資源能夠變現。”
“有些人會應用技術往做違法犯法的工作，尤其是在近幾年，這種技術更不難應用了。”一名業內人士向記者流露，他就曾接到過一些“出格”的客戶需求，“有人聯系盼望我們能用AI克隆技術衝破銀行和一些付出軟件的刷臉效能。還有人打離婚訴訟，要我們用擬聲作偽證。假如沒有問明白，換臉擬聲很不難淪為一些犯警分子詐騙、犯法的東西。”
及時規定應用原則 增強個人反詐意識
“假如不是做深度訓練的話，今朝換臉擬聲的技術門檻是比較低的。”南京“超級頭腦”任務室（一家AI任務室，重要經營“AI數字性命”業務）創始人張澤偉告訴記者，今朝非技術人員也可以通過軟件進行較為簡單的換臉擬聲，使得“假人假聲”的分解視頻、圖片能夠被用于違法違規用處，而一些年紀稍年夜的長輩很難辨別出來。
北京年夜成（深圳）律師事務所律師陳翠說，私行應用別人肖像制作換臉視頻能夠侵略別人肖像權、隱私權。根據平易近法典第一千零一十九條，未經自己批準，不得以營利為目標應用別人肖像。包養網比擬“換臉視頻即使不以營利為目標，也能夠因未獲授權而侵略肖像權。同時，未經許可傳播觸及含有個人隱私的視頻會侵略個人隱私權。”
陳翠進一個步驟補充道，若換臉擬聲視頻內容不當或引發公眾誤解，能夠會構成名譽權侵權。假如視頻中包括別人享有著作權的內容（如影視片斷），則能夠構成著作權侵權。同時，未經授權制作和傳播換臉視頻還能夠違反網絡平安法、數據平安法等相關法令規定，面臨行政處罰或刑事責任。
陳翠認為，今朝，包養我國在相關領域仍缺少系統性立法，觸及人工智能的法令規范較為疏散。同時，人工智能倫理規范尚未構成統一標準，為有用遏制此類技術被用于違法犯法，需進一個步驟明確其應用邊界。
中國傳媒年夜學文明產業治理學院法令系主任鄭寧認為，我國《互聯網信息服務深度分解治理規定》明確，任何組織和個人不得應用深度分解服務制作、復制、發布、傳播法令、行政法規制止的信息，并請求深度分解服務供給者應當樹立健全辟謠機制，這在必定水平上為深度分解服務的技術應用劃定了底線。“要正面劃定AI換臉擬聲能夠用于什么范圍有必定難度，及時規定應用原則，好比符合法規、需要條件等。當前我國有《具有輿論屬性或社會動員才能的互聯網信息服務平安評估規定》，假如人工智能應用合適該規定應用條件，也可以遵守其請求進行平安評估包養。”
“AI產業是需求規制的，但平安與發展應該并重。”鄭寧提到，對于新興技術，要堅持審慎監管的態度，結合具體的應用場景，在分級分類的基礎上進行預防式的管理，同時也要秉持包涵的態度，促進產業發展，鼓勵創新。
“大師盡量不要在公共平臺上過多地上傳個人聲音、圖像等信息，這些能夠成為犯警分子的分解素材。”在張澤偉看來，信息時代，每個人都應當增強個人信息保護意識、反詐意識。實踐中，可以留意觀察屏幕辨別率的變化，以此識別對方能否應用AI擬像，“也可以與自己約定一些暗號，需要時對一下暗號再進行轉賬”。（記者 趙麗 實習生 林銘溱）