電信詐騙/AI換臉/眼見(jiàn)未必為實(shí)，謹(jǐn)防AI新騙局

近日，內(nèi)蒙古包頭JIN方發(fā)布一起利用AI實(shí)施電信詐騙的典型案例。

來(lái)自福建的郭先生是一家科技公司的法人代表。今年4月，他的好友突然通過(guò)微信視頻聯(lián)系他，稱自己的朋友在外地競(jìng)標(biāo)，需要430萬(wàn)元保證金，想借用郭先生公司的賬戶走賬。

基于對(duì)好友的信任，加上已經(jīng)視頻聊天“核實(shí)”了身份，郭先生在10分鐘內(nèi)，先后分兩筆把430萬(wàn)元轉(zhuǎn)到了對(duì)方的銀行賬戶上。事后，郭先生撥打好友電話才得知被騙，原來(lái)騙子通過(guò)AI換臉和擬聲技術(shù)，佯裝好友對(duì)其實(shí)施詐騙。

除了佯裝“熟人臉”實(shí)施詐騙，AI換臉還可能出現(xiàn)在直播帶貨中。最近，網(wǎng)上出現(xiàn)了一些“換臉直播”教程，教程發(fā)布者聲稱實(shí)時(shí)變臉軟件可以幫助用戶輕松“變臉”，極大地助力引流賣貨。

在一個(gè)展示換臉直播效果的視頻中，使用者把名為“成龍”的模型載入相關(guān)軟件后，攝像頭前的人在直播畫面中就有了與成龍相似的五官，但臉型和發(fā)型還保持原樣。記者發(fā)現(xiàn)，使用者歪頭或變換表情時(shí)，五官動(dòng)效切換得自然順滑，只有手掌從臉前劃過(guò)時(shí)，出現(xiàn)了比較明顯的破綻。

整治AI換臉，當(dāng)用“法”打敗“魔法”。這個(gè)法，是方法、辦法的法。有人說(shuō)，防騙最有效的一招就是不信，無(wú)論對(duì)方怎么“換”、怎么變、怎么翻著花樣騙，就是“不聽(tīng)不信不轉(zhuǎn)賬”。

這個(gè)法，也是法規(guī)、法律的法。此前，一款主打AI換臉的App很火，“只需一張照片，演遍天下好戲”。但很快，在監(jiān)管部門約談后，這款A(yù)pp下架，原因很簡(jiǎn)單，如此換臉侵犯了公民的肖像權(quán)。

去年12月，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》發(fā)布，對(duì)人臉生成、替換、操控，合成人聲、仿聲等都有明確約束。顯然，隨著制度設(shè)計(jì)更精準(zhǔn)，相關(guān)立法更健全，AI換臉空間將越來(lái)越逼仄。