廣告
隨著人工智能技術(shù)的進(jìn)步，一些不法分子開始利用AI技術(shù)融合他人面孔和聲音，制造非常逼真的合成圖像來實(shí)施新型網(wǎng)絡(luò)詐騙，這類騙局常常會在短時(shí)間內(nèi)給被害人造成較大損失。那么，我們應(yīng)該如何識別和防范新型詐騙？
有人偷了你的臉！當(dāng)AI詐騙遇上虛擬數(shù)字人“天妤”。視頻來源：最高人民檢察院公號
警惕“AI換臉”新型詐騙
記者調(diào)查發(fā)現(xiàn)，最近多地出現(xiàn)的AI換臉詐騙案件，均具備定制性、迷惑性等特征。
其中，香港警方近期披露一起涉案金額高達(dá)2億港元的多人AI換臉詐騙案尤為典型。據(jù)媒體報(bào)道，某公司職員受邀參加公司“多人視頻會議”時(shí)，先后將2億港元分別轉(zhuǎn)賬到5個(gè)本地銀行賬戶內(nèi)。據(jù)警方調(diào)查，這場視頻會議中除了受害者外，其余均為AI換臉后的詐騙人員。
不少業(yè)內(nèi)專家表示，隨著文生視頻大模型Sora等多模態(tài)人工智能的探索和出現(xiàn)，人們可能陷入“眼見也不一定為實(shí)”的困局?！耙恢币詠恚y行等部門將實(shí)時(shí)視頻用做檢驗(yàn)身份的手段之一，如今其可靠性將面臨巨大挑戰(zhàn)?！敝袊姓▽W(xué)研究會常務(wù)理事、華東政法大學(xué)教授沈?？≌f，“隨著人工智能技術(shù)的迭代升級，這類違法行為還可能演變出更多形態(tài)?！?span style="display:none">R96即熱新聞——關(guān)注每天科技社會生活新變化gihot.com
沈福俊坦言，對此類AI換臉和AI擬聲的惡性詐騙案件，若只依靠傳統(tǒng)監(jiān)管手段已不能防堵，監(jiān)管部門在提升自我科技能力儲備的同時(shí)，有必要引入新興技術(shù)，探索用AI技術(shù)監(jiān)管AI的可能。
Sora可根據(jù)文本內(nèi)容生成逼真視頻。圖片來源：Sora/OpenAI
“AI換臉”的技術(shù)原理是什么
中國網(wǎng)絡(luò)空間安全協(xié)會人工智能安全治理專委會專家薛智慧介紹，“AI換臉”過程主要包括人臉識別追蹤、面部特征提取、人臉變換融合、背景環(huán)境渲染、圖像與音頻合成等幾個(gè)關(guān)鍵步驟。
首先通過視頻的采集，追蹤定位圖片里人的面部；第二步，做一個(gè)面部特征點(diǎn)的采集和提取，主要包括嘴、鼻子跟眼睛的特征；第三步就是把這張?jiān)嫉恼掌?，做一個(gè)變換跟融合。
其背后最核心的包括為三個(gè)部分，首先，利用深度學(xué)習(xí)算法精準(zhǔn)地識別視頻中的人臉圖像，并提取出如眼睛、鼻子、嘴巴等關(guān)鍵面部特征。其次，將這些特征與目標(biāo)人臉圖像進(jìn)行匹配、替換、融合。最后，通過背景環(huán)境渲染并添加合成后的聲音，生成逼真度較高的虛假“換臉”視頻。
如何識別和防范新型詐騙
遇到這種類型的詐騙，普通人該怎么識別和防范呢？四川網(wǎng)警的網(wǎng)絡(luò)安全專家張警官在線支招：一提高反詐意識；二是涉及資金往來應(yīng)多途徑核對，在視頻過程中可以要求對方做掐臉、捏鼻子等特定的動作，觀察視頻有沒有穿?；虍惓Ｗ冃危源藖碜R別是否為AI偽造的視頻；三是通過電話、微信等多渠道多方式確認(rèn)；四是在轉(zhuǎn)賬時(shí)，可以將到賬時(shí)間設(shè)定為2小時(shí)到賬或者24小時(shí)到賬，以預(yù)留處理時(shí)間。
掐臉、捏鼻子這一招引起了大家的熱議?！俺夘^腦”創(chuàng)始人張澤偉說：“隨著技術(shù)的發(fā)展，它的這些漏洞都會被修復(fù)掉。對AI的訓(xùn)練日趨成熟后，可能掐臉、捏鼻子AI也會做了，建議變成捏成“豬鼻子”等一些AI不易做到的動作?；蛘咧贫ㄒ恍┲挥袑儆诩胰瞬胖赖陌堤?/span>，這是最保險(xiǎn)的?！?span style="display:none">R96即熱新聞——關(guān)注每天科技社會生活新變化gihot.com
張警官尤其談到，要注意個(gè)人信息和隱私數(shù)據(jù)的保護(hù)。AI換臉或者聲音合成技術(shù)，前提是要搜集受害人的聲音和圖片視頻資料。日常生活中要保護(hù)好個(gè)人隱私安全，使用正規(guī)軟件，防止自己的聊天信息、身份信息泄露，同時(shí)我們要盡可能減少社交媒體上自己的照片和聲音曝光。張警官還向大家再次推薦：一定要下載國家反詐中心app，那里面有非常多的案例供大家借鑒。
（來源：中國科技網(wǎng)綜合自央視新聞客戶端、新華每日電訊、閃電新聞、封面新聞、科技日報(bào)）
責(zé)任編輯： 冷媚本文鏈接：http://www.3ypm.com.cn/news-2-3645-0.html封面新聞丨“AI換臉”真假難辨，如何防范新型詐騙？
聲明：本網(wǎng)頁內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn)，不代表本站觀點(diǎn)，本站不承擔(dān)任何法律責(zé)任。天上不會到餡餅，請大家謹(jǐn)防詐騙！若有侵權(quán)等問題請及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。
點(diǎn)擊右上角
微信好友
朋友圈
點(diǎn)擊瀏覽器下方“
”分享微信好友Safari瀏覽器請點(diǎn)擊“
”按鈕
點(diǎn)擊右上角
QQ
點(diǎn)擊瀏覽器下方“”分享QQ好友Safari瀏覽器請點(diǎn)擊“”按鈕
