中國移動展區(qū)，工作人員介紹AI換臉與實時鑒偽技術。
如何快速識別AI換臉變聲詐騙，深度鑒偽讓AI換臉詐騙無處遁形。如何為“一老一小”構建安全通信環(huán)境，AI技術強力反制電信詐騙。昨日，2024年國家網(wǎng)絡安全宣傳周正式拉開序幕，網(wǎng)絡安全博覽會也同步舉行。記者現(xiàn)場采訪多位業(yè)內行家，探營博覽會數(shù)據(jù)安全、個人信息保護、網(wǎng)絡安全產(chǎn)品與服務等展區(qū)，了解網(wǎng)絡新技術新應用，看“黑科技”如何筑牢網(wǎng)絡安全屏障。
文/廣州日報全媒體記者葉作林、侯翔宇
圖/廣州日報全媒體記者楊耀燁、莫偉濃、吳子良
人臉“移花接木”李鬼變李逵
人工智能技術帶來了發(fā)展和機遇，也帶來了風險和挑戰(zhàn)。如今，利用“AI換臉”“AI換聲”等虛假音視頻進行詐騙、誹謗的違法行為已不少見。早在去年，中國互聯(lián)網(wǎng)協(xié)會便曾發(fā)文提示“AI換臉”新騙局。
在天融信科技集團股份有限公司展位，助理總裁張博向記者詳細展示了AI換臉過程和原理，并對如何防范AI換臉詐騙提出建議。展位前，攝像頭正捕捉一名工作人員的面部變化，與此同時，出現(xiàn)在屏幕上的卻是另一張臉，兩者表情變化幾近一致。“只需要輸入一張正面靜態(tài)圖片，借助人工智能技術，便可以實時‘移花接木’?！?/p>
他進一步介紹，AI換臉的3大步驟原理：面部識別追蹤、面部特征提取、面部變化融合?！罢w的原理是通過計算機深度學習，精準識別人臉圖像，然后提取眼睛、鼻子、嘴巴等重要的面部特征，把這些特征與目標人臉圖像進行匹配、替換和融合?！?/p>
如今“AI換臉”技術已經(jīng)比較成熟，甚至能夠實現(xiàn)視頻通話的實時換臉，雖然單憑肉眼很難分辨，不過張博指出，只要稍加留心，“AI換臉”還是有明顯破綻，“馬腳”就在面部輪廓和光線。“如果接收到視頻信息、視頻通話，要仔細觀察對方的面部輪廓是否存在異常的模糊，光線是否正常。”張博說道，“如果有必要的話，可以要求對方快速大幅度地抬頭、點頭，轉頭，然后來仔細觀察這個過程當中，面部輪廓是否有異常模糊?！?/p>
不過張博指出，防止網(wǎng)絡詐騙還是要從上游入手，首先要防止個人信息的過度外泄?！靶枰杉娌啃畔⒌膱鼍埃忻袢罕娺€是需要額外留心網(wǎng)絡環(huán)境和周圍環(huán)境。”在遇到疑似AI換臉的場景中，可以選擇通過更加直接的方式，比如說給當事人打個電話，確認對方身份是否真實。
用“魔法”打敗“魔法” 深度鑒偽5秒辨真假
“AI換臉”逐漸成為一種新型的詐騙手段，偽造的內容難以被肉眼分辨出來。如何精準識別“AI換臉”成為一個亟待解決的問題。
在中國移動展位的現(xiàn)場，一個AI換臉視頻被實時鑒偽技術精準識別為偽造，整個過程僅需5秒左右。深度合成換臉實時鑒偽體驗區(qū)吸引了許多觀眾的圍觀，紛紛上手體驗深度驗鑒偽技術?！拔覀兿仁悄M詐騙分子AI換臉的過程，再去反向學習技術，進而升級迭代反制系統(tǒng)?！敝袊苿有畔踩c管理運行中心副經(jīng)理王曉晴介紹，中國移動在實名入網(wǎng)業(yè)務上開展了試點應用，基于鑒偽技術可實時檢測實名驗證過程中的AI人臉，主動防范AI換臉線上開卡、補卡等風險發(fā)生，鑒偽的精確率達90%以上。
“一旦辨別為AI人臉就會彈窗警告，提醒相關用戶存在的風險。”王曉晴表示，深度鑒偽技術還將在5G新通話等業(yè)務場景中試點應用，對新通話內容進行偽造檢測、內容有害檢測等，及時發(fā)現(xiàn)涉詐有害風險，有效防范涉詐等違法違規(guī)事件。
不僅如此，深度鑒偽技術還可為多業(yè)務場景賦能，包括金融行業(yè)中人臉認證環(huán)節(jié)檢測AI人臉、互聯(lián)網(wǎng)行業(yè)進行AI人臉檢測及有害內容審核等。王曉晴表示，我們希望通過技術優(yōu)化迭代能夠賦能各行各業(yè)的發(fā)展，也能為AI技術發(fā)展筑起一道安全的銅墻鐵壁。
精準識別25種騙局 讓“一老一小”安心通話
老年人和未成年人獲得信息的渠道相對較為單一，對各種騙術了解不多，容易成為詐騙分子“下手”的對象。如何為“一老一小”構建安全通訊環(huán)境？通過通訊技術手段攔截電信網(wǎng)絡詐騙電話或許是一種新的嘗試。
記者在中國移動展位看到，一位觀眾體驗名為羲和·防詐衛(wèi)士的全場景防詐服務，運用這一服務遠程臨時停機用戶家人的手機，防止詐騙電話繼續(xù)轟炸?！爱敗焕弦恍 拥皆p騙電話轟炸時，用戶可以給他的家人進行遠程微停機——停機期間無法上網(wǎng)、沒有通話功能，讓騙子無從下手?！蓖鯐郧缃榻B，該項服務通過AI自動檢測到用戶家人接聽疑似詐騙電話時，將自動向用戶及家人發(fā)送必達通知，實現(xiàn)識別預警。若家人處于通話中并未看到提醒消息，用戶可向家人發(fā)送語音預警，直接在當前來電中插播語音提醒。同時用戶可以遠程臨時停機家人的手機，防止詐騙電話繼續(xù)轟炸。
“該系統(tǒng)是融合號、卡、消息、通話、大數(shù)據(jù)、AI、防詐險等資源稟賦和特色能力，一站式提供智能識詐、智能預警、智家聯(lián)動的全場景防詐服務。”王曉晴表示，這一服務提供25種騙局套路文本的識別，目前準確率達到99%。
如何識別“換臉騙局”
如果接收到視頻信息、視頻通話，要仔細觀察對方的面部輪廓是否存在異常的模糊，光線是否正常。
如果有必要的話，可以要求對方快速大幅度地抬頭、點頭，轉頭，然后來仔細觀察這個過程當中，面部輪廓是否有異常模糊。
防止網(wǎng)絡詐騙還是要從上游入手，首先要防止個人信息的過度外泄。
在遇到疑似AI換臉的場景中，可以選擇通過更加直接的方式，比如說給當事人打個電話，確認對方身份是否真實。
(編輯： 吳嘉祺)
