近期，中國香港警方披露了一起AI（人工智能）“多人換臉”詐騙案，涉案金額高達2億港元。一家跨國公司香港分部的職員，受邀參加總部首席財務官發(fā)起的多人視頻會議，并按照要求轉(zhuǎn)賬多次，將2億港元轉(zhuǎn)賬到5個銀行賬戶內(nèi)，其后向總部查詢方知受騙。警方調(diào)查得知，這起案件所謂的視頻會議中，只有受害者一人為“真人”，其余全部是經(jīng)過AI換臉后的詐騙人員。

文生視頻模型Sora的橫空出世進一步推動人工智能技術快速發(fā)展，其是否會讓AI換臉詐騙的門檻變得越來越低？

記者就此采訪中國網(wǎng)絡空間安全協(xié)會人工智能安全治理專委會專家、天融信科技集團副總裁薛智慧，他表示：“隨著Sora生成視頻的質(zhì)量和逼真度提高，確實可能進一步催生AI換臉等詐騙行為。社會各界需要提高警覺，采取有效措施來識別和防范這類詐騙行為，包括發(fā)展更先進的檢測工具和技術、加強對公眾的網(wǎng)絡安全教育以及通過法律和倫理規(guī)范來限制和監(jiān)管這類技術的使用?！?/p>

記者了解到，天融信、深信服、佳緣科技、啟明星辰、安恒信息、三六零、綠盟科技、奇安信等多家A股上市公司，均在網(wǎng)絡安全方面加碼布局。

拆解AI換臉詐騙原理

據(jù)了解，AI換臉技術能夠?qū)⒁粋€人的面部替換成另一個人的面部，堪稱現(xiàn)代網(wǎng)絡“易容術”。這一技術可能被不法分子利用，進行詐騙、誹謗或其他惡意活動。

薛智慧向《證券日報》記者拆解了AI換臉詐騙的原理，他表示：“AI換臉詐騙可概括為兩大部分。第一部分是畫面處理，先利用深度學習算法精準地識別視頻中的人臉圖像，提取出如眼睛、鼻子、嘴巴等關鍵面部特征，再基于這些特征，實現(xiàn)視頻中人臉與目標人臉的對齊，隨后將目標人臉覆蓋、融合到視頻中的人臉上，達到換臉效果，最后借助原始輸入視頻的背景或者利用其他技術虛構的渲染背景，得到最終的輸出畫面；第二部分是聲音處理，借助AI換聲，來模擬目標人物的聲音，用于詐騙的視頻、直播等。”

“面對肉眼越來越難以分辨真假的偽造視頻，在技術層面，可以運用人工智能對抗技術、數(shù)字水印技術、身份認證等技術來應對。”薛智慧表示，“具體來看，可以通過不斷改進和提升的人工智能對抗技術來檢測和識別虛假的、構造的圖像、音視頻、文本等內(nèi)容，也可以應用數(shù)字水印技術，將數(shù)字水印嵌入到采集的圖像、音視頻數(shù)據(jù)中，這樣系統(tǒng)在播放時就能通過水印技術來驗證數(shù)據(jù)的真實性。在一些需要身份驗證、轉(zhuǎn)賬匯款等特殊場景，可以采用多因子認證，比如生物特征、二次密碼等技術，用以檢測和識別虛假偽造的信息?！?/p>

記者了解到，針對AI換臉等，天融信等多家上市公司深入研究其原理，以推動自身技術、產(chǎn)品及服務的升級，更好地應對新技術可能帶來的網(wǎng)絡安全隱患。

網(wǎng)絡安全受關注

Sora對于網(wǎng)絡安全行業(yè)的發(fā)展是把“雙刃劍”?？品降弥菐煅芯控撠熑藦埿略颉蹲C券日報》記者表示：“一方面，Sora的誕生可能催生新的安全漏洞和攻擊手段，給網(wǎng)絡安全行業(yè)帶來新的挑戰(zhàn)。同時，視頻生成技術處理的數(shù)據(jù)往往涉及個人隱私，如果處理不當或遭受攻擊，可能導致嚴重的隱私泄露事件。這些都將令網(wǎng)絡安全防護成本增加。另一方面，Sora帶來網(wǎng)絡安全需求，將推動行業(yè)的發(fā)展和創(chuàng)新?！?/p>

與此同時，人工智能技術在網(wǎng)絡安全領域的應用也越來越廣泛。記者了解到，深信服、奇安信、安恒信息、天融信等10余家公司已經(jīng)發(fā)布“人工智能+網(wǎng)絡安全”產(chǎn)品，今年這些產(chǎn)品有望進一步鋪開。其中，天融信推出了融入AI技術的防火墻、天問大模型等多款創(chuàng)新型產(chǎn)品。深信服則發(fā)布國內(nèi)首個企業(yè)級安全GPT云端大模型技術應用——深信服安全GPT，這款自主開發(fā)的大模型可以自動分析用戶安全現(xiàn)狀，生成處置建議，同時可以實現(xiàn)對話式智能交互，提高用戶體驗，降低對運營人員的專業(yè)要求。

北京社科院副研究員王鵬在接受《證券日報》記者采訪時表示：“根據(jù)相關數(shù)據(jù)顯示，我國網(wǎng)絡安全市場規(guī)模已連續(xù)多年保持高速增長。產(chǎn)業(yè)鏈方面，我國已形成了包括硬件設備、軟件產(chǎn)品、安全服務、安全集成等在內(nèi)的完整產(chǎn)業(yè)鏈。技術方面，我國網(wǎng)絡安全產(chǎn)業(yè)在防火墻、入侵檢測、病毒防護等傳統(tǒng)安全領域已具備較強實力，同時在云計算、大數(shù)據(jù)、物聯(lián)網(wǎng)等新興技術領域的安全防護能力也在不斷提升。未來要繼續(xù)推動網(wǎng)絡安全產(chǎn)業(yè)的創(chuàng)新發(fā)展?！?/p>