科技日?qǐng)?bào)記者 張夢(mèng)然
伴隨人工智能(AI)技術(shù)在手機(jī)設(shè)備中的迅速發(fā)展，利用仿冒人臉等手段實(shí)施詐騙犯罪的風(fēng)險(xiǎn)與日俱增。針對(duì)這一問(wèn)題，各國(guó)手機(jī)企業(yè)正加快安全領(lǐng)域的技術(shù)創(chuàng)新。而中國(guó)榮耀手機(jī)日前宣布，將于2025年4月在全球范圍內(nèi)商業(yè)化應(yīng)用“AI換臉”檢測(cè)技術(shù)，這也將是目前首個(gè)“AI反詐”技術(shù)的商業(yè)化應(yīng)用。
“AI換臉”技術(shù)已被一些不法分子用于網(wǎng)絡(luò)詐騙、誹謗等違法犯罪行為，帶來(lái)了很大的社會(huì)隱患。根據(jù)Entrust網(wǎng)絡(luò)安全研究所的數(shù)據(jù)，2024年每五分鐘就發(fā)生一次深度偽造攻擊，數(shù)字文件偽造同比2023年增加了244%。2023年11月至2024年11月，全球92%的企業(yè)經(jīng)歷了身份欺詐，但與之伴隨的，卻是應(yīng)對(duì)深度偽造風(fēng)險(xiǎn)協(xié)議的缺失。畢馬威公司調(diào)研報(bào)告稱，從2023年第一季度到2024年第一季度，數(shù)字經(jīng)濟(jì)中的深度偽造現(xiàn)象同比增長(zhǎng)顯著，其中網(wǎng)游為1520%、市場(chǎng)營(yíng)銷為900%、金融科技為533%、加密貨幣業(yè)為217%和咨詢業(yè)為138%。德勤公司報(bào)告則顯示，在財(cái)務(wù)損失方面，生成式AI可能使欺詐損失從2023年的123億美元，增加到2027年的400億美元，復(fù)合年增長(zhǎng)率為32%。
在2024年舉行的柏林消費(fèi)電子展上，中國(guó)榮耀宣布研發(fā)出了全球首個(gè)基于設(shè)備端的“AI換臉”反詐檢測(cè)技術(shù)。該技術(shù)基于深度學(xué)習(xí)模型，通過(guò)分析圖像中的面部特征和行為模式，能夠?qū)崟r(shí)識(shí)別出AI生成的偽造內(nèi)容。據(jù)悉，在即將舉行的2025年世界移動(dòng)通信大會(huì)（MWC 2025）上，榮耀將把這一技術(shù)作為“阿爾法戰(zhàn)略”一部分，公布相關(guān)戰(zhàn)略與詳細(xì)內(nèi)容。
聯(lián)合國(guó)工業(yè)發(fā)展組織印尼、東帝汶及東盟事務(wù)代表馬可·神谷稱，在移動(dòng)設(shè)備上使用AI深度偽造檢測(cè)是一種強(qiáng)有力的武器，可以對(duì)抗深度偽造。它能夠檢測(cè)出人眼可能忽略的深度偽造內(nèi)容中的缺陷，例如眼神接觸、光線、圖像清晰度和視頻播放，從而阻止人們繼續(xù)參與可能危及其安全的活動(dòng)。這使得個(gè)人、中小企業(yè)和各行業(yè)能夠在享受數(shù)字通信便利的同時(shí)，不必?fù)?dān)心隱私泄露和欺詐風(fēng)險(xiǎn)。
