9月6日，《虛假數(shù)字人臉檢測(cè)金融應(yīng)用技術(shù)規(guī)范》標(biāo)準(zhǔn)（下稱《標(biāo)準(zhǔn)》）在2024Inclusion·外灘大會(huì)上正式發(fā)布。標(biāo)準(zhǔn)規(guī)定了金融領(lǐng)域虛假數(shù)字人臉檢測(cè)服務(wù)的功能要求、技術(shù)要求、性能要求等，并提出了對(duì)應(yīng)的測(cè)試評(píng)估方法。 據(jù)了解，這是國(guó)內(nèi)首個(gè)面向金融場(chǎng)景的“AI 換臉”檢測(cè)標(biāo)準(zhǔn)，中關(guān)村金融科技產(chǎn)業(yè)發(fā)展聯(lián)盟秘書(shū)長(zhǎng)、中關(guān)村互聯(lián)網(wǎng)金融研究院院長(zhǎng)劉勇在演講時(shí)說(shuō)：“該標(biāo)準(zhǔn)的發(fā)布為金融場(chǎng)景下的虛假數(shù)字人臉安全檢測(cè)和評(píng)估提供了依據(jù)，也填補(bǔ)了這一領(lǐng)域的空白。”

  該標(biāo)準(zhǔn)在中關(guān)村金融科技產(chǎn)業(yè)發(fā)展聯(lián)盟組織下，由螞蟻天璣實(shí)驗(yàn)室和工商銀行、建設(shè)銀行、郵儲(chǔ)銀行、中信銀行、北京國(guó)家金融科技認(rèn)證中心、中關(guān)村互聯(lián)網(wǎng)金融研究院、網(wǎng)商銀行、北京前沿金融監(jiān)管科技研究院等十幾家機(jī)構(gòu)共同撰寫(xiě)。

  《標(biāo)準(zhǔn)》在“功能”和“性能”兩方面作出了具體規(guī)定。功能層面，相關(guān)機(jī)構(gòu)應(yīng)具備替換、活化、深度偽造等五種情況下的虛假數(shù)字人臉檢測(cè)功能。性能層面，相關(guān)機(jī)構(gòu)應(yīng)建立不少5000張的真實(shí)數(shù)字人臉數(shù)據(jù)集，和不同偽造形式的虛假人臉數(shù)據(jù)集，以應(yīng)對(duì)現(xiàn)實(shí)生活中的復(fù)雜場(chǎng)景。例如不同膚色、不同光線條件、不同清晰度、包含或不包含語(yǔ)音等都是重要維度。據(jù)了解，標(biāo)準(zhǔn)的各項(xiàng)條款均在螞蟻天璣實(shí)驗(yàn)室完成了試驗(yàn)驗(yàn)證，并且天璣實(shí)驗(yàn)室已經(jīng)開(kāi)展了面向金融機(jī)構(gòu)“AI換臉”檢測(cè)能力的測(cè)試評(píng)估服務(wù)。

  此外，《標(biāo)準(zhǔn)》也明確虛假數(shù)字人臉內(nèi)容檢測(cè)服務(wù)性能將從準(zhǔn)確性、魯棒性、泛化性、響應(yīng)速度等四個(gè)維度進(jìn)行評(píng)估，考察機(jī)構(gòu)是否具備完整的、高準(zhǔn)確度、高性能的檢測(cè)水平。據(jù)了解，在剛結(jié)束的外灘大會(huì) AI 創(chuàng)新賽·全球 Deepfake 攻防挑戰(zhàn)賽上，正是應(yīng)用了此標(biāo)準(zhǔn)的框架和指標(biāo)，進(jìn)行賽題的制定和答案的評(píng)價(jià)。

  近兩年，隨著人工智能技術(shù)的飛速發(fā)展，深度偽造技術(shù)（Deepfake）也日益成熟，它在給社會(huì)帶來(lái)便利的同時(shí)，也帶來(lái)了前所未有的安全挑戰(zhàn)。特別是金融行業(yè)，人臉識(shí)別技術(shù)作為身份鑒別的重要手段，其安全性直接關(guān)系到金融交易的安全與用戶資金的安全。然而，一些不法分子利用人工智能技術(shù)制造虛假數(shù)字人臉，企圖繞過(guò)安全機(jī)制，給金融安全帶來(lái)了嚴(yán)重的威脅。劉勇表示，希望通過(guò)這個(gè)標(biāo)準(zhǔn)指導(dǎo)金融行業(yè)及相關(guān)機(jī)構(gòu)提升識(shí)別虛假數(shù)字人臉安全能力，防范相關(guān)金融風(fēng)險(xiǎn)。