“AI換臉”調查：“丟臉”同時(shí)暗藏“丟錢(qián)”風(fēng)險 券商提示警惕高仿真詐騙手段

    本報記者 李冰 周尚伃

    5月24日，中國互聯(lián)網(wǎng)協(xié)會(huì )發(fā)布公告稱(chēng)，伴隨著(zhù)深度合成技術(shù)的開(kāi)放開(kāi)源，深度合成產(chǎn)品和服務(wù)逐漸增多，利用“AI換臉”“AI換聲”等虛假音視頻進(jìn)行詐騙、誹謗的違法行為屢見(jiàn)不鮮。廣大公眾需提高警惕，加強防范。事實(shí)上，近段時(shí)間AI行業(yè)發(fā)展亂象引發(fā)關(guān)注，如何保障人工智能的健康、可持續發(fā)展正被業(yè)界廣泛探討。

    《證券日報》記者連日來(lái)通過(guò)走訪(fǎng)調查發(fā)現，“AI換臉”技術(shù)復雜度逐步降低且質(zhì)量迅速提升，廣大公眾不容易辨別真假。同時(shí)，該類(lèi)形式詐騙已蔓延至金融行業(yè)中，已有部分券商提示投資者謹防此類(lèi)高仿真詐騙手段。

    受訪(fǎng)專(zhuān)家普遍認為，“AI換臉”技術(shù)的濫用給金融機構敲響了警鐘，其復雜性、隱蔽性、突發(fā)性對機構的科技識別及運用提出了更高的要求。

    “AI換臉”技術(shù)

    成本不斷下降

    如今，打開(kāi)搜索平臺和社交媒體，各類(lèi)“AI換臉”銷(xiāo)售及教程比比皆是?！蹲C券日報》記者以購買(mǎi)者身份咨詢(xún)一位銷(xiāo)售“AI換臉”服務(wù)的公司，該公司客服稱(chēng)，視頻換臉的價(jià)格根據分辨率和視頻長(cháng)度來(lái)確定，按每30秒一條來(lái)計算價(jià)格。根據對方提供的清單，預充3000元可以獲得6條視頻、預充5000元可獲得20條視頻、預充3萬(wàn)元可獲得3000條視頻，充值越多單價(jià)越低。

    在對方展示的教學(xué)視頻中，使用者僅需要上傳一張臉部照片，即可通過(guò)簡(jiǎn)單的步完成“一鍵換臉”?？头Q(chēng)，換臉后的視頻可以綁定視頻號等正規直播間。記者觀(guān)察其提供的成片效果，已是真假難辨。

    北京大成律師事務(wù)所高級合伙人、香港城市大學(xué)法律學(xué)院訪(fǎng)問(wèn)學(xué)者肖颯認為：“‘AI換臉’成本降低，會(huì )帶來(lái)技術(shù)的濫用，各方應致力于規范技術(shù)發(fā)展。”

    “‘AI換臉’技術(shù)相關(guān)成本涉及技術(shù)復雜度、所獲取人臉質(zhì)量和數量、算法和模型選擇等。盡管‘AI換臉’技術(shù)成本有所差異，但總體而言呈下降趨勢。其中，隨著(zhù)算法和模型等技術(shù)的進(jìn)步，‘AI換臉’技術(shù)復雜度會(huì )進(jìn)一步降低，且換臉質(zhì)量隨之提升。”中關(guān)村科金金融事業(yè)部技術(shù)專(zhuān)家張巍向《證券日報》記者解釋道。

    索信達控股AI創(chuàng )新中心主任邵俊告訴《證券日報》記者：“目前‘AI換臉’技術(shù)已較為成熟，且成本不斷下降，容易被不法分子所使用。值得關(guān)注的是，被打包銷(xiāo)售的個(gè)人信息是‘AI換臉’詐騙中所需投喂的‘原料’，這種侵犯個(gè)人隱私及售賣(mài)信息的行為需嚴厲打擊。”

    防范不法分子利用新技術(shù)

    實(shí)施金融詐騙

    記者在調查中了解到，當前“AI換臉”詐騙正向金融行業(yè)蔓延，已有券商發(fā)布了提示性公告。

    例如，太平洋證券發(fā)布公告稱(chēng)，有不法分子利用“AI換臉”和聲紋等新技術(shù)冒充金融機構從業(yè)人員實(shí)施詐騙。此類(lèi)事件中，不法分子利用以假亂真的技術(shù)冒充與投資者有業(yè)務(wù)往來(lái)的金融機構從業(yè)人員或其他可信人員身份，通過(guò)直播加群引導，瀏覽假冒金融機構網(wǎng)站和下載仿冒的官方App等各類(lèi)方式，獲取投資者的信任、騙取投資者的錢(qián)財。

    太平洋證券表示，投資者務(wù)必提高警惕，識別“AI換臉”等高仿真詐騙手段，切勿未經(jīng)多方證實(shí)隨意相信微信朋友視頻救急、金融人員提供的穩賺新股申購或高收益理財產(chǎn)品機會(huì )等；更不要盲目支付會(huì )員費或授權他人代理操作賬戶(hù)管理及交易事項。

    那么，應對“AI換臉”等新型詐騙手段，投資者該如何防范風(fēng)險？易觀(guān)分析金融行業(yè)高級咨詢(xún)顧問(wèn)蘇筱芮對記者表示：“目前一些金融從業(yè)人員與金融客戶(hù)借助企業(yè)微信、個(gè)人微信等社交渠道，通過(guò)一對一的方式建立聯(lián)系、進(jìn)行業(yè)務(wù)維護，容易被不法分子利用‘AI換臉’詐騙。建議個(gè)人與機構員工通過(guò)微信等軟件聯(lián)系時(shí)獲取的信息，尤其是涉及投資、轉賬等資金類(lèi)敏感信息，需要再通過(guò)機構官方App、官方熱線(xiàn)等渠道進(jìn)行交叉核實(shí)。”

    “個(gè)人信息泄露是精準詐騙的根源。個(gè)人應保管好自身信息，不要隨意向陌生人透露或授權；在使用社交平臺時(shí)，要注意設置隱私權限；謹慎訪(fǎng)問(wèn)未知網(wǎng)址，謹慎安裝不明來(lái)源App，謹慎打開(kāi)可疑文件，保持手機系統和軟件更新。”浙江大學(xué)國際聯(lián)合商學(xué)院數字經(jīng)濟與金融創(chuàng )新研究中心聯(lián)席主任、研究員盤(pán)和林告訴記者。

    記者在調查過(guò)程中也發(fā)現，目前在證券開(kāi)戶(hù)、業(yè)務(wù)辦理、銀行貸款等方面，金融機構科技識別及運用較為全面，有助于進(jìn)一步消除風(fēng)險。

    一位金融機構相關(guān)負責人表示：“當前金融系統人臉識別對于防范‘AI換臉’做得較為全面，但凡是人臉識別的場(chǎng)景，往往都需要視頻者全方位展示，如面部、眨眼、張嘴等，這些是判斷是否為‘AI換臉’較為有效的路徑。”

    另有金融機構相關(guān)負責人對《證券日報》記者表示：“‘AI換臉’技術(shù)并非是新生事物，此前機構在貸前審核時(shí)，也曾遇到過(guò)客戶(hù)用‘換臉’技術(shù)騙貸。對于機構而言，在貸前生物識別中，人臉識別僅是一部分，審核流程中還有多重識別、交叉驗證及多模態(tài)生物防偽等，均可驗證其是否為AI臉或是被‘換臉’。”

    業(yè)內人士普遍認為，“AI換臉”本身在機構放貸及其他業(yè)務(wù)方面不太容易蒙混過(guò)關(guān)，更多的是敲響警鐘，提醒機構進(jìn)一步提高科技識別及運用能力，防范相關(guān)風(fēng)險。