AI造謠中傷上市公司 資本市場(chǎng)亟須與時(shí)俱進(jìn)強化治理與監管

    本報記者 吳曉璐

    近日，“有頂流明星在澳門(mén)輸了10億元”的傳言風(fēng)靡網(wǎng)絡(luò )，頻頻登上熱搜。3月14日，公安部網(wǎng)安局辟謠：這則消息是一網(wǎng)民使用軟件“某書(shū)”中AI智慧生成功能生成的謠言。

    隨著(zhù)生成式AI技術(shù)快速發(fā)展，各行各業(yè)獲得賦能的同時(shí)，AI也成為造謠者的利器。從資本市場(chǎng)來(lái)看，不少上市公司深陷AI謠言。在行業(yè)人士看來(lái)，AI只是工具，需要各方加強監管，以防不合法、不合規使用，擾亂資本市場(chǎng)秩序，侵害投資者合法權益。

    多家公司被“AI造謠”擊中

    在A(yíng)I技術(shù)的加持下，造謠者制造傳播謠言的成本越來(lái)越低，AI謠言數量猛增，而且逐漸形成“謠言—AI引用—更多謠言”的黑色鏈條，大量上市公司受到影響。

    去年11月份，有人冒充比亞迪員工，稱(chēng)比亞迪要和蔚來(lái)合作成立比未來(lái)汽車(chē)集團。此后被合肥市公安局經(jīng)開(kāi)分局證實(shí)，該謠言系29歲外省男子謝某所做，利用AI軟件合成不實(shí)圖文上網(wǎng)傳播，其目的是為提升自媒體賬號的知名度、博取流量。

    今年春節期間，某AI大模型爆火之后，一批“馬甲”賬號通過(guò)散布某上市公司入股該AI大模型或者為該AI大模型提供技術(shù)支持等謠言，誤導AI大模型給出錯誤回答，誤導投資者。隨后，相關(guān)上市公司通過(guò)發(fā)布公告等方式進(jìn)行澄清。

    資本市場(chǎng)是一個(gè)“信息+信心”的市場(chǎng)，利用AI編造虛假消息、用虛假語(yǔ)料誤導AI炮制“假利好”“假利空”等行為，影響資本市場(chǎng)秩序。目前，已有網(wǎng)民編造傳播虛假不實(shí)信息，影響金融秩序，被公安機關(guān)依法處罰。

    華東政法大學(xué)國際金融法律學(xué)院教授鄭彧對《證券日報》記者表示，目前AI生成的信息既可能包括AI通過(guò)網(wǎng)絡(luò )截取到指定信息披露媒體的信息，也有可能包含自媒體或者其它非指定信息披露媒體所刊載的信息，這就使得AI生成的信息真假難辨，且無(wú)法溯源，從而誤導投資者的決策判斷，同時(shí)也使得無(wú)法追索假信息的來(lái)源從而沒(méi)有辦法進(jìn)行損失的維權。

    “利用AI生成的虛假信息對資本市場(chǎng)的影響是多方面的，其危害不容忽視。”某大型投資機構量化團隊相關(guān)負責人對《證券日報》記者表示，首先，虛假信息可能誤導投資者決策，導致資產(chǎn)價(jià)格偏離其真實(shí)價(jià)值，破壞市場(chǎng)定價(jià)效率；其次，虛假信息可能加劇市場(chǎng)波動(dòng)，引發(fā)恐慌性?huà)伿刍蚍抢硇宰窛q，擾亂市場(chǎng)秩序；再次，虛假信息還可能被不法分子用于操縱市場(chǎng)，通過(guò)散布“假利好”或“假利空”來(lái)牟取非法利益，損害投資者權益；最后，更為嚴重的是，虛假信息的泛濫可能削弱投資者對市場(chǎng)信息的信任，影響資本市場(chǎng)的長(cháng)期健康發(fā)展。

    對AI信息投資者需長(cháng)上“火眼金睛”

    今年以來(lái)，在某AI大模型爆火之后，越來(lái)越多年輕投資者向其尋求關(guān)于資產(chǎn)配置的建議。近日，《證券日報》記者做的一份問(wèn)卷調查結果顯示，超過(guò)一半（57.5%）的投資者曾向AI軟件咨詢(xún)過(guò)投資理財建議。只有不到兩成的投資者認為AI提供的信息準確，接近六成認為AI回復一半對一半錯，還有超過(guò)兩成認為AI的回復中，絕大部分是錯誤內容。

    “很多AI數據都是舊的，所以對投資理財沒(méi)什么參考。”有投資者對記者坦言。問(wèn)卷調查顯示，超過(guò)六成的投資者也不會(huì )相信AI的薦股信息，有三成投資者認為需要視情況而定，只有個(gè)別投資者會(huì )相信AI的薦股。

    除了部分投資者直接向AI軟件尋求幫助，可能會(huì )受到AI虛假信息的影響外，量化交易利用AI大模型進(jìn)行投資，部分采用事件驅動(dòng)量化投資策略也可能會(huì )受到影響。

    “傳統量化投資策略主要是基于量?jì)r(jià)因子的挖掘，所用到的基本上是客觀(guān)真實(shí)的市場(chǎng)數據。對于這類(lèi)量化投資策略，黑嘴用虛假語(yǔ)料炮制‘假利好’對其造成影響的可能性較小。”上述量化團隊相關(guān)負責人表示，還有一類(lèi)量化投資策略是基于分析市場(chǎng)情緒、新聞、社交媒體等信息，進(jìn)而做出投資判斷。對這種事件型驅動(dòng)的量化投資策略，如果黑嘴利用虛假語(yǔ)料誤導大模型，炮制“假利好”信息，則可能會(huì )對量化投資決策產(chǎn)生顯著(zhù)影響。

    格上理財旗下金樟投資投研總監付饒在接受《證券日報》記者采訪(fǎng)時(shí)表示，資本市場(chǎng)上的信息量較大，信息質(zhì)量也參差不齊，AI能夠做到在極短時(shí)間內生成大量?jì)热?，然而這些內容是信息的整合和整理，其可信度通常還需要人為力量來(lái)識別。這就意味著(zhù)，基金管理人需要有能力識別和分析這些內容的真實(shí)性，在新的投資時(shí)代下，AI為管理人提供更加高效工具的同時(shí)，對管理人也提出新要求。

    對于投資者而言，需要提高辨別能力，來(lái)辨別AI消息的真假。上述量化團隊負責人表示，首先，應優(yōu)先選擇權威、可信的信息來(lái)源；其次，可以通過(guò)多源信息交叉驗證，對比不同渠道的數據和觀(guān)點(diǎn)，判斷信息可信度；再次，投資者還應關(guān)注信息的邏輯一致性，識別其中可能存在的矛盾或夸大之處；最后，投資者應加強對AI技術(shù)的學(xué)習，了解其生成內容的局限性，避免盲目依賴(lài)AI問(wèn)答結果。通過(guò)提高信息辨別能力，投資者可以更好地應對AI虛假信息帶來(lái)的挑戰，保護自身利益。

    鄭彧建議，對于普通投資者，不能直接將AI問(wèn)答作為選股或者投資決策的參考，但是可以借助AI理解有關(guān)資本市場(chǎng)價(jià)格形成機制的原理和道理，比如詢(xún)問(wèn)AI有關(guān)“資產(chǎn)負債率在特定行業(yè)的影響”等這些專(zhuān)業(yè)性的問(wèn)題，通過(guò)對于這些問(wèn)題的了解來(lái)理解擬投資行業(yè)、標的的投資價(jià)值。

    多舉措加強對AI謠言監管

    近期，多方已經(jīng)開(kāi)始行動(dòng)，加強對AI謠言的治理和監管。3月11日，微博社區觀(guān)察員官方賬號發(fā)文表示，將對未標識的“AI謠言”及時(shí)展開(kāi)治理。平臺將結合AI技術(shù)能力、專(zhuān)項人工審核與用戶(hù)舉報投訴，積極識別未標識的AI內容，并對相應情況予以相應處置。

    據“網(wǎng)信中國”微信公眾號3月14日消息，近日，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內容標識辦法》，規范人工智能生成合成內容標識，保護公民、法人和其他組織合法權益，維護社會(huì )公共利益。

    上述量化團隊負責人表示，在A(yíng)I大模型廣泛應用于金融市場(chǎng)的背景下，為減少其對市場(chǎng)的負面影響，建議可從以下幾方面作為切入點(diǎn)：一是明確AI大模型在投資決策中的使用范圍和邊界，制定相關(guān)法律法規，確保其應用符合市場(chǎng)公平性和透明性的原則；二是聚焦于數據質(zhì)量和真實(shí)性，建立嚴格的語(yǔ)料審核機制，防止虛假信息或操縱性數據污染模型訓練過(guò)程；三是加強對AI模型的動(dòng)態(tài)監控，如要求機構定期提交模型運行報告，包括其預測準確性、風(fēng)險控制能力和異常事件處理情況，以便及時(shí)發(fā)現并糾正模型偏差或漏洞；四是關(guān)注市場(chǎng)操縱行為，特別是利用AI技術(shù)炮制虛假信息或進(jìn)行高頻交易操縱市場(chǎng)的現象，通過(guò)技術(shù)手段追蹤異常交易行為并加大處罰力度；五是任何向客戶(hù)提供分析意見(jiàn)或建議的主體都必須是具有業(yè)務(wù)資質(zhì)的持牌機構，防止非法或不合規的機構誤導投資者。