專題：2024金融街論壇年會

　　炒股就看金麒麟分析師研報(bào)，權(quán)威，專業(yè)，及時(shí)，全面，助您挖掘潛力主題機(jī)會！

　　10月18日至20日，2024金融街論壇年會在京舉行。中國科學(xué)院院士、中國科學(xué)院軟件研究所研究員馮登國出席“AI重塑金融與安全治理”分論壇并作報(bào)告分享。

　　馮登國表示，人工智能尤其是大模型的廣泛應(yīng)用帶來眾多的安全風(fēng)險(xiǎn)和挑戰(zhàn)。國家重要敏感數(shù)據(jù)面臨極大的泄漏風(fēng)險(xiǎn)，針對關(guān)鍵信息基礎(chǔ)設(shè)施的網(wǎng)絡(luò)攻擊變得更加自動化和智能化，加劇了深度偽造對國家政治、社會治安、金融秩序、倫理道德的危害。同時(shí)，大模型的“幻覺”缺陷導(dǎo)致大量錯(cuò)誤信息涌現(xiàn)，人工智能武器化帶來極強(qiáng)的攻擊優(yōu)勢，大模型安全測評面臨技術(shù)挑戰(zhàn)。

　　為了減小人工智能尤其是大模型的應(yīng)用帶來的安全風(fēng)險(xiǎn)，馮登國建議加強(qiáng)隱私保護(hù)的模型推理研究，增加人工智能在網(wǎng)絡(luò)攻防領(lǐng)域中的角色，建立大模型安全理論體系與測評體系?！叭斯ぶ悄馨踩矐?yīng)有等級之分，需要有針對性地切實(shí)提升我國的人工智能安全測評和把關(guān)能力，建成國際一流的人工智能安全測評平臺?！瘪T登國稱。