9月7日，2024 Inclusion·外灘大會(huì)正式閉幕。事實(shí)上，這一天下午，距離大會(huì)閉幕幾個(gè)小時(shí)前，仍有觀眾在排隊(duì)入場(chǎng)。官方數(shù)據(jù)顯示，本屆大會(huì)共吸引了5.2萬(wàn)人現(xiàn)場(chǎng)參會(huì)，無(wú)論是參會(huì)規(guī)模還是國(guó)際嘉賓的數(shù)量，均創(chuàng)下了歷史新高。除了年輕人，記者注意到，觀眾隊(duì)伍中還有不少老人、小孩。

　　本屆外灘大會(huì)以“科技·創(chuàng)造可持續(xù)未來(lái)”為主題，包括36場(chǎng)開放見解論壇、10多場(chǎng)創(chuàng)新者舞臺(tái)、2場(chǎng)AI創(chuàng)新賽事、1場(chǎng)10000平方米的展覽以及1場(chǎng)綠色生活節(jié)和1場(chǎng)科技人才招聘會(huì)。據(jù)統(tǒng)計(jì)，三天時(shí)間內(nèi)，有30余項(xiàng)AI新成果在本屆外灘大會(huì)發(fā)布，包括螞蟻AI生活管家“支小寶”、AI金融管家“螞小財(cái)”，AI健康管家等。

　　10000平方米的展覽場(chǎng)地匯集了眾多企業(yè)參展，記者觀察到，相比往年，準(zhǔn)備各類裝備體驗(yàn)、互動(dòng)的廠商越來(lái)越多了，許多展臺(tái)前，觀眾為參與體驗(yàn)排起長(zhǎng)隊(duì)。重視人文性，成為本屆外灘大會(huì)的一大特點(diǎn)。除了開幕式上24歲的獨(dú)臂男孩周鍵借智能仿生手演奏鋼琴的動(dòng)人瞬間，在外灘大會(huì)的展區(qū)，借助設(shè)備觀眾可以體驗(yàn)將腦電波以花朵的形式可視化，讓瞬間的情緒形成紀(jì)念。還有可實(shí)現(xiàn)“擁抱傳遞”的設(shè)備，穿戴上內(nèi)嵌人造肌肉纖維的特制背心，當(dāng)另一個(gè)人擁抱裝有壓力傳感器的模型時(shí)，體驗(yàn)者便能感受到模擬其聲控、觸覺(jué)反饋和溫度調(diào)節(jié)等多種感官元素的“遠(yuǎn)程擁抱”。

　　在這一年的外灘大會(huì)上，如何讓“技術(shù)向善”的討論和研發(fā)更加被業(yè)界重視。

　　AI醫(yī)療受關(guān)注

　　為期三天的展覽中，AI醫(yī)療的相關(guān)產(chǎn)品、企業(yè)展臺(tái)總有著最多的人流量，“爸媽記憶力下降了怎么辦？”“AI如何輔助癌癥篩查？”這些問(wèn)題讓不少觀眾不自覺(jué)就邁入了相關(guān)展區(qū)，不斷有老人加入腦健康檢測(cè)，有年輕人加入腦電波的“畫圖”。

　　“和去年相比，今年外灘大會(huì)AI人工智能的份額感覺(jué)更高了，而且不是像之前傻乎乎的那種，今年的很多應(yīng)用是真的有用的，明顯能感覺(jué)到算法提升了很多，比如說(shuō)面部識(shí)別功能或者語(yǔ)音交互功能，都感覺(jué)上升了一個(gè)檔次，效果變好了，所以大家體驗(yàn)的熱情也高?！币晃粎?huì)的展商對(duì)記者表示。

　　來(lái)不及喝口水，達(dá)摩院AI醫(yī)療展臺(tái)的工作人員就迎來(lái)了下一位咨詢的觀眾，今年的外灘大會(huì)上，達(dá)摩院醫(yī)療AI實(shí)驗(yàn)室展出了其AI醫(yī)學(xué)影像分析產(chǎn)品，借助AI技術(shù)，這項(xiàng)產(chǎn)品能夠從平掃CT中進(jìn)行胰腺癌、食管癌、腸癌、胃癌等八大癌癥及一系列慢性病的篩查，吸引了不少觀眾。

　　展臺(tái)的工作人員告訴記者，通過(guò)AI識(shí)別，這項(xiàng)產(chǎn)品能夠在肝癌、肺癌等癌癥篩查中達(dá)到90%以上的準(zhǔn)確率，提升醫(yī)生的工作效率，補(bǔ)足一些醫(yī)療資源不均衡帶來(lái)的問(wèn)題。

　　“其實(shí)這項(xiàng)技術(shù)主要是面向B端的，為醫(yī)生服務(wù)，客戶更多是醫(yī)院、體驗(yàn)機(jī)構(gòu)、保險(xiǎn)公司、公益組織以及軟件廠商之類的，但這兩天很多個(gè)人也非常感興趣。”上述工作人員表示。盡管許多AI醫(yī)療產(chǎn)品并未直接面向C端用戶，但外灘大會(huì)的觀眾們對(duì)AI醫(yī)療將如何改變疾病的診治感到好奇。

　　博斯騰科技的展臺(tái)則吸引到了大量的老年觀眾，許多老人紛紛拿出手機(jī)通過(guò)支付寶“碰一碰”進(jìn)行答題，檢測(cè)自己得阿爾茲海默病的風(fēng)險(xiǎn)指數(shù)。展區(qū)的工作人員介紹，通過(guò)許多數(shù)據(jù)、資料的支撐，這款產(chǎn)品能夠通過(guò)答題測(cè)驗(yàn)、語(yǔ)音交互、動(dòng)作識(shí)別等方式檢測(cè)阿爾茲海默病，并通過(guò)大模型生成用戶專屬的腦健康訓(xùn)練計(jì)劃。

　　“我們的產(chǎn)品2020年成型，但借助攝像頭的動(dòng)態(tài)識(shí)別功能是今年剛推出的，主要是借力于AI功能的發(fā)達(dá)，包括訓(xùn)練方案的推薦，也的確在大模型出現(xiàn)后智能了很多。”該展區(qū)的工作人員告訴記者。隨著AI的發(fā)展，更多AI醫(yī)療產(chǎn)品的“進(jìn)化”值得期待。

　　需要強(qiáng)調(diào)的是，目前，許多AI醫(yī)療產(chǎn)品的診療效果仍缺乏公開數(shù)據(jù)或第三方權(quán)威機(jī)構(gòu)的驗(yàn)證，相關(guān)展臺(tái)的工作人員也均表示AI醫(yī)療產(chǎn)品無(wú)法完全代替醫(yī)生診療需求，以輔助作用為主。不過(guò)，AI在醫(yī)療問(wèn)題中的應(yīng)用的確被業(yè)界期待。

　　不少大廠也在押注AI醫(yī)療賽道。外灘大會(huì)上，支付寶發(fā)布AI應(yīng)用新產(chǎn)品“AI健康管家”，為用戶提供找醫(yī)生、讀報(bào)告、陪看診、問(wèn)醫(yī)保、管健康等30多項(xiàng)AI健康服務(wù)。百川智能創(chuàng)始人王小川則介紹，百川智能將重點(diǎn)在大醫(yī)療AI領(lǐng)域做投入，從兒科醫(yī)生、全科醫(yī)生兩個(gè)切入點(diǎn)發(fā)力，希望在明年實(shí)現(xiàn)醫(yī)療的低成本和可及性，減少醫(yī)院的擠兌現(xiàn)象。

　　全國(guó)政協(xié)常委周漢民在外灘大會(huì)的一場(chǎng)論壇中表示，隨著人工智能等新技術(shù)的不斷發(fā)展和應(yīng)用，醫(yī)療產(chǎn)業(yè)正迎來(lái)一場(chǎng)深刻的變革。據(jù)他觀察，從最初的影像診斷、輔助診療、基因檢測(cè)，到近年來(lái)的藥物發(fā)現(xiàn)、臨床試驗(yàn)、健康管理等，人工智能在提高精準(zhǔn)度與效率、個(gè)性化治療、數(shù)據(jù)處理等方面具備顯著優(yōu)勢(shì)。他指出，醫(yī)療健康與人工智能的融合還延伸到了中醫(yī)領(lǐng)域。

　　談及人工智能在醫(yī)療產(chǎn)業(yè)的應(yīng)用情況，周漢民表示，人工智能在醫(yī)療健康產(chǎn)業(yè)的應(yīng)用應(yīng)著力提高精準(zhǔn)性、適用性和安全性，此外，還需關(guān)注人工智能的引入是否會(huì)導(dǎo)致醫(yī)護(hù)人員技能萎縮、對(duì)人工智能的信任的誤判以及信息超載。

　　以AI對(duì)抗AI

　　在期待技術(shù)帶來(lái)美好生活的同時(shí)，如何預(yù)防技術(shù)“作惡”也成為外灘大會(huì)討論的熱點(diǎn)話題。

　　今年的外灘大會(huì)上，舉辦了包括“afac2024金融智能創(chuàng)新大賽”和“全球Deepfake攻防挑戰(zhàn)賽”兩場(chǎng)子賽事在內(nèi)的AI創(chuàng)新大賽，由于近日韓國(guó)曝出“Deepfake”（深度偽造技術(shù)）事件，被認(rèn)為是采用新犯罪手段的“N號(hào)房”案件重現(xiàn)，以AI對(duì)抗AI，Deepfake攻防挑戰(zhàn)賽尤其受到觀眾的挑戰(zhàn)。

　　事實(shí)上，隨著AI技術(shù)的發(fā)展，Deepfake滋生欺詐等黑色產(chǎn)業(yè)鏈，AI換臉欺詐帶來(lái)的經(jīng)濟(jì)財(cái)產(chǎn)損失、名譽(yù)受損等事件正在成為全球挑戰(zhàn)。

　　在外灘大會(huì)展區(qū)，許多觀眾現(xiàn)場(chǎng)拍照，然后利用Deepfake換臉模型和算法，通過(guò)視頻活化、微笑和眼鏡模版對(duì)觀眾的真實(shí)照片進(jìn)行換臉，親身感受了Deepfake的逼真。

　　而在外灘大會(huì)AI創(chuàng)新賽·全球Deepfake攻防挑戰(zhàn)賽的表演賽上，觀眾更是為AI識(shí)別AIGC偽造圖片感到激動(dòng)。在這場(chǎng)表演賽中，主持人拿出了9張瑪麗蓮夢(mèng)露等女星的照片，其中2張是AIGC偽造的，選手用自己的參賽模型給出每張圖片的偽造概率值，并對(duì)概率值最高的2張照片與正確答案進(jìn)行比對(duì)。最終，兩支參賽隊(duì)伍的模型都找到了正確答案。

　　在后續(xù)的互動(dòng)中，一個(gè)有趣的現(xiàn)象是，人類肉眼能夠看出“一眼假”的偽造圖片，AI可能識(shí)別不出，一些肉眼真假難辨的圖片，AI反而能識(shí)別。新加坡科技研究局周天異教授分析，人類在判斷圖像是否偽造會(huì)依賴直覺(jué)和邏輯，一些人類一眼便知的問(wèn)題AI無(wú)法聯(lián)系相關(guān)背景、情形無(wú)法識(shí)別，而一些難以識(shí)別的圖片，AI一絲不茍、勤勤懇懇地完成人類指令的工作模式反而能找出問(wèn)題。他表示，相比“一眼假”的圖片，恰恰是這些難以識(shí)別的圖片往往給人類帶來(lái)更大損失，因此，用AI應(yīng)對(duì)Deepfake有著重要意義。

　　“從我們現(xiàn)在看到的數(shù)據(jù)來(lái)看，我們叫Deepfake的攻擊也好，AIGC的生成偽造，今年的攻擊量比去年大概增加了10倍，去年攻擊的濃度大概是1%，今年就是10%。整個(gè)風(fēng)險(xiǎn)其實(shí)是呈指數(shù)級(jí)上升的情況，這不僅僅是在中國(guó)，在韓國(guó)，在菲律賓、印尼等國(guó)家都有類似的情況發(fā)生?！蓖鉃┐髸?huì)AI創(chuàng)新賽·全球Deepfake攻防挑戰(zhàn)賽出題人、ZOLOZ技術(shù)總監(jiān)姚偉斌表示，10%的濃度意味著業(yè)界發(fā)現(xiàn)線上的流量有10%是Deepfake的流量，隨著AIGC的發(fā)展，生成的成本會(huì)越來(lái)越低，效率越來(lái)越高，明年可能不是20%，可能是50%，這是一個(gè)必須重視的威脅。

　　更多引導(dǎo)AI向善的觀點(diǎn)也在外灘大會(huì)被討論，姚偉斌坦言，研發(fā)檢測(cè)算法，只是遏制Deepfake技術(shù)濫用的方式之一。這種方式是相對(duì)滯后的。如果要從根源上防范欺詐行為，姚偉斌認(rèn)為應(yīng)在標(biāo)準(zhǔn)和立法角度，要求給A IGC 內(nèi)容建立通用標(biāo)識(shí)，比如每一張AIGC生成的視頻或圖片都在文件信息里帶一個(gè)簽名或水印，這樣平臺(tái)管理更有依據(jù)，也能讓AIGC 可以更可信。

　　“讓人工智能幫助人彈鋼琴，而不是作惡?！笔潜緦猛鉃┐髸?huì)反復(fù)強(qiáng)調(diào)的價(jià)值觀。上海市數(shù)據(jù)科學(xué)重點(diǎn)實(shí)驗(yàn)室主任肖仰華表示，AI的大規(guī)模濫用是可能損害人之為人的本性的。要有所為有所不為，但凡傷害人之為人之本性的AI應(yīng)用，我們要謹(jǐn)慎，要加以限制。為此，“我們要重視技術(shù)治理，并將治理提前考慮，做到未雨綢繆?！?/p>

　　浙江強(qiáng)腦科技創(chuàng)始人兼CEO韓璧丞則表示，AI倫理委員會(huì)的存在非常重要。技術(shù)前進(jìn)的時(shí)候，更應(yīng)該關(guān)注“走的慢”的人?！爱?dāng)一個(gè)足以改變世界的技術(shù)出現(xiàn)時(shí)，我們先用它來(lái)幫助最需要的人”。

　　（本文來(lái)自第一財(cái)經(jīng)）