21世紀(jì)經(jīng)濟(jì)報(bào)道記者柳寧馨 烏鎮(zhèn)報(bào)道
11月20日，以“擁抱以人為本、智能向善的數(shù)字未來——攜手構(gòu)建網(wǎng)絡(luò)空間命運(yùn)共同體”為主題的2024年世界互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)峰會(huì)在浙江烏鎮(zhèn)開幕。
今年是世界互聯(lián)網(wǎng)大會(huì)新十年的開始，AI成為重要方向，安全與發(fā)展是同等重要的命題。如何看待今年AI應(yīng)用的迅速生長(zhǎng)態(tài)勢(shì)？大模型本身技術(shù)發(fā)展現(xiàn)狀在安全領(lǐng)域的應(yīng)用程度如何？圍繞這些問題，21世紀(jì)經(jīng)濟(jì)報(bào)道記者采訪了安恒信息高級(jí)副總裁、研究院院長(zhǎng)王欣。
王欣認(rèn)為，一是AI垂直化趨勢(shì)明顯，AI技術(shù)正逐漸從通用型向更加專業(yè)化、垂直化的方向發(fā)展。
二是技術(shù)成熟度提升，AI在特定任務(wù)上的表現(xiàn)越來越接近甚至超過人類水平。這使得AI能夠在更多領(lǐng)域得到實(shí)際應(yīng)用，從理論研究走向商業(yè)落地。
三是生態(tài)系統(tǒng)逐步完善，AI產(chǎn)業(yè)鏈上下游的合作日益緊密，形成了較為完整的生態(tài)系統(tǒng)。此外，用戶對(duì)AI產(chǎn)品的接受度也在不斷提高。政府和資本對(duì)AI技術(shù)的支持力度不斷加大，這為AI技術(shù)的研發(fā)和應(yīng)用提供了良好的外部環(huán)境。
不過，隨著人工智能的迅猛發(fā)展，Deepfake等偽造技術(shù)正在延展至經(jīng)濟(jì)、社會(huì)更廣泛領(lǐng)域。在王欣看來，當(dāng)前人工智能技術(shù)快速發(fā)展的背景下，確保人工智能技術(shù)的正向應(yīng)用，防止其被用于不正當(dāng)目的，已成為整個(gè)行業(yè)乃至社會(huì)共同面臨的重大挑戰(zhàn)。面對(duì)這一問題，利用AI技術(shù)本身來對(duì)抗?jié)撛诘臑E用成為了一種高效且必要的手段。
“從技術(shù)角度來看，通過深度學(xué)習(xí)構(gòu)建的檢測(cè)模型能夠自動(dòng)從海量數(shù)據(jù)中學(xué)習(xí)偽造內(nèi)容的獨(dú)特特征，如圖像或視頻中的異常紋理、不自然的面部動(dòng)作等。這不僅實(shí)現(xiàn)了高精度的偽造內(nèi)容識(shí)別，而且隨著訓(xùn)練數(shù)據(jù)量的增長(zhǎng)，模型的性能將不斷提升。”王欣說。
王欣重點(diǎn)提出，對(duì)于復(fù)雜的偽造內(nèi)容，引入多模態(tài)分析尤為重要。雖然偽造技術(shù)可能在某一特定模態(tài)（如視覺或聽覺）上達(dá)到高度逼真的效果，但在多模態(tài)一致性方面往往存在缺陷。
例如，在Deepfake視頻中，人物的表情與語音之間可能會(huì)出現(xiàn)微妙的不協(xié)調(diào)。多模態(tài)分析通過整合視覺、聽覺等多種信息源，有效提高了偽造內(nèi)容檢測(cè)的準(zhǔn)確率。
此外，鑒于偽造技術(shù)的不斷演進(jìn)，檢測(cè)方法也需持續(xù)更新以保持有效性。采用自適應(yīng)學(xué)習(xí)機(jī)制可以使檢測(cè)系統(tǒng)基于最新的偽造案例自動(dòng)調(diào)整優(yōu)化策略，從而確保對(duì)新型偽造技術(shù)的及時(shí)響應(yīng)和高效對(duì)抗。這種動(dòng)態(tài)防御策略對(duì)于維護(hù)網(wǎng)絡(luò)空間的安全與誠(chéng)信至關(guān)重要。
大模型本身技術(shù)發(fā)展現(xiàn)狀在安全領(lǐng)域的應(yīng)用程度如何？在王欣看來，大模型技術(shù)在數(shù)據(jù)安全中的應(yīng)用和潛力是一個(gè)非常重要且具有廣闊前景的領(lǐng)域。例如，數(shù)據(jù)分類分級(jí)智能體借助 AI 對(duì)行業(yè)和業(yè)務(wù)特性的理解，將效率提升30倍；API 智能體基于對(duì) API 接口用途的深入理解，提升了 API 資產(chǎn)純凈度、風(fēng)險(xiǎn)準(zhǔn)確率和研判效率；DLP 智能體則憑借對(duì)文檔內(nèi)容和敏感性的鑒別，實(shí)現(xiàn)大模型智能全自動(dòng)識(shí)別，這些都彰顯了 AI 在數(shù)據(jù)安全領(lǐng)域的強(qiáng)大力量。
智能體的廣泛應(yīng)用不僅提升了效率和智能化水平，還對(duì)數(shù)據(jù)安全、隱私保護(hù)和合規(guī)性提出了更高的要求。“這種服務(wù)方式和交付方式的變革，對(duì)網(wǎng)絡(luò)安全行業(yè)具有顛覆性的影響，促使我們必須更加注重高質(zhì)量發(fā)展。這要求我們?cè)诩夹g(shù)創(chuàng)新的同時(shí)，加強(qiáng)安全管理，確保智能體的安全可靠。”王欣說。
本文鏈接：安恒信息王欣：AI走向垂直應(yīng)用，大模型在數(shù)據(jù)安全領(lǐng)域前景廣闊http://www.lensthegame.com/show-4-13719-0.html
聲明：本網(wǎng)站為非營(yíng)利性網(wǎng)站，本網(wǎng)頁(yè)內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn)，不代表本站觀點(diǎn)，本站不承擔(dān)任何法律責(zé)任。天上不會(huì)到餡餅，請(qǐng)大家謹(jǐn)防詐騙！若有侵權(quán)等問題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。
上一篇： 國(guó)資委：要推動(dòng)中央企業(yè)穿越經(jīng)濟(jì)周期 支持企業(yè)開啟增長(zhǎng)的“第二曲線”
下一篇： 商務(wù)部印發(fā)《關(guān)于促進(jìn)外貿(mào)穩(wěn)定增長(zhǎng)的若干政策措施》