飛象網(wǎng)訊（易歡）2025年以來，人工智能技術(shù)迎來跨越式發(fā)展，大模型訓(xùn)練成本持續(xù)降低，智能體化應(yīng)用快速普及，“AI+”浪潮深度滲透政務(wù)、金融、醫(yī)療等關(guān)鍵領(lǐng)域，成為驅(qū)動經(jīng)濟社會發(fā)展的核心引擎。然而，技術(shù)的“雙刃劍”效應(yīng)在網(wǎng)絡(luò)空間愈發(fā)凸顯，例如：AI生成式內(nèi)容造假、智能體自主攻擊、黑產(chǎn)工具AI化等新型安全威脅持續(xù)升級，傳統(tǒng)防御體系面臨嚴峻挑戰(zhàn)。

無疑，AI技術(shù)的濫用正讓網(wǎng)絡(luò)攻擊呈現(xiàn)自動化、規(guī)�；�、隱蔽化特征，如何準確應(yīng)對AI爆發(fā)引起的網(wǎng)絡(luò)威脅，構(gòu)建適配新時代的網(wǎng)絡(luò)安全治理體系成為時代發(fā)展必須直面的重要課題。

技術(shù)濫用催生新型風險，安全防線遭遇多重沖擊

AI技術(shù)的快速迭代，正在重塑網(wǎng)絡(luò)攻擊的形態(tài)與規(guī)模，從個人權(quán)益侵害到國家關(guān)鍵設(shè)施安全，各類風險多點爆發(fā)。生成式AI的濫用成為最突出的安全隱患之一，深度偽造技術(shù)已形成成熟的黑產(chǎn)鏈條。2025年，網(wǎng)絡(luò)平臺出現(xiàn)多個利用AI合成中國工程院院士張伯禮形象的帶貨短視頻，通過模擬其聲音與神態(tài)達到以假亂真的效果，此類侵權(quán)案例被最高人民法院納入濫用信息技術(shù)侵犯人格權(quán)典型案例。在公共事件中，AI合成內(nèi)容的傳播更具破壞性，由 AI技術(shù)拼湊生成的種種虛假新聞也在一定程度上擾亂了社會秩序。

智能體化AI的出現(xiàn)讓網(wǎng)絡(luò)攻擊進入“自主進攻”時代，防御難度指數(shù)級提升。更令人警惕的是，AI勒索軟件已實現(xiàn)自主決策，境外披露的某款勒索軟件可通過開源大模型生成惡意程序，自主選擇加密文件目標。攻擊規(guī)模的爆發(fā)式增長同樣觸目驚心，Cloudflare數(shù)據(jù)顯示，2025年前三季度全球累計緩解DDoS攻擊3620萬次，相當于2024年全年的170%，其中Aisuru僵尸網(wǎng)絡(luò)發(fā)起的攻擊流量峰值達29.7Tbps，創(chuàng)歷史紀錄。

不僅如此，行業(yè)滲透風險持續(xù)蔓延，關(guān)鍵領(lǐng)域成為攻擊重災(zāi)區(qū)。在金融行業(yè)中，AI換臉技術(shù)已成功攻破部分機構(gòu)的身份驗證系統(tǒng)；教育領(lǐng)域因AI代寫論文問題，多所高校被迫啟用AI檢測機制；制造業(yè)、醫(yī)療保健行業(yè)的供應(yīng)鏈攻擊頻發(fā)，2025年Salesforce供應(yīng)鏈攻擊事件波及谷歌、Cloudflare等數(shù)十家科技巨頭。很顯然，人工智能在給網(wǎng)絡(luò)安全發(fā)展帶來更多新可能的同時，也給網(wǎng)絡(luò)安全產(chǎn)業(yè)帶來新的難題。

政策技術(shù)雙輪驅(qū)動，進一步筑牢網(wǎng)絡(luò)安全屏障

面對AI時代的安全挑戰(zhàn)，我國通過完善法律框架、強化技術(shù)創(chuàng)新、深化協(xié)同治理，構(gòu)建起多層次網(wǎng)絡(luò)安全防線。2025 年10月28日，全國人大常委會審議通過《中華人民共和國網(wǎng)絡(luò)安全法》修改決定，于2026年1月1日正式施行。此次修改立足于數(shù)字時代發(fā)展方位，把握信息革命演進大勢，堅持因勢而謀、應(yīng)勢而動、順勢而為，貫徹落實總體國家安全觀，科學(xué)設(shè)置不同類型違法行為法律責任，系統(tǒng)引導(dǎo)人工智能發(fā)展與安全，對于深入推進依法治網(wǎng)、進一步筑牢國家網(wǎng)絡(luò)安全屏障具有重要意義。

據(jù)了解，新修訂的法律明確將人工智能安全納入監(jiān)管體系，要求國家支持AI關(guān)鍵技術(shù)研發(fā)與安全監(jiān)管，鼓勵運用AI等新技術(shù)提升網(wǎng)絡(luò)安全保護水平，并大幅提高違法處罰力度，對造成關(guān)鍵信息基礎(chǔ)設(shè)施喪失主要功能等特別嚴重后果的，最高可處1000萬元罰款，為AI安全治理提供堅實法律保障。

在專項治理與標準規(guī)范方面，針對性政策密集出臺。2025年9月1日生效的《人工智能生成合成內(nèi)容標識辦法》及配套國家標準，要求所有AI生成內(nèi)容必須添加顯式或隱式“數(shù)字身份證”，從源頭遏制虛假信息傳播。公安部在全國范圍內(nèi)打擊利用AI編造謠言、侵犯公民個人信息等案件，有效震懾了網(wǎng)絡(luò)黑產(chǎn)。

技術(shù)防御創(chuàng)新為安全治理提供核心支撐，“用AI對抗AI”成為行業(yè)共識。2026年1月5日，北京前瞻人工智能安全與治理研究院發(fā)布的安全評估體系與基座平臺，構(gòu)建了覆蓋基礎(chǔ)安全、社會安全等五大維度的評估框架，其“前瞻·靈御”攻防平臺可支持60余種主流大模型的安全測試，涵蓋20余種攻擊方法和10余種防御機制。奇安信集團提出的“框、數(shù)、人、鏈”四環(huán)節(jié)管控方案，將AI嵌入安全體系，增強數(shù)智系統(tǒng)內(nèi)生免疫力。安恒信息則利用AI智能體構(gòu)建動態(tài)仿真系統(tǒng)，可實時預(yù)測攻擊行為并生成防御策略，推動防御模式從被動響應(yīng)向主動預(yù)測轉(zhuǎn)變。這些技術(shù)創(chuàng)新正在形成“評估-檢測-防御-響應(yīng)”的全鏈條安全能力。

技術(shù)、需求迭代下，“AI+安全”將朝三大方向演進

在技術(shù)持續(xù)迭代、需求不斷升級的當下， “AI+安全”的未來發(fā)展也成為行業(yè)關(guān)注的焦點問題。對此，中國信通院安全研究所劉越強調(diào)：“展望未來，“AI+安全”將朝著技術(shù)自主化、場景深度化、生態(tài)協(xié)同化三大方向演進�！�

在技術(shù)層面，安全大模型和安全智能體將成為核心發(fā)力點——大模型能讓威脅“看得見、看得懂”，智能體則靠多主體協(xié)作和自主執(zhí)行策略，實現(xiàn)安全防護自動化的關(guān)鍵落地，推動防御策略形成自主閉環(huán)。

場景方面，“AI+安全”將從通用安全防護，延伸到垂直領(lǐng)域的深度適配，針對工業(yè)互聯(lián)網(wǎng)、車聯(lián)網(wǎng)這些特殊場景的“零誤殺”“低延遲”需求，研發(fā)定制化的AI安全解決方案；同時還要強化AI自身的安全防護，筑牢模型和數(shù)據(jù)的隱私安全根基。

生態(tài)層面，將構(gòu)建多方協(xié)同共享的發(fā)展格局。通過完善產(chǎn)學(xué)研協(xié)同機制、推進安全數(shù)據(jù)智能共享、參與國際標準制定，打破“數(shù)據(jù)孤島”和技術(shù)壁壘；同時定向培養(yǎng)懂AI又懂安全的復(fù)合型人才，建立健全認證測試機制，引導(dǎo)產(chǎn)業(yè)從規(guī)模擴張轉(zhuǎn)向高質(zhì)量發(fā)展，最終形成自主可控、協(xié)同高效的網(wǎng)絡(luò)安全產(chǎn)業(yè)生態(tài)，為數(shù)字經(jīng)濟高質(zhì)量發(fā)展提供堅實保障。

人工智能技術(shù)的發(fā)展沒有止境，網(wǎng)絡(luò)安全的攻防博弈也將長期存在。當前，AI帶來的安全挑戰(zhàn)既是技術(shù)革命的“副產(chǎn)品”，也是治理能力升級的“催化劑”。我國通過法律政策的不斷完善、技術(shù)防御的持續(xù)創(chuàng)新，已初步構(gòu)建起適配AI時代的網(wǎng)絡(luò)安全治理體系。未來，仍需進一步強化AI安全基礎(chǔ)研究，完善跨行業(yè)風險預(yù)警機制，推動全球治理規(guī)則互認，在保障技術(shù)創(chuàng)新活力的同時守住安全底線。唯有堅持發(fā)展與安全并重，才能讓人工智能真正成為賦能高質(zhì)量發(fā)展的安全引擎，為數(shù)字經(jīng)濟行穩(wěn)致遠保駕護航。