飛象原創（高靖宇/文）在影視作品《西部世界》中，即便是最先進的機器人也容易受到惡意軟件的攻擊，這讓我們不禁思考，我們能夠在多大程度上掌控人工智能（AI）技術。在現實世界中，隨著AI大模型技術的快速發展，其可能帶來的安全性問題也日益凸顯。

近年來，人工智能技術取得了令人矚目的進展，特別是大模型正逐步被應用于越來越多的場景，與千行百業加速融合，成為推動數字科技發展的關鍵力量。數據顯示，我國已經完成備案并上線、能為公眾提供服務的生成式人工智能服務大模型已達180多個，注冊用戶突破5.64億。

然而，這些大模型在帶來便利和效率的同時，也催生了新的安全風險。《西部世界》雖然是虛構的故事，但人工智能安全風險卻已存在于現實世界，正如一枚硬幣的兩面，AI大模型技術的發展帶來了網絡安全領域的深刻調整與全新挑戰。

網絡安全中的“AI”風險

伴隨著眾多AI大模型的誕生，AI驅動的網絡攻擊也在快速增長，因為有了AI加持之后，發動網絡攻擊對于攻擊者而言相比之前更加容易，可以更加高效的組織更加復雜，規模更大的安全攻擊。此外，一些黑客還掌握了利用生成式AI等新興技術實施網絡犯罪的新手段。

以ChatGPT為例，自其上線以來，便有人擔憂其可能成為網絡犯罪的溫床。盡管平臺方已采取了一系列防止惡意應用的措施，但創意十足的攻擊者仍能利用生成式AI生成逼真的網絡釣魚郵件，誘騙用戶泄露敏感信息。此外，AI技術的深度偽造和語音合成能力也被用于詐騙，使得傳統防御手段難以應對。更為嚴峻的是，隨著AI在合法用例中的廣泛應用，模型中毒、數據泄露、提示注入攻擊等新型漏洞不斷涌現，對網絡安全構成了持續威脅。

IEEE調研顯示，2024年將會出現其他更具威脅的網絡安全問題，包括勒索軟件攻擊（2024年為37%，高于2023年的30%）、網絡釣魚攻擊（2024年為35%，高于2023年的25%）以及內部威脅（2024年為26%，高于2023年的19%）。

中國工程院院士吳世忠表示，由AI技術帶來的新型安全問題已成為現實，安全行業將迅速邁進AI驅動的新時代。然而，大模型安全研究可以說才剛剛開始。無論是安全研究還是安全產業，都必須緊跟科技進步和應用創新，才能服務好發展，保障好發展。

“人工智能等前沿數字技術正在重新定義內容的生產與消費模式，大模型在企業運營中應用越來越廣泛，必須尋求創新的安全模式，以適應這一變化。”中國工程院院士鄔賀銓認為，基礎大模型是企業實現數字化轉型不可或缺的一環，需要應對多項挑戰，包括強大的算力、充足的數據、高水平的研材、新應用的算法、場景和閉環的生態。然而基礎大模型缺少特定行業的專業知識，因此需要大模型提供方與垂直行業合作。

以模治模 網絡安全發展新路徑

AI帶來新的安全挑戰，同樣需要AI技術來解決，這是一場AI技術的攻防戰。作為中國AI領域的老玩家，360 AI一直深入探索AI大模型在關鍵行業中的垂直應用，推動大模型重塑安全體系。

360集團創始人周鴻祎表示，面對愈加復雜的傳統安全問題和大模型帶來新的安全問題，必須用AI重塑安全，以模治模，用安全大模型解決“新老”安全問題。

“不要追求用一個大模型解決所有問題，應該讓專業大模型解決專業問題。”周鴻祎認為，2024年是場景之年，關鍵要結合業務找“明星場景”，然后根據場景設計功能，根據功能需求對大模型進行專項訓練。

在ISC.AI 2024第十二屆互聯網安全大會上，周鴻祎宣布360安全大模型正式免費。360安全大模型在真實業務場景中取得重大突破，通過對全網安全數據和知識進行提煉、壓縮和蒸餾，360安全大模型實現對全網安全知識的深度理解。未來，在大模型賦能下，本地安全大腦“無需聯網”，在封閉網絡中也能獲得全網數據和知識的賦能。

周鴻祎表示，打造安全大模型是安全邁向“自動駕駛”的必由之路，用AI升級安全要有類似自動駕駛的L1-L5級別目標，目前360安全大模型已具備L4級“自動駕駛”能力，相當于汽車的“高級自動駕駛階段”。