7月4日，由全球數字經濟大會組委會主辦、中國信息通信研究院承辦的2025全球數字經濟大會數字生態建設專題論壇在北京舉行。騰訊云李濱代表團隊做了主題分享，深入解析大模型面臨的安全風險與技術挑戰，并系統分享構建與AI共生的智能安全防護體系的實踐路徑與策略。

　　大會同步公布中國信通院2025年度第二期“磐安”優秀案例遴選結果。憑借創新技術架構與實戰成效，騰訊云以NDR產品能力為基礎打造的態勢感知全流量檢測與響應項目案例，獲評綜合領域優秀案例，成為數字生態安全建設的標桿實踐。

　　隨著AI技術的發展，機器已經能夠超越圖靈測試的標準，開始以更加人性化的方式與用戶進行交流。以大模型生成技術為核心的人工智能正逐漸成為推動經濟增長的新引擎，為解決各行各業的痛點提供了創新的解決方案。AI技術作為新的生產驅動力，正引領企業數字化轉型進入“大模型時代”。

　　騰訊云安全總結了大模型企業應用十大常見安全風險，涵蓋樣本投毒、提示詞注入攻擊、第三方代碼或開源模型帶來的供應鏈風險，以及自動化Agent權限濫用、模型推理被劫持等新型AI應用威脅。這些風險貫穿于企業應用大模型的各個環節，構成關鍵挑戰。李濱指出，大模型安全風險并非孤立存在，而是從數據采集、處理、模型訓練、部署到最終應用的整個AI技術生命周期中端到端傳導的。

　　面對AI賦能的攻擊新范式，傳統安全防御體系已顯乏力，構建適應AI時代的新型防御體系，已成為數字安全領域的當務之急。面對大模型的安全挑戰，騰訊在大模型的應用覆蓋了從底層技術研究、企業服務到終端應用的全鏈路的解決方案。依托于騰訊在大模型上的“全局視角”，騰訊安全建立了一套系統性的框架，對整個人工智能以及大模型的安全進行完備的風險分析，通過業務流和技術棧兩個維度，來分析人工智能在本體安全、運行環境和基礎設施，應用環境中和應用環境周邊發生的一些風險缺陷。

　　在風險控制框架之下，騰訊也建立了大模型相關整體安全治理架構，從數據采集、模型訓練、代理部署到業務應用的全流程，均滿足監管要求，為企業提供安全、可控、可靠的服務。

　　圍繞大模型生命周期各階段風險，騰訊構建了包含五大重點的大模型安全防護整體架構，針對性制定安全防護措施與策略：一是聚焦邊界API與用戶輸入輸出安全，通過安全管控機制防范該邊界的注入攻擊等風險，防止不當內容的輸入輸出及數據泄露;二是強化模型基礎設施安全防護與態勢管理;三是實施智能體行為與意圖安全管控;四是加強智能體與MCP的身份及特權防護;五是推進數據安全全流程治理。

　　在模型應用邊界安全方面，基于行業痛點騰訊研發LLM-WAF大模型防火墻。LLM-WAF提供多模型、多場景、高并發環境下的全鏈路防護能力，支持實時檢測并攔截針對大模型的算力濫用、提示詞攻擊及數據泄露風險，助力企業構建可信、穩定、可持續的大模型服務生態。

　　在大模型安全態勢管理方面，騰訊推出AI-SPM大模型安全態勢管理產品以應對大模型專項安全治理場景。該系統通過網絡掃描和主機端檢測，提供資產識別、風險檢測、攻擊示警等核心能力，幫助用戶進行大模型安全專項治理，保護大模型基礎設施運行環境，及時發現和處置安全風險。

　　在數據與內容安全上，數據層面是基于騰訊混元大模型，圍繞大模型的生命周期，根據不同階段的風險制定對應安全防護措施，通過數據分類分級、動態脫敏等技術保障數據安全;內容安全上則是借助天御內容風控平臺，從大模型內容安全綜合防控，接口輸入、內容預處理、模型識別、策略輔助、平臺調度分析、人工標注運營6個維度為大模型的訓練和推理提供有效支撐。

　　在攻防對抗與情報方面，騰訊云安全建立了大模型安全Red Team對抗機制，基于騰訊安全專家服務團隊，建立針對大模型的安全測試方法，主動發現大模型及生態存在的(漏洞)風險，持續驗證大模型應用的安全有效性。同時，在合法合規標準方面，騰訊云安全也積極參與大模型相關標準的制定工作，如參與起草《生成式人工智能應用安全測試標準》和《大語言模型安全測試方法》國際標準等，依托自研大模型混元為企業保駕護航。