7月4日，由全球數(shù)字經(jīng)濟大會組委會主辦、中國信息通信研究院承辦的2025全球數(shù)字經(jīng)濟大會數(shù)字生態(tài)建設專題論壇在北京舉行。騰訊云李濱代表團隊做了主題分享，深入解析大模型面臨的安全風險與技術(shù)挑戰(zhàn)，并系統(tǒng)分享構(gòu)建與AI共生的智能安全防護體系的實踐路徑與策略。

大會同步公布中國信通院2025年度第二期“磐安”優(yōu)秀案例遴選結(jié)果。憑借創(chuàng)新技術(shù)架構(gòu)與實戰(zhàn)成效，騰訊云以NDR產(chǎn)品能力為基礎打造的態(tài)勢感知全流量檢測與響應項目案例，獲評綜合領域優(yōu)秀案例，成為數(shù)字生態(tài)安全建設的標桿實踐。

隨著AI技術(shù)的發(fā)展，機器已經(jīng)能夠超越圖靈測試的標準，開始以更加人性化的方式與用戶進行交流。以大模型生成技術(shù)為核心的人工智能正逐漸成為推動經(jīng)濟增長的新引擎，為解決各行各業(yè)的痛點提供了創(chuàng)新的解決方案。AI技術(shù)作為新的生產(chǎn)驅(qū)動力，正引領企業(yè)數(shù)字化轉(zhuǎn)型進入“大模型時代”。

但 AI 熱潮背后，黑灰產(chǎn)暗流涌動，從個人隱私、企業(yè)資產(chǎn)到交通醫(yī)療等關(guān)鍵領域，AI 安全防線正面臨系統(tǒng)性沖擊。騰訊云安全總結(jié)了大模型企業(yè)應用十大常見安全風險，涵蓋樣本投毒、提示詞注入攻擊、第三方代碼或開源模型帶來的供應鏈風險，以及自動化Agent權(quán)限濫用、模型推理被劫持等新型AI應用威脅。這些風險貫穿于企業(yè)應用大模型的各個環(huán)節(jié)，構(gòu)成關(guān)鍵挑戰(zhàn)。李濱指出，大模型安全風險并非孤立存在，而是從數(shù)據(jù)采集、處理、模型訓練、部署到最終應用的整個AI技術(shù)生命周期中端到端傳導的。

面對AI賦能的攻擊新范式，傳統(tǒng)安全防御體系已顯乏力，構(gòu)建適應AI時代的新型防御體系，已成為數(shù)字安全領域的當務之急。面對大模型的安全挑戰(zhàn)，騰訊在大模型的應用覆蓋了從底層技術(shù)研究、企業(yè)服務到終端應用的全鏈路的解決方案。依托于騰訊在大模型上的“全局視角”，騰訊安全建立了一套系統(tǒng)性的框架，對整個人工智能以及大模型的安全進行完備的風險分析，通過業(yè)務流和技術(shù)棧兩個維度，來分析人工智能在本體安全、運行環(huán)境和基礎設施，應用環(huán)境中和應用環(huán)境周邊發(fā)生的一些風險缺陷。

在風險控制框架之下，騰訊也建立了大模型相關(guān)整體安全治理架構(gòu)，從數(shù)據(jù)采集、模型訓練、代理部署到業(yè)務應用的全流程，均滿足監(jiān)管要求，為企業(yè)提供安全、可控、可靠的服務。

圍繞大模型生命周期各階段風險，騰訊構(gòu)建了包含五大重點的大模型安全防護整體架構(gòu)，針對性制定安全防護措施與策略：一是聚焦邊界API與用戶輸入輸出安全，通過安全管控機制防范該邊界的注入攻擊等風險，防止不當內(nèi)容的輸入輸出及數(shù)據(jù)泄露；二是強化模型基礎設施安全防護與態(tài)勢管理；三是實施智能體行為與意圖安全管控；四是加強智能體與MCP的身份及特權(quán)防護；五是推進數(shù)據(jù)安全全流程治理。

在模型應用邊界安全方面，基于行業(yè)痛點騰訊研發(fā)LLM-WAF大模型防火墻。LLM-WAF提供多模型、多場景、高并發(fā)環(huán)境下的全鏈路防護能力，支持實時檢測并攔截針對大模型的算力濫用、提示詞攻擊及數(shù)據(jù)泄露風險，助力企業(yè)構(gòu)建可信、穩(wěn)定、可持續(xù)的大模型服務生態(tài)。

在大模型安全態(tài)勢管理方面，騰訊推出AI-SPM大模型安全態(tài)勢管理產(chǎn)品以應對大模型專項安全治理場景。該系統(tǒng)通過網(wǎng)絡掃描和主機端檢測，提供資產(chǎn)識別、風險檢測、攻擊示警等核心能力，幫助用戶進行大模型安全專項治理，保護大模型基礎設施運行環(huán)境，及時發(fā)現(xiàn)和處置安全風險。

在數(shù)據(jù)與內(nèi)容安全上，數(shù)據(jù)層面是基于騰訊混元大模型，圍繞大模型的生命周期，根據(jù)不同階段的風險制定對應安全防護措施，通過數(shù)據(jù)分類分級、動態(tài)脫敏等技術(shù)保障數(shù)據(jù)安全；內(nèi)容安全上則是借助天御內(nèi)容風控平臺，從大模型內(nèi)容安全綜合防控，接口輸入、內(nèi)容預處理、模型識別、策略輔助、平臺調(diào)度分析、人工標注運營6個維度為大模型的訓練和推理提供有效支撐。

在攻防對抗與情報方面，騰訊云安全建立了大模型安全Red Team對抗機制，基于騰訊安全專家服務團隊，建立針對大模型的安全測試方法，主動發(fā)現(xiàn)大模型及生態(tài)存在的（漏洞）風險，持續(xù)驗證大模型應用的安全有效性。同時，在合法合規(guī)標準方面，騰訊云安全也積極參與大模型相關(guān)標準的制定工作，如參與起草《生成式人工智能應用安全測試標準》和《大語言模型安全測試方法》國際標準等，依托自研大模型混元為企業(yè)保駕護航。

騰訊以全局視角和實戰(zhàn)經(jīng)驗為基礎，圍繞大模型全生命周期構(gòu)建起系統(tǒng)性安全治理框架，并通過LLM-WAF、AI-SPM、Red Team機制等核心技術(shù)手段，推動防護能力向縱深演進。

未來，騰訊將繼續(xù)攜手各方力量，持續(xù)完善大模型安全標準與防護能力，共筑可信、可控、可持續(xù)的AI安全防線，讓人工智能真正成為驅(qū)動社會進步的可靠引擎。