7月4日，由全球數(shù)字經(jīng)濟(jì)大會(huì)組委會(huì)主辦、中國(guó)信息通信研究院承辦的2025全球數(shù)字經(jīng)濟(jì)大會(huì)數(shù)字生態(tài)建設(shè)專題論壇在北京舉行。騰訊云李濱代表團(tuán)隊(duì)做了主題分享，深入解析大模型面臨的安全風(fēng)險(xiǎn)與技術(shù)挑戰(zhàn)，并系統(tǒng)分享構(gòu)建與AI共生的智能安全防護(hù)體系的實(shí)踐路徑與策略。

大會(huì)同步公布中國(guó)信通院2025年度第二期“磐安”優(yōu)秀案例遴選結(jié)果。憑借創(chuàng)新技術(shù)架構(gòu)與實(shí)戰(zhàn)成效，騰訊云以NDR產(chǎn)品能力為基礎(chǔ)打造的態(tài)勢(shì)感知全流量檢測(cè)與響應(yīng)項(xiàng)目案例，獲評(píng)綜合領(lǐng)域優(yōu)秀案例，成為數(shù)字生態(tài)安全建設(shè)的標(biāo)桿實(shí)踐。

隨著AI技術(shù)的發(fā)展，機(jī)器已經(jīng)能夠超越圖靈測(cè)試的標(biāo)準(zhǔn)，開(kāi)始以更加人性化的方式與用戶進(jìn)行交流。以大模型生成技術(shù)為核心的人工智能正逐漸成為推動(dòng)經(jīng)濟(jì)增長(zhǎng)的新引擎，為解決各行各業(yè)的痛點(diǎn)提供了創(chuàng)新的解決方案。AI技術(shù)作為新的生產(chǎn)驅(qū)動(dòng)力，正引領(lǐng)企業(yè)數(shù)字化轉(zhuǎn)型進(jìn)入“大模型時(shí)代”。

但 AI 熱潮背后，黑灰產(chǎn)暗流涌動(dòng)，從個(gè)人隱私、企業(yè)資產(chǎn)到交通醫(yī)療等關(guān)鍵領(lǐng)域，AI 安全防線正面臨系統(tǒng)性沖擊。騰訊云安全總結(jié)了大模型企業(yè)應(yīng)用十大常見(jiàn)安全風(fēng)險(xiǎn)，涵蓋樣本投毒、提示詞注入攻擊、第三方代碼或開(kāi)源模型帶來(lái)的供應(yīng)鏈風(fēng)險(xiǎn)，以及自動(dòng)化Agent權(quán)限濫用、模型推理被劫持等新型AI應(yīng)用威脅。這些風(fēng)險(xiǎn)貫穿于企業(yè)應(yīng)用大模型的各個(gè)環(huán)節(jié)，構(gòu)成關(guān)鍵挑戰(zhàn)。李濱指出，大模型安全風(fēng)險(xiǎn)并非孤立存在，而是從數(shù)據(jù)采集、處理、模型訓(xùn)練、部署到最終應(yīng)用的整個(gè)AI技術(shù)生命周期中端到端傳導(dǎo)的。

面對(duì)AI賦能的攻擊新范式，傳統(tǒng)安全防御體系已顯乏力，構(gòu)建適應(yīng)AI時(shí)代的新型防御體系，已成為數(shù)字安全領(lǐng)域的當(dāng)務(wù)之急。面對(duì)大模型的安全挑戰(zhàn)，騰訊在大模型的應(yīng)用覆蓋了從底層技術(shù)研究、企業(yè)服務(wù)到終端應(yīng)用的全鏈路的解決方案。依托于騰訊在大模型上的“全局視角”，騰訊安全建立了一套系統(tǒng)性的框架，對(duì)整個(gè)人工智能以及大模型的安全進(jìn)行完備的風(fēng)險(xiǎn)分析，通過(guò)業(yè)務(wù)流和技術(shù)棧兩個(gè)維度，來(lái)分析人工智能在本體安全、運(yùn)行環(huán)境和基礎(chǔ)設(shè)施，應(yīng)用環(huán)境中和應(yīng)用環(huán)境周邊發(fā)生的一些風(fēng)險(xiǎn)缺陷。

在風(fēng)險(xiǎn)控制框架之下，騰訊也建立了大模型相關(guān)整體安全治理架構(gòu)，從數(shù)據(jù)采集、模型訓(xùn)練、代理部署到業(yè)務(wù)應(yīng)用的全流程，均滿足監(jiān)管要求，為企業(yè)提供安全、可控、可靠的服務(wù)。

圍繞大模型生命周期各階段風(fēng)險(xiǎn)，騰訊構(gòu)建了包含五大重點(diǎn)的大模型安全防護(hù)整體架構(gòu)，針對(duì)性制定安全防護(hù)措施與策略：一是聚焦邊界API與用戶輸入輸出安全，通過(guò)安全管控機(jī)制防范該邊界的注入攻擊等風(fēng)險(xiǎn)，防止不當(dāng)內(nèi)容的輸入輸出及數(shù)據(jù)泄露；二是強(qiáng)化模型基礎(chǔ)設(shè)施安全防護(hù)與態(tài)勢(shì)管理；三是實(shí)施智能體行為與意圖安全管控；四是加強(qiáng)智能體與MCP的身份及特權(quán)防護(hù)；五是推進(jìn)數(shù)據(jù)安全全流程治理。

在模型應(yīng)用邊界安全方面，基于行業(yè)痛點(diǎn)騰訊研發(fā)LLM-WAF大模型防火墻。LLM-WAF提供多模型、多場(chǎng)景、高并發(fā)環(huán)境下的全鏈路防護(hù)能力，支持實(shí)時(shí)檢測(cè)并攔截針對(duì)大模型的算力濫用、提示詞攻擊及數(shù)據(jù)泄露風(fēng)險(xiǎn)，助力企業(yè)構(gòu)建可信、穩(wěn)定、可持續(xù)的大模型服務(wù)生態(tài)。

在大模型安全態(tài)勢(shì)管理方面，騰訊推出AI-SPM大模型安全態(tài)勢(shì)管理產(chǎn)品以應(yīng)對(duì)大模型專項(xiàng)安全治理場(chǎng)景。該系統(tǒng)通過(guò)網(wǎng)絡(luò)掃描和主機(jī)端檢測(cè)，提供資產(chǎn)識(shí)別、風(fēng)險(xiǎn)檢測(cè)、攻擊示警等核心能力，幫助用戶進(jìn)行大模型安全專項(xiàng)治理，保護(hù)大模型基礎(chǔ)設(shè)施運(yùn)行環(huán)境，及時(shí)發(fā)現(xiàn)和處置安全風(fēng)險(xiǎn)。

在數(shù)據(jù)與內(nèi)容安全上，數(shù)據(jù)層面是基于騰訊混元大模型，圍繞大模型的生命周期，根據(jù)不同階段的風(fēng)險(xiǎn)制定對(duì)應(yīng)安全防護(hù)措施，通過(guò)數(shù)據(jù)分類(lèi)分級(jí)、動(dòng)態(tài)脫敏等技術(shù)保障數(shù)據(jù)安全；內(nèi)容安全上則是借助天御內(nèi)容風(fēng)控平臺(tái)，從大模型內(nèi)容安全綜合防控，接口輸入、內(nèi)容預(yù)處理、模型識(shí)別、策略輔助、平臺(tái)調(diào)度分析、人工標(biāo)注運(yùn)營(yíng)6個(gè)維度為大模型的訓(xùn)練和推理提供有效支撐。

在攻防對(duì)抗與情報(bào)方面，騰訊云安全建立了大模型安全Red Team對(duì)抗機(jī)制，基于騰訊安全專家服務(wù)團(tuán)隊(duì)，建立針對(duì)大模型的安全測(cè)試方法，主動(dòng)發(fā)現(xiàn)大模型及生態(tài)存在的（漏洞）風(fēng)險(xiǎn)，持續(xù)驗(yàn)證大模型應(yīng)用的安全有效性。同時(shí)，在合法合規(guī)標(biāo)準(zhǔn)方面，騰訊云安全也積極參與大模型相關(guān)標(biāo)準(zhǔn)的制定工作，如參與起草《生成式人工智能應(yīng)用安全測(cè)試標(biāo)準(zhǔn)》和《大語(yǔ)言模型安全測(cè)試方法》國(guó)際標(biāo)準(zhǔn)等，依托自研大模型混元為企業(yè)保駕護(hù)航。

騰訊以全局視角和實(shí)戰(zhàn)經(jīng)驗(yàn)為基礎(chǔ)，圍繞大模型全生命周期構(gòu)建起系統(tǒng)性安全治理框架，并通過(guò)LLM-WAF、AI-SPM、Red Team機(jī)制等核心技術(shù)手段，推動(dòng)防護(hù)能力向縱深演進(jìn)。

未來(lái)，騰訊將繼續(xù)攜手各方力量，持續(xù)完善大模型安全標(biāo)準(zhǔn)與防護(hù)能力，共筑可信、可控、可持續(xù)的AI安全防線，讓人工智能真正成為驅(qū)動(dòng)社會(huì)進(jìn)步的可靠引擎。