2025中國(guó)國(guó)際大數(shù)據(jù)產(chǎn)業(yè)博覽會(huì)（以下簡(jiǎn)稱(chēng) “數(shù)博會(huì)”）期間，360數(shù)字安全集團(tuán)總裁胡振泉受邀出席“數(shù)據(jù)安全治理與發(fā)展”交流活動(dòng)。他聚焦AI領(lǐng)域關(guān)鍵數(shù)據(jù)安全治理難題，系統(tǒng)剖析AI領(lǐng)域關(guān)鍵數(shù)據(jù)面臨的內(nèi)外部雙重安全挑戰(zhàn)，并提出“以模制?！毙路妒?，以四大智能體為AI領(lǐng)域關(guān)鍵數(shù)據(jù)安全治理提供可落地的實(shí)踐路徑。

360數(shù)字安全集團(tuán)總裁胡振泉

AI領(lǐng)域關(guān)鍵數(shù)據(jù)安全風(fēng)險(xiǎn)進(jìn)入“爆發(fā)期”

胡振泉表示，當(dāng)前大模型技術(shù)加速落地、智能體規(guī)?；瘧?yīng)用，AI已成為推動(dòng)產(chǎn)業(yè)升級(jí)的核心動(dòng)力。但技術(shù)紅利背后，AI領(lǐng)域關(guān)鍵數(shù)據(jù)安全風(fēng)險(xiǎn)正進(jìn)入“集中爆發(fā)期”，呈現(xiàn)“內(nèi)憂(yōu)外患”的態(tài)勢(shì)。值得一提的是，針對(duì)AI系統(tǒng)的戰(zhàn)略性攻擊成為大國(guó)博弈關(guān)鍵戰(zhàn)場(chǎng)，黑客可借AI竊取核心數(shù)據(jù)、生成虛假內(nèi)容、操控社會(huì)輿論，甚至破壞物理世界運(yùn)行；專(zhuān)業(yè)化黑灰產(chǎn)組織更將AI與APT攻擊結(jié)合，用AI生成木馬、病毒等工具打造“數(shù)字黑客”智能體，加劇數(shù)據(jù)泄露與網(wǎng)絡(luò)攻擊風(fēng)險(xiǎn)。

“AI領(lǐng)域數(shù)據(jù)安全問(wèn)題已遠(yuǎn)超傳統(tǒng)網(wǎng)絡(luò)與數(shù)據(jù)安全范疇?！焙袢獜?qiáng)調(diào)，AI安全問(wèn)題可劃分為傳統(tǒng)安全、AI內(nèi)容安全、AI應(yīng)用安全及未來(lái)安全四大類(lèi)，而其中最為關(guān)鍵的數(shù)據(jù)安全治理的核心，是確保數(shù)據(jù)承載的“信息”安全、合法、健康。當(dāng)前，AI生成虛假數(shù)據(jù)用于欺詐、輸出錯(cuò)誤敏感信息、遭惡意提示詞誘導(dǎo)泄露數(shù)據(jù)、因“幻覺(jué)”杜撰虛假數(shù)據(jù)等問(wèn)題頻發(fā)，不僅阻礙政企單位AI落地，更可能引發(fā)數(shù)據(jù)安全事故、意識(shí)形態(tài)扭曲等風(fēng)險(xiǎn)，對(duì)AI領(lǐng)域關(guān)鍵數(shù)據(jù)安全治理提出更高要求。

他進(jìn)一步指出，傳統(tǒng)安全手段難以應(yīng)對(duì)AI數(shù)據(jù)安全新挑戰(zhàn)。傳統(tǒng)安全企業(yè)缺乏大模型深度研究能力，僅能解決基礎(chǔ)數(shù)據(jù)安全問(wèn)題；現(xiàn)有大模型企業(yè)對(duì)數(shù)據(jù)安全、內(nèi)容安全認(rèn)知不足，二者均無(wú)法突破AI領(lǐng)域關(guān)鍵數(shù)據(jù)安全治理瓶頸。

360“以模制?！睒?gòu)建AI數(shù)據(jù)安全治理新體系

在此背景下，360基于自身AI實(shí)踐與數(shù)據(jù)安全治理經(jīng)驗(yàn)，提出“以模制?！盇I安全治理新范式——通過(guò)大模型安全衛(wèi)士應(yīng)對(duì)AI數(shù)據(jù)安全問(wèn)題，實(shí)現(xiàn)“數(shù)網(wǎng)智安一體化”，筑牢AI數(shù)據(jù)安全防線(xiàn)。具體來(lái)看，可靠層面，結(jié)合安全大腦與私有化部署，保障數(shù)據(jù)存儲(chǔ)、使用全流程安全；可信層面，借助RAG知識(shí)增強(qiáng)與搜索增強(qiáng)，減少大模型“幻覺(jué)”，保障輸出數(shù)據(jù)準(zhǔn)確性；向善層面，以?xún)?nèi)容護(hù)欄與風(fēng)控大模型，防范AI被惡意利用生成有害數(shù)據(jù)；可控層面，依托Agent管控與全程審計(jì)，規(guī)避智能體被惡意操作導(dǎo)致的關(guān)鍵數(shù)據(jù)被不可逆地破壞。

在場(chǎng)景化落地過(guò)程中，360大模型安全衛(wèi)士針對(duì)不同AI應(yīng)用場(chǎng)景的特性，制定了差異化數(shù)據(jù)安全治理策略：面向境內(nèi)AI公共開(kāi)放服務(wù)，重點(diǎn)圍繞“備案合規(guī)+全量數(shù)據(jù)內(nèi)容安全審核”構(gòu)建防護(hù)體系，確保服務(wù)符合監(jiān)管要求與內(nèi)容安全標(biāo)準(zhǔn)；針對(duì)政企私域AI專(zhuān)用服務(wù)，聚焦“客戶(hù)隱私數(shù)據(jù)保護(hù)、企業(yè)機(jī)密數(shù)據(jù)防泄露、意識(shí)形態(tài)數(shù)據(jù)導(dǎo)向把控” 三大核心，匹配內(nèi)部業(yè)務(wù)數(shù)據(jù)安全需求；對(duì)于政企跨境AI服務(wù)，則以“跨境數(shù)據(jù)訪問(wèn)權(quán)限管控、傳輸加密、存儲(chǔ)合規(guī)”為關(guān)鍵，解決數(shù)據(jù)跨境流動(dòng)中的安全與合規(guī)難題。

為將“以模制模”范式轉(zhuǎn)化為實(shí)際防護(hù)能力，360大模型安全衛(wèi)士進(jìn)一步構(gòu)建四大核心措施，形成AI數(shù)據(jù)安全閉環(huán)治理：一是內(nèi)容安全智能體，通過(guò)幻覺(jué)抑制、內(nèi)容護(hù)欄大模型，解決 AI 生成數(shù)據(jù)虛假、違規(guī)問(wèn)題；二是 AI Agent 安全智能體，依托行為、權(quán)限、數(shù)據(jù)框架，規(guī)避智能體執(zhí)行中的數(shù)據(jù)失控風(fēng)險(xiǎn)；三是軟件安全智能體，識(shí)別 AI 供應(yīng)鏈開(kāi)源組件漏洞，從源頭杜絕數(shù)據(jù)泄露；四是AI安全評(píng)估智能體，通過(guò)紅藍(lán)對(duì)抗靶場(chǎng)檢測(cè)數(shù)據(jù)安全短板，強(qiáng)化防護(hù)能力。

“數(shù)據(jù)安全治理與發(fā)展”交流活動(dòng)作為本屆數(shù)博會(huì)的重要活動(dòng)之一，由中國(guó)國(guó)際大數(shù)據(jù)產(chǎn)業(yè)博覽會(huì)執(zhí)委會(huì)主辦，中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)承辦，中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)數(shù)據(jù)安全與治理工作委員會(huì)、貴州大數(shù)據(jù)安全工程研究中心、貴州省互聯(lián)網(wǎng)協(xié)會(huì)支持。本次活動(dòng)共500余人參會(huì)，得到了與會(huì)嘉賓的一致好評(píng)。中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)將繼續(xù)廣泛開(kāi)展相關(guān)活動(dòng)，為推動(dòng)數(shù)據(jù)安全產(chǎn)業(yè)高質(zhì)量發(fā)展貢獻(xiàn)力量。