隨著人工智能技術(shù)在各行各業(yè)的深度滲透與融合，其帶來(lái)的安全風(fēng)險(xiǎn)與治理挑戰(zhàn)日益凸顯。面對(duì)這一形勢(shì)，國(guó)內(nèi)網(wǎng)絡(luò)安全領(lǐng)軍企業(yè)奇安信集團(tuán)正式發(fā)布了其全面的“AI安全應(yīng)對(duì)方案”。該方案并非單一的產(chǎn)品或工具，而是一個(gè)集成了安全框架、場(chǎng)景化解決方案、專(zhuān)業(yè)安全服務(wù)及配套工具的綜合性體系，旨在為政企客戶在人工智能應(yīng)用的全生命周期內(nèi)提供系統(tǒng)性的安全保障，并特別強(qiáng)化了數(shù)據(jù)處理服務(wù)的核心支撐作用。

一、 頂層設(shè)計(jì)：構(gòu)建AI安全治理框架

奇安信的AI安全應(yīng)對(duì)方案首先從頂層設(shè)計(jì)出發(fā)，提出了一套符合國(guó)內(nèi)外監(jiān)管要求與最佳實(shí)踐的AI安全治理框架。該框架以“安全可控、合規(guī)可信”為核心原則，覆蓋了AI系統(tǒng)的全生命周期安全管理，包括：

1. 安全左移，源頭治理：在模型開(kāi)發(fā)與訓(xùn)練階段，即融入安全考量。框架強(qiáng)調(diào)對(duì)訓(xùn)練數(shù)據(jù)的來(lái)源、質(zhì)量、偏見(jiàn)及合規(guī)性進(jìn)行嚴(yán)格審查與治理，確保數(shù)據(jù)供應(yīng)鏈的安全可靠。
2. 風(fēng)險(xiǎn)管控，貫穿始終：定義了貫穿模型設(shè)計(jì)、開(kāi)發(fā)、訓(xùn)練、部署、運(yùn)營(yíng)及退役各階段的風(fēng)險(xiǎn)識(shí)別、評(píng)估、處置與監(jiān)控流程，形成管理閉環(huán)。
3. 合規(guī)對(duì)標(biāo)，主動(dòng)適應(yīng)：框架設(shè)計(jì)充分對(duì)標(biāo)了國(guó)內(nèi)外正在形成的人工智能治理法規(guī)與標(biāo)準(zhǔn)（如中國(guó)的《生成式人工智能服務(wù)管理暫行辦法》等），幫助企業(yè)建立合規(guī)基線，并具備適應(yīng)未來(lái)法規(guī)演進(jìn)的靈活性。

二、 場(chǎng)景驅(qū)動(dòng)：提供精準(zhǔn)安全解決方案

基于頂層框架，奇安信針對(duì)AI應(yīng)用的不同風(fēng)險(xiǎn)場(chǎng)景，提煉并交付了系列化的解決方案，確保安全能力能夠精準(zhǔn)匹配業(yè)務(wù)需求：

• 生成式AI應(yīng)用安全防護(hù)方案：重點(diǎn)應(yīng)對(duì)大模型及AIGC應(yīng)用面臨的提示詞注入、數(shù)據(jù)泄露、內(nèi)容安全（生成不良信息）、模型竊取等新型攻擊，提供從接口防護(hù)、內(nèi)容過(guò)濾到行為審計(jì)的一體化防護(hù)。
• AI模型自身安全加固方案：針對(duì)傳統(tǒng)機(jī)器學(xué)習(xí)與深度學(xué)習(xí)模型，提供對(duì)抗樣本防御、模型后門(mén)檢測(cè)、模型逆向與竊取防護(hù)等技術(shù)，提升模型本身的魯棒性與保密性。
• AI數(shù)據(jù)與隱私安全方案：這是本次發(fā)布方案的核心亮點(diǎn)之一。該方案深度融合了數(shù)據(jù)處理服務(wù)，旨在解決AI時(shí)代下數(shù)據(jù)安全與隱私保護(hù)的痛點(diǎn)。

三、 核心支柱：深度融合的數(shù)據(jù)處理服務(wù)

奇安信深刻認(rèn)識(shí)到，數(shù)據(jù)是AI的“燃料”，其安全直接決定了AI系統(tǒng)的安全與可信。因此，方案將 “數(shù)據(jù)處理服務(wù)” 提升至核心支柱地位，提供了一系列專(zhuān)業(yè)化服務(wù)與工具：

1. 數(shù)據(jù)安全治理服務(wù)：幫助企業(yè)對(duì)用于AI訓(xùn)練和推理的數(shù)據(jù)資產(chǎn)進(jìn)行盤(pán)點(diǎn)、分類(lèi)分級(jí)，識(shí)別敏感數(shù)據(jù)（如個(gè)人隱私、商業(yè)機(jī)密），并建立相應(yīng)的數(shù)據(jù)訪問(wèn)、使用策略。
2. 數(shù)據(jù)合規(guī)與脫敏服務(wù)：提供專(zhuān)業(yè)的數(shù)據(jù)脫敏、匿名化、差分隱私等技術(shù)服務(wù)與工具，確保在數(shù)據(jù)開(kāi)發(fā)利用過(guò)程中滿足個(gè)人信息保護(hù)法、數(shù)據(jù)安全法等合規(guī)要求，實(shí)現(xiàn)“數(shù)據(jù)可用不可見(jiàn)”。
3. 訓(xùn)練數(shù)據(jù)質(zhì)量與偏見(jiàn)檢測(cè)服務(wù)：通過(guò)工具掃描與人工分析相結(jié)合，檢測(cè)訓(xùn)練數(shù)據(jù)集中可能存在的質(zhì)量缺陷、樣本偏差及不公平因素，從源頭降低模型輸出偏見(jiàn)與錯(cuò)誤的風(fēng)險(xiǎn)。
4. 數(shù)據(jù)供應(yīng)鏈安全審計(jì)：對(duì)第三方數(shù)據(jù)來(lái)源進(jìn)行安全評(píng)估，確保外部引入數(shù)據(jù)的安全性與合法性，管控供應(yīng)鏈風(fēng)險(xiǎn)。

四、 落地支撐：專(zhuān)業(yè)化服務(wù)與智能化工具

為確保框架與解決方案的有效落地，奇安信提供了強(qiáng)大的后端支撐：

• 專(zhuān)業(yè)安全服務(wù)：包括AI安全風(fēng)險(xiǎn)評(píng)估、模型紅藍(lán)對(duì)抗（模擬攻擊以檢驗(yàn)防護(hù)效果）、安全合規(guī)咨詢、應(yīng)急響應(yīng)等，由具備AI與安全雙重知識(shí)的專(zhuān)家團(tuán)隊(duì)交付。
• 智能化安全工具平臺(tái)：方案集成了奇安信自研的系列工具，可能包括：AI安全監(jiān)測(cè)與審計(jì)平臺(tái)、數(shù)據(jù)安全運(yùn)營(yíng)平臺(tái)、模型安全檢測(cè)工具集等。這些工具能夠自動(dòng)化地執(zhí)行部分安全任務(wù)，如異常行為監(jiān)測(cè)、敏感數(shù)據(jù)識(shí)別、模型漏洞掃描等，提升安全運(yùn)營(yíng)效率。

###

奇安信此次發(fā)布的AI安全應(yīng)對(duì)方案，展現(xiàn)了一種系統(tǒng)化、工程化的AI安全建設(shè)思路。它跳出了單點(diǎn)技術(shù)防護(hù)的局限，通過(guò)“治理框架引領(lǐng)、場(chǎng)景方案聚焦、數(shù)據(jù)服務(wù)驅(qū)動(dòng)、專(zhuān)業(yè)工具支撐”的四位一體模式，為企業(yè)構(gòu)建覆蓋AI應(yīng)用事前、事中、事后各環(huán)節(jié)的動(dòng)態(tài)主動(dòng)防御體系提供了清晰路徑。特別是在數(shù)據(jù)處理服務(wù)上的深度布局，直擊AI安全的核心基礎(chǔ)，有望幫助各行業(yè)在享受AI技術(shù)紅利的筑牢安全與信任的基石，實(shí)現(xiàn)安全與發(fā)展并重。