網(wǎng)絡(luò)安全領(lǐng)域,一場新的風(fēng)暴正在席卷。

深信服首秀安全GPT技術(shù)應(yīng)用,得到媒體蜂擁討論與報道,實力刷屏。

(相關(guān)資料圖)

短短一個月,深信服收獲了不少新老用戶的咨詢和交流。帶著極強的好奇心,大家都想深挖深信服安全GPT背后的技術(shù)積累。

經(jīng)過梳理,大家常常提及的有以下9個問題,今天深信服一次性進(jìn)行詳細(xì)解答,希望能幫助大家全面了解AI+安全,以及安全GPT技術(shù)應(yīng)用。

關(guān)于AI+網(wǎng)絡(luò)安全

Q1:從小模型到大模型,“AI+網(wǎng)絡(luò)安全”如何發(fā)展?

生成式大模型的爆火不是一蹴而就的。AI技術(shù)經(jīng)歷了從決策式小模型到生成式大模型的發(fā)展歷程。

最近十年,決策式小模型被大規(guī)模應(yīng)用在電商、娛樂、人臉識別、自動駕駛、文本分析等領(lǐng)域,不知不覺早已在各行各業(yè)中司空見慣。今年開始,以ChatGPT為代表的生成式大模型爆火,慢慢涌現(xiàn)出在不同行業(yè)的技術(shù)應(yīng)用,網(wǎng)絡(luò)安全亦是其中之一。

順應(yīng)技術(shù)發(fā)展趨勢,以深信服為例,作為國內(nèi)最早應(yīng)用AI的網(wǎng)絡(luò)安全廠商之一,深信服在2015年開始投入決策式AI技術(shù)的研究和應(yīng)用。2016年,深信服不斷加碼AI技術(shù)并確立了AI First的研發(fā)戰(zhàn)略,在網(wǎng)絡(luò)安全和云計算領(lǐng)域都有可落地、有效果的技術(shù)突破:

未知病毒檢出率國內(nèi)第一的SAVE 3.0引擎

實現(xiàn)云原生應(yīng)用自我保護(hù)的NoDR技術(shù)

精確度超90%的AIOps 智能運維分析引擎

……

目前深信服在十幾個不同的技術(shù)領(lǐng)域都用到了人工智能,均取得了良好效果,這些技術(shù)大量應(yīng)用到深信服的產(chǎn)品和用戶使用場景中,深受認(rèn)可。

從AI小模型到提出AI First戰(zhàn)略,深信服累積了研發(fā)垂直領(lǐng)域AI大模型所需的高質(zhì)量數(shù)據(jù)語料、既懂AI又懂安全的人才、面向AI體系化協(xié)同的云網(wǎng)端產(chǎn)品體系。

基于這些積累,在2022年明確全面擁抱大模型后,深信服得以在業(yè)界首秀安全GPT,為網(wǎng)絡(luò)安全發(fā)展注入新動能。

Q2:為什么網(wǎng)絡(luò)安全領(lǐng)域需要GPT大模型技術(shù)應(yīng)用?

一方面,GPT大模型的出現(xiàn),讓攻擊方可以更便捷快速地生成攻擊工具、混淆攻擊代碼等,針對性地構(gòu)造未知、高級的攻擊。當(dāng)前安全設(shè)備對于這種未知惡意樣本查殺能力較弱,很容易被攻擊者繞過。而過去廣泛應(yīng)用于安全檢測領(lǐng)域的AI機器學(xué)習(xí)小模型,每種模型只能用于單一檢測場景,小模型訓(xùn)練與研發(fā)效率較低,誤報率居高不下。

另一方面,在安全運營工作中,人員能力和精力仍然是巨大的瓶頸。即使是專家級別的運營人員,面對高級安全威脅也要花費數(shù)小時甚至數(shù)天進(jìn)行分析和研判,同時在某些領(lǐng)域仍會存在能力短板。安全運營效率和效果提升面臨較大的發(fā)展瓶頸。

深信服認(rèn)為,面對攻擊方使用大模型,防守方能力瓶頸難以突破的情況下,防守方也要充分擁抱大模型,以智能對抗智能,以AI賦能防守,方能應(yīng)對大模型時代的安全挑戰(zhàn)。大模型既有泛化的檢測能力,也有高質(zhì)量的攻擊解釋能力,以及分析態(tài)勢和處置建議的生成能力,由此可以提升高級威脅檢出率、降低誤報率(安全告警里判錯的比例),極大拉高安全運營團(tuán)隊的能力水位線,促進(jìn)安全建設(shè)效果、效率的提升。

Q3:網(wǎng)絡(luò)安全行業(yè)玩轉(zhuǎn)GPT大模型有哪些門檻?

數(shù)據(jù)、算力、模型算法、產(chǎn)品架構(gòu)是在網(wǎng)絡(luò)安全領(lǐng)域玩轉(zhuǎn)GPT大模型的門檻,此外,我們也不能忽視復(fù)合型人才隊伍的打造。

作為一家深耕網(wǎng)絡(luò)安全和云計算的公司,深信服在安全領(lǐng)域應(yīng)用GPT技術(shù)有一些天然優(yōu)勢:

面向AI模型訓(xùn)練的高質(zhì)量數(shù)據(jù)和算力

持續(xù)累計的千億級Token安全語料。

自動化的訓(xùn)練數(shù)據(jù)生成和質(zhì)量管理平臺。

55w+安全設(shè)備和組件接入云端。

每日更新數(shù)千萬訓(xùn)練樣本。

基于托管云的分布式算力平臺。

云網(wǎng)端智能產(chǎn)品架構(gòu)

數(shù)據(jù)采集/模型訓(xùn)練/部署落地全流程的安全產(chǎn)品。

國內(nèi)率先推出SASE、MSS等云化產(chǎn)品和服務(wù)。

Genius AI研發(fā)平臺模型訓(xùn)練速度提升3.5倍。

全國100+節(jié)點托管云,支撐安全GPT貼近用戶部署。

四位一體的專家隊伍

快速組建既懂安全、又懂AI的專業(yè)團(tuán)隊。

Q4:以GPT為代表的AI技術(shù)應(yīng)用于網(wǎng)絡(luò)安全,主要帶來哪些方面的增益提效?

網(wǎng)絡(luò)安全的本質(zhì)在于攻防對抗。根據(jù)Gartner“防御-檢測-響應(yīng)-預(yù)測”的新一代自適應(yīng)安全防御架構(gòu),GPT大模型技術(shù)應(yīng)用于網(wǎng)絡(luò)安全可以從檢測、響應(yīng)、預(yù)測三方面切入,最終實現(xiàn)對于威脅的有效防御。

檢測:判斷文件樣本、代碼等是否惡意,訪問登陸、進(jìn)程通信等是否異常,從而精準(zhǔn)識別未知威脅。

響應(yīng):實現(xiàn)告警削減、攻擊鏈溯源,以自然語言對話的方式,實現(xiàn)自動化/半自動化響應(yīng)。

預(yù)測:通過大量學(xué)習(xí)惡意樣本、對抗策略,以及挖掘漏洞,真正實現(xiàn)以攻促防,預(yù)測攻擊的發(fā)生。

關(guān)于安全GPT技術(shù)的底層能力

Q5:安全GPT和OpenAI的ChatGPT有什么關(guān)系,是否用到了ChatGPT的能力?

深信服安全GPT是完全自主可控的,不應(yīng)用ChatGPT能力,且由深信服自主訓(xùn)練,訓(xùn)練數(shù)據(jù)部署在深信服托管云上。

深信服安全GPT以自研模型 SangforLM 為技術(shù)基礎(chǔ),吸收業(yè)界眾多先進(jìn)的開源大模型優(yōu)秀實踐,不斷進(jìn)化。

基于深信服8年來持續(xù)積累的高質(zhì)量安全語料,深信服安全GPT通過預(yù)訓(xùn)練和參數(shù)微調(diào)等方式,能夠深入攻擊樣本檢測、漏洞研判、分析處置等安全細(xì)分場景,實現(xiàn)深度理解和專業(yè)研判的安全領(lǐng)域垂直大模型。

在推理能力方面,安全GPT以自然語言交互為基礎(chǔ),具備強大的用戶場景上下文理解能力。

在事件研判方面,深信服打通了本地系統(tǒng)和產(chǎn)品,安全GPT可以快速研判安全事件并給出正確結(jié)論,聯(lián)動日志進(jìn)行溯源分析,并具備準(zhǔn)確率極高的流量檢測能力。

基于生成式AI的安全GPT在輔助安全運營方面,具備極強的用戶需求理解和建議生成能力,可大幅降低服務(wù)和運營人力成本,為安全運營全面助力。

接下來,安全GPT會持續(xù)通過高質(zhì)量安全語料和云網(wǎng)端產(chǎn)品架構(gòu)的不斷喂養(yǎng)和學(xué)習(xí),同時在安全專家和小模型的監(jiān)督調(diào)優(yōu)之下,在安全的各個領(lǐng)域持續(xù)提升能力。

Q6:安全GPT技術(shù)應(yīng)用在XDR平臺上,如何識別未知威脅?

安全GPT對未知攻擊的檢測,來源于對攻擊流量、文件的深度理解能力。經(jīng)過預(yù)訓(xùn)練之后的大語言模型對于代碼、文本天然具備較好的理解和生成能力。

深信服利用安全領(lǐng)域的高質(zhì)量攻擊樣本對安全GPT進(jìn)行投喂訓(xùn)練,結(jié)合多種大模型微調(diào)手段,以及專家、小模型的監(jiān)督強化,使得安全GPT最終具備對未知攻擊的意圖理解、異常判定、混淆還原能力。

通過前期5000萬樣本數(shù)據(jù)測試,相較傳統(tǒng)檢測引擎,賦能安全GPT技術(shù)的深信服XDR高級威脅檢測率高達(dá)95.7%,誤報率(安全告警里判錯的比例)僅4.3%。

經(jīng)過多輪驗證測試,深信服安全GPT技術(shù)已經(jīng)達(dá)到5年經(jīng)驗的安全專家水平。

Q7:安全GPT技術(shù)輔助運營的基本原理是什么?

用戶通過XDR平臺對接安全GPT,使用自然語言開展安全運營。

用戶的自然語言對話請求經(jīng)過XDR平臺,會與用戶本地的各類信息,如資產(chǎn)信息、攻擊上下文等信息進(jìn)行關(guān)聯(lián),送入云端安全GPT進(jìn)行理解。

安全GPT進(jìn)一步通過XDR平臺與各類安全設(shè)備、情報、資產(chǎn)庫表進(jìn)行對接、查詢和調(diào)查,將查詢得到的信息進(jìn)行理解、轉(zhuǎn)化。

根據(jù)不同場景的個性化需求,安全GPT可以用文字、圖表等多模交互的關(guān)鍵指標(biāo)為輸出。

由此,運營人員的梳理總結(jié)工作由小時級縮短到秒級,價值感知一眼便知。

Q8:企業(yè)里使用GPT技術(shù)有一定的數(shù)據(jù)安全合規(guī)要求,對此深信服安全GPT是如何做的?

深信服深耕網(wǎng)絡(luò)安全多年,堅持網(wǎng)絡(luò)安全和數(shù)據(jù)安全的底線。深信服進(jìn)行大模型訓(xùn)練的數(shù)據(jù)均為通用安全知識,不涉及任何與用戶信息相關(guān)的數(shù)據(jù)。

大模型部署推理所需的數(shù)據(jù),執(zhí)行嚴(yán)格匿名化策略,保證數(shù)據(jù)不標(biāo)識到具體用戶。

同時,深信服確保數(shù)據(jù)不出境,不同用戶的數(shù)據(jù)充分隔離不互通。

Q9:安全GPT+XDR平臺與安全組件對接,是否必須是深信服的組件?

深信服XDR作為一個開放的平臺,通過原生的流量采集工具與端點采集工具收集關(guān)鍵數(shù)據(jù),通過網(wǎng)端聚合分析引擎對數(shù)據(jù)進(jìn)行上下文關(guān)聯(lián)分析,實現(xiàn)攻擊鏈深度溯源。

目前,深信服XDR支持對接自身網(wǎng)和端的安全組件,也支持第三方設(shè)備安全數(shù)據(jù)的對接和應(yīng)用。XDR平臺對接第三方組件后,安全GPT即可通過XDR平臺對接第三方組件進(jìn)行分析響應(yīng)。

“AI+安全”依托“云-網(wǎng)-端”架構(gòu)落地

站在用戶視角,未來的安全建設(shè),擁抱大模型時代的“AI+安全”,離不開云網(wǎng)端架構(gòu)的落地:

依托承載AI小模型技術(shù)的終端、網(wǎng)絡(luò)安全組件,配合云端規(guī)則庫和情報庫,針對流量側(cè)和終端側(cè)的文件進(jìn)行檢測。

將檢測到的數(shù)據(jù)源,傳輸?shù)介_放平臺進(jìn)行關(guān)聯(lián)分析,削減海量告警,還原事件。

安全GPT收集平臺關(guān)聯(lián)分析的數(shù)據(jù),針對復(fù)雜攻擊和場景,進(jìn)一步理解、研判,并給出最終處置建議。

最后,為了助力用戶“安全領(lǐng)先一步”,我們希望用戶立足大模型時代,充分將AI技術(shù)手段運用到網(wǎng)絡(luò)安全領(lǐng)域,出于切身體驗,還有以下幾點建議:

正確認(rèn)識AI技術(shù)應(yīng)用:一定要理性評估AI技術(shù)的應(yīng)用手段,并保持對大模型快速發(fā)展的關(guān)注。

正確評估建設(shè)路線:開放協(xié)同是基本要求,可以考慮以云化方式,與已有安全設(shè)備整合,并集成到當(dāng)前安全業(yè)務(wù)流。

關(guān)注AI引發(fā)的風(fēng)險:謹(jǐn)慎防范數(shù)據(jù)投喂泄密,以及更為廣泛的API使用帶來的暴露面風(fēng)險。

【廣告】