課程簡介
案例背景:
網(wǎng)絡(luò)安全攻防過程涉及大量的博弈階段,對應(yīng)于大模型問答過程,非常適合大模型對應(yīng)安全攻防進行行為擬合和進行攻防邏輯設(shè)計,安全智能技術(shù)核心攻關(guān)目標(biāo)是通過設(shè)計合理的自適應(yīng)防御目標(biāo)達到對攻擊者的欺騙和防御。如何選擇攻防博弈的接口和Agent自身業(yè)務(wù)邏輯是關(guān)鍵。
解決思路:
通過學(xué)習(xí)海量網(wǎng)絡(luò)安全知識和最佳實踐流程,安全攻防智能體(Agent)實現(xiàn)網(wǎng)絡(luò)安全的智能研判和調(diào)度中樞,基于外部API和知識庫存儲賦予大模型安全感知、存儲、規(guī)劃、行動能力,廣泛接入當(dāng)前領(lǐng)先的安全系統(tǒng)(如XDR、NDR、SIP、AES等)。通過大模型微調(diào)和提示詞優(yōu)化,增強大模型對API和安全場景業(yè)務(wù)的理解。通過安全專家的分析處置最佳實踐,為Agent提供大量專業(yè)化思維鏈樣本,提升安全細(xì)分場景處置的深度。用戶利用自然語言與安全攻防智能體(Agent)進行交互,可快速進行安全態(tài)勢研判、攻擊分析溯源、影響面調(diào)查、漏洞分析管理等安全運營操作,并顯著提升高混淆攻擊的識別研判能力。同時,行業(yè)實踐中建立起了智能體架構(gòu)自身安全風(fēng)險框架,通過“保用、防崩、治人、審入”等維度,提供大模型智能體(Agent)安全研發(fā)和應(yīng)用最佳實踐分享。
成果:
基于安全攻防智能體(Agent)架構(gòu)落地的產(chǎn)品——深信服安全GPT(Security GPT),是網(wǎng)絡(luò)安全行業(yè)內(nèi)實現(xiàn)首個“智能體(Agent)”級別網(wǎng)絡(luò)安全應(yīng)用,可實現(xiàn)7X24網(wǎng)絡(luò)環(huán)境自主值守、秒級自動處置閉環(huán)。同時,安全GPT已累計在130多企業(yè)真實環(huán)境測試和應(yīng)用,幫助金融、能源、政府機關(guān)等行業(yè)用戶提升安全人員分析水平和處置效率。一方面,深信服安全GPT作為數(shù)字化的思維載體,“虛擬人力”可無限復(fù)制迭代,高效擴展人員的安全值守時間、實現(xiàn)安全人員個人人效的階躍提升,減少92%需要多次手動的運營工作、MTTD/MTTR減少85%;另一方面,基于自然語言分析和知識推理的檢測引擎,能夠?qū)鹘y(tǒng)規(guī)則和模式匹配難以發(fā)現(xiàn)的攻擊載荷進行還原、解讀、研判、定性,實現(xiàn)混淆類未知威脅檢出率大幅提升,完成檢測能力質(zhì)的突破,高級混淆威脅檢出率達到95.7%,誤報率僅4.3%,遠(yuǎn)超行業(yè)最佳的傳統(tǒng)品類產(chǎn)品。
目標(biāo)收益
1、了解安全攻防智能體(Agent)的關(guān)鍵應(yīng)用場景和企業(yè)級實踐
2、了解智能體(Agent)對網(wǎng)絡(luò)安全架構(gòu)設(shè)計邏輯的具體變化
3、了解智能體(Agent)架構(gòu)的自身安全防護思路
培訓(xùn)對象
課程內(nèi)容
案例方向
基座大模型|AIGC賦能應(yīng)用|AIGC基礎(chǔ)架構(gòu)
案例背景
1、安全垂直領(lǐng)域數(shù)據(jù)的實戰(zhàn)化問題,安全廠商到底有哪些獨特語料可用于訓(xùn)練
2、大模型+安全,關(guān)鍵應(yīng)用場景和效果如何
3、如何保證大模型本身的安全,引入大模型以后新增了哪些安全風(fēng)險
收益
1、安全和大模型結(jié)合的有趣體驗,深入了解大模型時代的攻與防
2、垂直領(lǐng)域大模型的語料準(zhǔn)備與訓(xùn)練架構(gòu)
3、大模型時代可能引發(fā)的安全風(fēng)險一覽,初識大模型安全風(fēng)險框架
解決思路
1、安全語料的清洗方式,語料配比,和處理原則
2、大模型NLP處理的本質(zhì),在安全領(lǐng)域找到對應(yīng)攻防語義場景
3、大模型的風(fēng)險藍(lán)圖,以及發(fā)展安全智能體的優(yōu)勢
結(jié)果
1、商用自研大模型是跨學(xué)科技術(shù)人員、硬件及工程化能力大力出奇跡的結(jié)果
2、模型日新月異,但實際效果變化不大,chatpgt之后還沒有新的降維能力出現(xiàn)
3、安全行業(yè)的大模型應(yīng)用已經(jīng)出現(xiàn)初步顛覆性的態(tài)勢,改寫了行業(yè)規(guī)則