工程師
互聯(lián)網(wǎng)
其他
API
金融
推薦課程
average > 0 ? $model->average . '分' : '10.0分' ?>

安全攻防智能體(Agent)架構(gòu)設(shè)計與實踐

深信服科技 安全解決方案架構(gòu)師

游建舟,深信服科技股份有限公司大模型技術(shù)專家、安全GPT規(guī)劃運營負(fù)責(zé)人,中國科學(xué)院網(wǎng)絡(luò)空間安全博士、博士后。本人長期從事大規(guī)模網(wǎng)絡(luò)安全攻防系統(tǒng)設(shè)計、基于人工智能和數(shù)據(jù)科學(xué)方法的主動防御技術(shù)研究,曾參與國家自然科學(xué)基金重點、科技部國家重點研發(fā)計劃等十余項國家級、省部級重大項目。已發(fā)表十余篇高水平國際會議和期刊論文,研究領(lǐng)域包括網(wǎng)絡(luò)安全架構(gòu)、物聯(lián)網(wǎng)安全、人工智能安全等。
近期項目經(jīng)歷:
1、2023工信部人工智能揭榜掛帥任務(wù)課題 牽頭單位負(fù)責(zé)人
2、《網(wǎng)絡(luò)安全運營大模型參考架構(gòu)》技術(shù)規(guī)范 牽頭單位負(fù)責(zé)人、主筆
3、《政務(wù)外網(wǎng)安全大模型指南》標(biāo)準(zhǔn)起草人、主筆
4、《網(wǎng)絡(luò)安全技術(shù) 生成式人工智能服務(wù)安全基本要求》標(biāo)準(zhǔn)參編成員

游建舟,深信服科技股份有限公司大模型技術(shù)專家、安全GPT規(guī)劃運營負(fù)責(zé)人,中國科學(xué)院網(wǎng)絡(luò)空間安全博士、博士后。本人長期從事大規(guī)模網(wǎng)絡(luò)安全攻防系統(tǒng)設(shè)計、基于人工智能和數(shù)據(jù)科學(xué)方法的主動防御技術(shù)研究,曾參與國家自然科學(xué)基金重點、科技部國家重點研發(fā)計劃等十余項國家級、省部級重大項目。已發(fā)表十余篇高水平國際會議和期刊論文,研究領(lǐng)域包括網(wǎng)絡(luò)安全架構(gòu)、物聯(lián)網(wǎng)安全、人工智能安全等。 近期項目經(jīng)歷: 1、2023工信部人工智能揭榜掛帥任務(wù)課題 牽頭單位負(fù)責(zé)人 2、《網(wǎng)絡(luò)安全運營大模型參考架構(gòu)》技術(shù)規(guī)范 牽頭單位負(fù)責(zé)人、主筆 3、《政務(wù)外網(wǎng)安全大模型指南》標(biāo)準(zhǔn)起草人、主筆 4、《網(wǎng)絡(luò)安全技術(shù) 生成式人工智能服務(wù)安全基本要求》標(biāo)準(zhǔn)參編成員

課程費用

6800.00 /人

課程時長

50分鐘以下及更短時間

成為教練

課程簡介

案例背景:
網(wǎng)絡(luò)安全攻防過程涉及大量的博弈階段,對應(yīng)于大模型問答過程,非常適合大模型對應(yīng)安全攻防進行行為擬合和進行攻防邏輯設(shè)計,安全智能技術(shù)核心攻關(guān)目標(biāo)是通過設(shè)計合理的自適應(yīng)防御目標(biāo)達到對攻擊者的欺騙和防御。如何選擇攻防博弈的接口和Agent自身業(yè)務(wù)邏輯是關(guān)鍵。

解決思路:
通過學(xué)習(xí)海量網(wǎng)絡(luò)安全知識和最佳實踐流程,安全攻防智能體(Agent)實現(xiàn)網(wǎng)絡(luò)安全的智能研判和調(diào)度中樞,基于外部API和知識庫存儲賦予大模型安全感知、存儲、規(guī)劃、行動能力,廣泛接入當(dāng)前領(lǐng)先的安全系統(tǒng)(如XDR、NDR、SIP、AES等)。通過大模型微調(diào)和提示詞優(yōu)化,增強大模型對API和安全場景業(yè)務(wù)的理解。通過安全專家的分析處置最佳實踐,為Agent提供大量專業(yè)化思維鏈樣本,提升安全細(xì)分場景處置的深度。用戶利用自然語言與安全攻防智能體(Agent)進行交互,可快速進行安全態(tài)勢研判、攻擊分析溯源、影響面調(diào)查、漏洞分析管理等安全運營操作,并顯著提升高混淆攻擊的識別研判能力。同時,行業(yè)實踐中建立起了智能體架構(gòu)自身安全風(fēng)險框架,通過“保用、防崩、治人、審入”等維度,提供大模型智能體(Agent)安全研發(fā)和應(yīng)用最佳實踐分享。

成果:
基于安全攻防智能體(Agent)架構(gòu)落地的產(chǎn)品——深信服安全GPT(Security GPT),是網(wǎng)絡(luò)安全行業(yè)內(nèi)實現(xiàn)首個“智能體(Agent)”級別網(wǎng)絡(luò)安全應(yīng)用,可實現(xiàn)7X24網(wǎng)絡(luò)環(huán)境自主值守、秒級自動處置閉環(huán)。同時,安全GPT已累計在130多企業(yè)真實環(huán)境測試和應(yīng)用,幫助金融、能源、政府機關(guān)等行業(yè)用戶提升安全人員分析水平和處置效率。一方面,深信服安全GPT作為數(shù)字化的思維載體,“虛擬人力”可無限復(fù)制迭代,高效擴展人員的安全值守時間、實現(xiàn)安全人員個人人效的階躍提升,減少92%需要多次手動的運營工作、MTTD/MTTR減少85%;另一方面,基于自然語言分析和知識推理的檢測引擎,能夠?qū)鹘y(tǒng)規(guī)則和模式匹配難以發(fā)現(xiàn)的攻擊載荷進行還原、解讀、研判、定性,實現(xiàn)混淆類未知威脅檢出率大幅提升,完成檢測能力質(zhì)的突破,高級混淆威脅檢出率達到95.7%,誤報率僅4.3%,遠(yuǎn)超行業(yè)最佳的傳統(tǒng)品類產(chǎn)品。

目標(biāo)收益

1、了解安全攻防智能體(Agent)的關(guān)鍵應(yīng)用場景和企業(yè)級實踐
2、了解智能體(Agent)對網(wǎng)絡(luò)安全架構(gòu)設(shè)計邏輯的具體變化
3、了解智能體(Agent)架構(gòu)的自身安全防護思路

培訓(xùn)對象

課程內(nèi)容

案例方向


基座大模型|AIGC賦能應(yīng)用|AIGC基礎(chǔ)架構(gòu)

案例背景


1、安全垂直領(lǐng)域數(shù)據(jù)的實戰(zhàn)化問題,安全廠商到底有哪些獨特語料可用于訓(xùn)練
2、大模型+安全,關(guān)鍵應(yīng)用場景和效果如何
3、如何保證大模型本身的安全,引入大模型以后新增了哪些安全風(fēng)險

收益


1、安全和大模型結(jié)合的有趣體驗,深入了解大模型時代的攻與防
2、垂直領(lǐng)域大模型的語料準(zhǔn)備與訓(xùn)練架構(gòu)
3、大模型時代可能引發(fā)的安全風(fēng)險一覽,初識大模型安全風(fēng)險框架

解決思路


1、安全語料的清洗方式,語料配比,和處理原則
2、大模型NLP處理的本質(zhì),在安全領(lǐng)域找到對應(yīng)攻防語義場景
3、大模型的風(fēng)險藍(lán)圖,以及發(fā)展安全智能體的優(yōu)勢

結(jié)果


1、商用自研大模型是跨學(xué)科技術(shù)人員、硬件及工程化能力大力出奇跡的結(jié)果
2、模型日新月異,但實際效果變化不大,chatpgt之后還沒有新的降維能力出現(xiàn)
3、安全行業(yè)的大模型應(yīng)用已經(jīng)出現(xiàn)初步顛覆性的態(tài)勢,改寫了行業(yè)規(guī)則

活動詳情

提交需求