課程簡介
本課程旨在幫助大家深入了解和應(yīng)用大模型,從而利用其強(qiáng)大的自然語言處理能力解決各種現(xiàn)實(shí)世界的問題。內(nèi)容包括介紹大型語言模型的基本原理、架構(gòu)和訓(xùn)練方法,幫助大家建立對大模型的理解和認(rèn)知。深入探討LLAMA在各個(gè)領(lǐng)域的實(shí)際應(yīng)用,包括自動文本生成、機(jī)器翻譯、情感分析、問答系統(tǒng)等,幫助大家了解如何將LlAMA應(yīng)用于實(shí)際項(xiàng)目中。
目標(biāo)收益
1. 系統(tǒng)化了解AIGC生態(tài)體系和發(fā)展趨勢
2. 系統(tǒng)化了解LLMs大語言模型生態(tài)體系和發(fā)展趨勢
3. 掌握大語言模型LLama2的基座模型微調(diào)方法
5. 掌握大語言模型開發(fā)框架Langchain的使用方法。
6. 構(gòu)建基于LangChain完整項(xiàng)目的開發(fā)過程和經(jīng)驗(yàn)
7 大模型在產(chǎn)業(yè)應(yīng)用實(shí)踐(金融/電信/教育科技/制造業(yè)/公共服務(wù)業(yè))
8 探索可落地的商用前景及實(shí)施路徑
培訓(xùn)對象
課程大綱
第一部分: LLM大模型核心原理 |
1.大模型基礎(chǔ):理論與技術(shù)的演進(jìn) 2.LLMs大語言模型的概念定義 3.LLMs大語言模型的發(fā)展演進(jìn) 4.LLMs大語言模型的生態(tài)體系 5.大語言模型技術(shù)發(fā)展與演進(jìn) 6.基于統(tǒng)計(jì)機(jī)器學(xué)習(xí)的語言模型 7.基于深度神經(jīng)網(wǎng)絡(luò)的語言模型 8.基于 Transformer 的大語言模型 9.LLMs大語言模型的關(guān)鍵技術(shù) 10.LLMs大語言模型的核心框架:商業(yè)&開源 11.LLMs大語言模型的行業(yè)應(yīng)用 12.動?開發(fā)第?個(gè) ChatGPT Plugin |
第二部分: LLM大模型微調(diào) |
1.大模型高效微調(diào)技術(shù) 2.Parameter-Efficient 3. Fine-Tuning (PEFT) 初探 4.大模型輕量級高效微調(diào)方法 LoRA 5.少樣本 PEFT 新方法 IA3 6.統(tǒng)一微調(diào)框架 UniPELT 7.基于人類反饋的強(qiáng)化學(xué)習(xí)微調(diào)技術(shù) RLHF 8.混合專家模型 Mixture of Experts(MoE)技術(shù)架構(gòu)揭秘 |
第三部分: 國內(nèi)外大模型研究進(jìn)展 |
1.國內(nèi)外大模型研究進(jìn)展 2.百度文心、 3.阿里通義 4.科大訊飛星火大模型 5.0pen API GPT 6.騰訊混元 7.華為鯤鵬大模型; |
第四部分: 大語言模型微調(diào)與Prompt提示工程 |
1.大語言模型微調(diào)與Prompt 2.大語言模型微調(diào)對象和層次 3.語言模型微調(diào)的主流方法 4.Prompt如何使用和進(jìn)階 5.什么是提示與提示工程 6.提示工程的巨大威力:從Let’s think step by step說起 7.拆解、標(biāo)準(zhǔn)化、流程化:如何用AI改造工作 8.使用BROKE框架設(shè)計(jì)ChatGPT提示 9.通過案例分析,展示如何使用大模型prompt技術(shù)輔助開發(fā) |
第五部分: 基于智譜 AI GLM 篇-案例分析 |
1.GLM 大模型家族介紹 2.智譜第四代 API 介紹 3.AP| 基礎(chǔ)教學(xué)和實(shí)戰(zhàn) 4.使用 GLM-4 AP| 構(gòu)建模型和應(yīng)用 5.使用 GLM-4從0到1搭建并優(yōu)化 RAG 程序 6.Diffusion 原理介紹 7.模型訓(xùn)練的數(shù)據(jù)優(yōu)化(DALLE3) 8.CogView3 及 API 調(diào)用演示 9.超擬人大模型 10.CharacterGLM:理論與實(shí)戰(zhàn) |
第六部分: ?模型應(yīng)?開發(fā)框架 LangChain |
1.?模型應(yīng)?開發(fā)框架 LangChain 2.LangChain 是什么 3.為什么需要 LangChain 4.LangChain 典型使?場景 5.LangChain 基礎(chǔ)概念與模塊化設(shè)計(jì) 6.LangChain 核?模塊??與實(shí)戰(zhàn) 7.LangChain 的3 個(gè)場景 8.LangChain 的6 大模塊 9.LangChain 的開發(fā)流程 10.創(chuàng)建基于LangChain聊天機(jī)器人 |
第七部分: 構(gòu)建Llama2 +LangChain構(gòu)建文檔問答系統(tǒng) |
1.構(gòu)建復(fù)雜LangChain應(yīng)? 2.LangChain模型(Models):從不同的 LLM 和嵌入模型中進(jìn)行選擇 3. LangChain提示(Prompts):管理 LLM 輸入 4. LangChain鏈(Chains):將 LLM 與其他組件相結(jié)合 5. LangChain索引(Indexs):訪問外部數(shù)據(jù) 6. LangChain記憶(Memory):記住以前的對話 7. LangChain代理(Agents):訪問其他工具 8.Agent 理論基礎(chǔ):ReAct 9.使?Llama大模型構(gòu)建文檔問答系統(tǒng) |
第八部分: 基于大模型 + LangChain 產(chǎn)業(yè)應(yīng)用場景和案例分析 |
1.大模型應(yīng)用聊天機(jī)器人場景 2.大模型應(yīng)用智能文檔和智能寫作場景 3.大模型應(yīng)用知識圖譜場景 4.大模型應(yīng)用用戶體驗(yàn)管理場景 5.大模型應(yīng)用搜索場景 6.大模型應(yīng)用智能機(jī)器人場景 7.大模型LangChain程序設(shè)計(jì)案例:聊天機(jī)器人 8.大模型LangChain程序設(shè)計(jì)案例:代碼理解 9.大模型LangChain程序設(shè)計(jì)案例:API交互 10.大模型LangChain程序設(shè)計(jì)案例:文檔摘要 |
第九部分: 大模型技術(shù)在金融業(yè)應(yīng)用的思考與建議 |
1.大模型技術(shù)在金融業(yè)應(yīng)用的思考與建議 2.大模型技術(shù)的特點(diǎn)及局限性分析 3.大模型技術(shù)在金融領(lǐng)域的適用場景 4.大模型技術(shù)與金融智能營銷 5.大模型技術(shù)與金融智能風(fēng)控 6.大模型技術(shù)與金融智能客服 7.大模型技術(shù)與金融虛擬營業(yè)廳和數(shù)字人 8.大模型技術(shù)與金融其他通用場景 |
第十部分: 大模型技術(shù)在軟件開發(fā)行業(yè)應(yīng)用-以GPT為工具 |
1.大模型應(yīng)用軟件架構(gòu)設(shè)計(jì)階段場景與案例 2.大模型應(yīng)用詳細(xì)設(shè)計(jì)階段階段場景與案例 3.大模型應(yīng)用編碼階段階段場景與案例 4.大模型應(yīng)用代碼重構(gòu)與優(yōu)化階段場景與案例 5.大模型應(yīng)用代碼評審階段場景與案例 6.大模型單元測試階段場景與案例 |
第十一部分: 大模型技術(shù)在其他行業(yè)應(yīng)用 |
1.大模型技術(shù)在教育科技應(yīng)用-可汗學(xué)院(Khan Academy) 2.大模型技術(shù)在大型企業(yè)數(shù)字化轉(zhuǎn)型應(yīng)用-法務(wù)智能輔助審核 3.大模型技術(shù)在企業(yè)應(yīng)用-安防企業(yè)智能文本審閱系統(tǒng) 4.大模型技術(shù)在電信應(yīng)用-智能運(yùn)維 5.大模型技術(shù)在互聯(lián)網(wǎng)和傳媒應(yīng)用-智能搜索與推薦系統(tǒng) 6.大模型技術(shù)在建筑行業(yè)應(yīng)用-智能工程圖紙管理 |
第一部分: LLM大模型核心原理 1.大模型基礎(chǔ):理論與技術(shù)的演進(jìn) 2.LLMs大語言模型的概念定義 3.LLMs大語言模型的發(fā)展演進(jìn) 4.LLMs大語言模型的生態(tài)體系 5.大語言模型技術(shù)發(fā)展與演進(jìn) 6.基于統(tǒng)計(jì)機(jī)器學(xué)習(xí)的語言模型 7.基于深度神經(jīng)網(wǎng)絡(luò)的語言模型 8.基于 Transformer 的大語言模型 9.LLMs大語言模型的關(guān)鍵技術(shù) 10.LLMs大語言模型的核心框架:商業(yè)&開源 11.LLMs大語言模型的行業(yè)應(yīng)用 12.動?開發(fā)第?個(gè) ChatGPT Plugin |
第二部分: LLM大模型微調(diào) 1.大模型高效微調(diào)技術(shù) 2.Parameter-Efficient 3. Fine-Tuning (PEFT) 初探 4.大模型輕量級高效微調(diào)方法 LoRA 5.少樣本 PEFT 新方法 IA3 6.統(tǒng)一微調(diào)框架 UniPELT 7.基于人類反饋的強(qiáng)化學(xué)習(xí)微調(diào)技術(shù) RLHF 8.混合專家模型 Mixture of Experts(MoE)技術(shù)架構(gòu)揭秘 |
第三部分: 國內(nèi)外大模型研究進(jìn)展 1.國內(nèi)外大模型研究進(jìn)展 2.百度文心、 3.阿里通義 4.科大訊飛星火大模型 5.0pen API GPT 6.騰訊混元 7.華為鯤鵬大模型; |
第四部分: 大語言模型微調(diào)與Prompt提示工程 1.大語言模型微調(diào)與Prompt 2.大語言模型微調(diào)對象和層次 3.語言模型微調(diào)的主流方法 4.Prompt如何使用和進(jìn)階 5.什么是提示與提示工程 6.提示工程的巨大威力:從Let’s think step by step說起 7.拆解、標(biāo)準(zhǔn)化、流程化:如何用AI改造工作 8.使用BROKE框架設(shè)計(jì)ChatGPT提示 9.通過案例分析,展示如何使用大模型prompt技術(shù)輔助開發(fā) |
第五部分: 基于智譜 AI GLM 篇-案例分析 1.GLM 大模型家族介紹 2.智譜第四代 API 介紹 3.AP| 基礎(chǔ)教學(xué)和實(shí)戰(zhàn) 4.使用 GLM-4 AP| 構(gòu)建模型和應(yīng)用 5.使用 GLM-4從0到1搭建并優(yōu)化 RAG 程序 6.Diffusion 原理介紹 7.模型訓(xùn)練的數(shù)據(jù)優(yōu)化(DALLE3) 8.CogView3 及 API 調(diào)用演示 9.超擬人大模型 10.CharacterGLM:理論與實(shí)戰(zhàn) |
第六部分: ?模型應(yīng)?開發(fā)框架 LangChain 1.?模型應(yīng)?開發(fā)框架 LangChain 2.LangChain 是什么 3.為什么需要 LangChain 4.LangChain 典型使?場景 5.LangChain 基礎(chǔ)概念與模塊化設(shè)計(jì) 6.LangChain 核?模塊??與實(shí)戰(zhàn) 7.LangChain 的3 個(gè)場景 8.LangChain 的6 大模塊 9.LangChain 的開發(fā)流程 10.創(chuàng)建基于LangChain聊天機(jī)器人 |
第七部分: 構(gòu)建Llama2 +LangChain構(gòu)建文檔問答系統(tǒng) 1.構(gòu)建復(fù)雜LangChain應(yīng)? 2.LangChain模型(Models):從不同的 LLM 和嵌入模型中進(jìn)行選擇 3. LangChain提示(Prompts):管理 LLM 輸入 4. LangChain鏈(Chains):將 LLM 與其他組件相結(jié)合 5. LangChain索引(Indexs):訪問外部數(shù)據(jù) 6. LangChain記憶(Memory):記住以前的對話 7. LangChain代理(Agents):訪問其他工具 8.Agent 理論基礎(chǔ):ReAct 9.使?Llama大模型構(gòu)建文檔問答系統(tǒng) |
第八部分: 基于大模型 + LangChain 產(chǎn)業(yè)應(yīng)用場景和案例分析 1.大模型應(yīng)用聊天機(jī)器人場景 2.大模型應(yīng)用智能文檔和智能寫作場景 3.大模型應(yīng)用知識圖譜場景 4.大模型應(yīng)用用戶體驗(yàn)管理場景 5.大模型應(yīng)用搜索場景 6.大模型應(yīng)用智能機(jī)器人場景 7.大模型LangChain程序設(shè)計(jì)案例:聊天機(jī)器人 8.大模型LangChain程序設(shè)計(jì)案例:代碼理解 9.大模型LangChain程序設(shè)計(jì)案例:API交互 10.大模型LangChain程序設(shè)計(jì)案例:文檔摘要 |
第九部分: 大模型技術(shù)在金融業(yè)應(yīng)用的思考與建議 1.大模型技術(shù)在金融業(yè)應(yīng)用的思考與建議 2.大模型技術(shù)的特點(diǎn)及局限性分析 3.大模型技術(shù)在金融領(lǐng)域的適用場景 4.大模型技術(shù)與金融智能營銷 5.大模型技術(shù)與金融智能風(fēng)控 6.大模型技術(shù)與金融智能客服 7.大模型技術(shù)與金融虛擬營業(yè)廳和數(shù)字人 8.大模型技術(shù)與金融其他通用場景 |
第十部分: 大模型技術(shù)在軟件開發(fā)行業(yè)應(yīng)用-以GPT為工具 1.大模型應(yīng)用軟件架構(gòu)設(shè)計(jì)階段場景與案例 2.大模型應(yīng)用詳細(xì)設(shè)計(jì)階段階段場景與案例 3.大模型應(yīng)用編碼階段階段場景與案例 4.大模型應(yīng)用代碼重構(gòu)與優(yōu)化階段場景與案例 5.大模型應(yīng)用代碼評審階段場景與案例 6.大模型單元測試階段場景與案例 |
第十一部分: 大模型技術(shù)在其他行業(yè)應(yīng)用 1.大模型技術(shù)在教育科技應(yīng)用-可汗學(xué)院(Khan Academy) 2.大模型技術(shù)在大型企業(yè)數(shù)字化轉(zhuǎn)型應(yīng)用-法務(wù)智能輔助審核 3.大模型技術(shù)在企業(yè)應(yīng)用-安防企業(yè)智能文本審閱系統(tǒng) 4.大模型技術(shù)在電信應(yīng)用-智能運(yùn)維 5.大模型技術(shù)在互聯(lián)網(wǎng)和傳媒應(yīng)用-智能搜索與推薦系統(tǒng) 6.大模型技術(shù)在建筑行業(yè)應(yīng)用-智能工程圖紙管理 |