開發(fā)經(jīng)理
互聯(lián)網(wǎng)
ai
推薦課程
average > 0 ? $model->average . '分' : '10.0分' ?>

大語言模型編程馬拉松：全景實(shí)戰(zhàn)訓(xùn)練營

Y.Chen

msup 敏捷教練

27年研發(fā)、管理及咨詢經(jīng)驗(yàn)，擅長在實(shí)際環(huán)境中靈活應(yīng)用各種研發(fā)方法論
具有豐富的工程技術(shù)與項(xiàng)目管理實(shí)踐經(jīng)驗(yàn)，從其程序員、項(xiàng)目經(jīng)理、CMMI/FPA功能點(diǎn)估算/敏捷咨詢師、事業(yè)部總監(jiān)、副總經(jīng)理等各種技術(shù)與管理崗位獲得的一手經(jīng)驗(yàn)，令其可以站在企業(yè)管理者的高度，以更廣的視角來理解敏捷開發(fā)，并能配合和推動(dòng)非研發(fā)部門協(xié)作推廣敏捷。

?27年軟件開發(fā)行業(yè)經(jīng)驗(yàn)
? 15年編程、測試開發(fā)經(jīng)驗(yàn)
? 4年中高層管理經(jīng)驗(yàn)
? 13年以上項(xiàng)目管理經(jīng)驗(yàn)
? 15年敏捷項(xiàng)目管理、培訓(xùn)與咨詢經(jīng)驗(yàn)
? 200+場次培訓(xùn)與咨詢

曾為金山軟件（西山居），盛大，騰訊，邊鋒，搜狐，迅雷等10多家互聯(lián)網(wǎng)軟件公司提供敏捷培訓(xùn)與咨詢。

27年研發(fā)、管理及咨詢經(jīng)驗(yàn)，擅長在實(shí)際環(huán)境中靈活應(yīng)用各種研發(fā)方法論 具有豐富的工程技術(shù)與項(xiàng)目管理實(shí)踐經(jīng)驗(yàn)，從其程序員、項(xiàng)目經(jīng)理、CMMI/FPA功能點(diǎn)估算/敏捷咨詢師、事業(yè)部總監(jiān)、副總經(jīng)理等各種技術(shù)與管理崗位獲得的一手經(jīng)驗(yàn)，令其可以站在企業(yè)管理者的高度，以更廣的視角來理解敏捷開發(fā)，并能配合和推動(dòng)非研發(fā)部門協(xié)作推廣敏捷。 ?27年軟件開發(fā)行業(yè)經(jīng)驗(yàn) ? 15年編程、測試開發(fā)經(jīng)驗(yàn) ? 4年中高層管理經(jīng)驗(yàn) ? 13年以上項(xiàng)目管理經(jīng)驗(yàn) ? 15年敏捷項(xiàng)目管理、培訓(xùn)與咨詢經(jīng)驗(yàn) ? 200+場次培訓(xùn)與咨詢 曾為金山軟件（西山居），盛大，騰訊，邊鋒，搜狐，迅雷等10多家互聯(lián)網(wǎng)軟件公司提供敏捷培訓(xùn)與咨詢。

課程費(fèi)用

5800.00 /人

課程時(shí)長

2天

成為教練

課程簡介

此課程可在短短2 天之內(nèi)，讓不具備 AI 知識(shí)，甚至沒有編程基礎(chǔ)的學(xué)員親手運(yùn)行、修改甚至從頭搭建自己的?【LLM 大語言模型應(yīng)用】。
學(xué)員將會(huì)學(xué)習(xí)大語言模型應(yīng)用的科學(xué)知識(shí)、技術(shù)框架、編碼技術(shù)、業(yè)務(wù)應(yīng)用。借助課程提供的?【積木代碼】?，學(xué)員可以根據(jù)自己的實(shí)際需求創(chuàng)建?【假想產(chǎn)品】?，并通過為其增加功能來贏得?【勛章】?，用于評(píng)估學(xué)習(xí)效果。
學(xué)員還會(huì)跟隨講師探索 Langchain 官網(wǎng)、學(xué)習(xí)使用 ChatGpt 編寫代碼以完成?【自學(xué)賦能】，以便保證在課后仍然有能力擴(kuò)展自己的產(chǎn)品功能。

目標(biāo)收益

1.跨越門檻：快速消除初入人工智能領(lǐng)域的陌生與畏懼感。
2.認(rèn)知提升：深入理解大語言模型的工作原理及其在多種場景下的實(shí)際應(yīng)用。
3.編程技能：非編程背景的學(xué)員也能通過課程提供的積木代碼嘗試編寫和改進(jìn)代碼。
4.項(xiàng)目實(shí)戰(zhàn)：圍繞假想產(chǎn)品實(shí)際操作 LLM 平臺(tái)，解決實(shí)際問題。
5.自學(xué)賦能：通過對(duì) Langchain 框架的解讀、基于 ChatGpt 的自動(dòng)化編程，讓沒有 AI 和 python 基礎(chǔ)的學(xué)員在課后仍然能編寫和擴(kuò)展應(yīng)用

培訓(xùn)對(duì)象

1、希望成為?LLM 產(chǎn)品經(jīng)理?的專業(yè)人士，希望了解 LLM 的商業(yè)和技術(shù)應(yīng)用。
2、想要轉(zhuǎn)型成為?LLM 軟件工程師的開發(fā)者，希望通過實(shí)際編程加深對(duì) LLM 的理解。

課程大綱

概述：LLM 簡介與核心概念 一、知識(shí)點(diǎn)
1、什么是大語言模型 LLM
LLM 的發(fā)展歷史
LLM 是如何工作的
LLM 與 AI 的關(guān)系
二、應(yīng)用與限制
1、LLM 在理解、生成、推理能力方面的具體表現(xiàn)
2、LLM 面臨的挑戰(zhàn)，如偏見、誤解和數(shù)據(jù)依賴性
3、討論如何通過技術(shù)和策略改進(jìn)來克服這些局限

案例《ChatGpt 框架》
通過 ChatGpt 的框架解析，理解大語言模型 APP 的前后臺(tái)關(guān)系
案例《辨別極限》
通過 ChatGpt 中存在的若干問題，指出 LLM 在處理該案例時(shí)可能遇到的問題，并提出可能的解決方案。
第一課：Hello World! 一、 知識(shí)點(diǎn)
1、親手操作 LLM，從最基礎(chǔ)的“Hello World!”程序開始，逐步學(xué)習(xí)如何調(diào)用 LLM 進(jìn)行簡單的文本生成
2、解釋 API 的使用方法與調(diào)用參數(shù)
3、講解如何安全有效地管理 API 賬號(hào)與密鑰
4、理解 LLM Api 的計(jì)費(fèi)方式與持續(xù)性成本
二、實(shí)用工具箱
1、利用 ChatGpt 編寫代碼
此內(nèi)容可讓完全沒有編程基礎(chǔ)的學(xué)員，生成、改進(jìn)、調(diào)試 python 代碼，從而解決課后的持續(xù)開發(fā)問題
三、練習(xí)《我的第一條 AI 生成文本》
1、使用提供的 API，編寫一個(gè)簡單的問題回答腳本
2、讓 LLM 能循環(huán)回答用戶問題（需借助 ChatGpt 編程）
第二課：提示詞工程 一、知識(shí)點(diǎn)
1、學(xué)習(xí)如何設(shè)計(jì)有效的提示詞以引導(dǎo) LLM 生成更高質(zhì)量的內(nèi)容
2、介紹不同類型的提示詞模板，如靜態(tài)提示、動(dòng)態(tài)提示
3、探討如何利用用戶輸入調(diào)整提示詞以改善交互質(zhì)量
二、練習(xí)《優(yōu)化提示詞》
1、讓 LLM 編寫并執(zhí)行代碼
2、讓 LLM 進(jìn)行智能銷售分析
3、對(duì)參數(shù)的排列組合后傳入 LLM
4、從 LLM 返回的結(jié)果中，獲取結(jié)構(gòu)化數(shù)據(jù)
三、 假想產(chǎn)品升級(jí)
1、為 AI 設(shè)置一個(gè)合理的人設(shè)與規(guī)則
2、限定 AI 回答問題的范圍
3、使用 2 種以上人類語言回答問題
4、使輸出格式成為一個(gè)可以被解析的 json 結(jié)構(gòu)
第三課：檢索增強(qiáng)生成（RAG） 一、知識(shí)點(diǎn)
1、介紹如何通過集成外部數(shù)據(jù)來提高 LLM 的輸出質(zhì)量和相關(guān)性
2、講解如何構(gòu)建一個(gè)向量數(shù)據(jù)庫，并使用檢索增強(qiáng)技術(shù)來改進(jìn)模型的答案質(zhì)量
二、練習(xí)《內(nèi)部 OA 助手》
1、創(chuàng)建一個(gè)簡單的 OA 助手
2、借助本地文檔回答問題
3、借助內(nèi)網(wǎng)/外網(wǎng)網(wǎng)頁內(nèi)容回答問題
三、假想產(chǎn)品升級(jí)
1、訪問本地一個(gè)目錄中的所有文檔（Markdown 格式）
2、訪問一個(gè) URL 頁面的網(wǎng)頁內(nèi)容
第四課：記憶與持久化 一、知識(shí)點(diǎn)
1、探討如何通過對(duì)話記憶和持久化技術(shù)來實(shí)現(xiàn)復(fù)雜的會(huì)話管理
2、介紹如何使用 LLM 存儲(chǔ)和回憶過往對(duì)話內(nèi)容
3、了解如何處理長期記憶和短期記憶的不同技術(shù)策略
二、練習(xí)《內(nèi)部 OA 助手》
1、與用戶進(jìn)行多輪相關(guān)聯(lián)的對(duì)話
2、在多輪對(duì)話中使用多個(gè)不同文檔的內(nèi)容進(jìn)行分析
三、假想產(chǎn)品升級(jí)
1、執(zhí)行多輪關(guān)聯(lián)對(duì)話
2、上下文來自不同的文檔
3、至少一次上下文來自 URL 頁面的網(wǎng)頁內(nèi)容
第五課：智能體 一、知識(shí)點(diǎn)
1、了解智能體與工具的基本運(yùn)行原理原理
2、進(jìn)一步實(shí)踐與感受大語言模型的能力與限制
二、練習(xí)《智能 OA 助手》
1、調(diào)用搜索工具，回答實(shí)時(shí)問題（如搜索天氣）
2、調(diào)用文檔工具，根據(jù)企業(yè)內(nèi)部文檔分析和回答問題
3、調(diào)用數(shù)學(xué)工具，對(duì)數(shù)學(xué)問題進(jìn)行計(jì)算
三、假想產(chǎn)品升級(jí)
1、自主調(diào)用工具，訪問本地一個(gè)目錄中的所有文檔（Markdown 格式）
2、自主調(diào)用工具，訪問一個(gè) URL 頁面的網(wǎng)頁內(nèi)容
與上一個(gè)練習(xí)的區(qū)別是，智能體可以自主選擇工具，無需人工指定
擴(kuò)展：自學(xué)賦能 一、LLM 相關(guān)資源
1、Langchain 官網(wǎng)概覽
此內(nèi)容整體介紹 Langchain 編程框架官網(wǎng)的結(jié)構(gòu)、模塊、功能
特別會(huì)提及部署方案 LangServe 和運(yùn)維方案 LangSmith
2、github 簡單使用指南
在 github 上搜索、瀏覽 LLM 相關(guān)代碼
3、Docker 簡單使用指南
在本機(jī)部署各種向量數(shù)據(jù)庫、redis 等服務(wù)的快捷做法
二、假想產(chǎn)品升級(jí)
1、每組推選本組一個(gè)前面練習(xí)后最成熟的假想產(chǎn)品為代表產(chǎn)品
以組為單位（之前可以單個(gè)學(xué)員自己做）
分工協(xié)作，有計(jì)劃地為此產(chǎn)品擴(kuò)展功能。
2、基于 Langchain 官網(wǎng)提供的功能，嘗試實(shí)現(xiàn)課上未涉及的功能
自主決定添加何種新功能（需要與產(chǎn)品相關(guān)）
添加新功能可持續(xù)獲得勛章
概述：LLM 簡介與核心概念
一、知識(shí)點(diǎn)
1、什么是大語言模型 LLM
LLM 的發(fā)展歷史
LLM 是如何工作的
LLM 與 AI 的關(guān)系
二、應(yīng)用與限制
1、LLM 在理解、生成、推理能力方面的具體表現(xiàn)
2、LLM 面臨的挑戰(zhàn)，如偏見、誤解和數(shù)據(jù)依賴性
3、討論如何通過技術(shù)和策略改進(jìn)來克服這些局限

案例《ChatGpt 框架》
通過 ChatGpt 的框架解析，理解大語言模型 APP 的前后臺(tái)關(guān)系
案例《辨別極限》
通過 ChatGpt 中存在的若干問題，指出 LLM 在處理該案例時(shí)可能遇到的問題，并提出可能的解決方案。
第一課：Hello World!
一、 知識(shí)點(diǎn)
1、親手操作 LLM，從最基礎(chǔ)的“Hello World!”程序開始，逐步學(xué)習(xí)如何調(diào)用 LLM 進(jìn)行簡單的文本生成
2、解釋 API 的使用方法與調(diào)用參數(shù)
3、講解如何安全有效地管理 API 賬號(hào)與密鑰
4、理解 LLM Api 的計(jì)費(fèi)方式與持續(xù)性成本
二、實(shí)用工具箱
1、利用 ChatGpt 編寫代碼
此內(nèi)容可讓完全沒有編程基礎(chǔ)的學(xué)員，生成、改進(jìn)、調(diào)試 python 代碼，從而解決課后的持續(xù)開發(fā)問題
三、練習(xí)《我的第一條 AI 生成文本》
1、使用提供的 API，編寫一個(gè)簡單的問題回答腳本
2、讓 LLM 能循環(huán)回答用戶問題（需借助 ChatGpt 編程）
第二課：提示詞工程
一、知識(shí)點(diǎn)
1、學(xué)習(xí)如何設(shè)計(jì)有效的提示詞以引導(dǎo) LLM 生成更高質(zhì)量的內(nèi)容
2、介紹不同類型的提示詞模板，如靜態(tài)提示、動(dòng)態(tài)提示
3、探討如何利用用戶輸入調(diào)整提示詞以改善交互質(zhì)量
二、練習(xí)《優(yōu)化提示詞》
1、讓 LLM 編寫并執(zhí)行代碼
2、讓 LLM 進(jìn)行智能銷售分析
3、對(duì)參數(shù)的排列組合后傳入 LLM
4、從 LLM 返回的結(jié)果中，獲取結(jié)構(gòu)化數(shù)據(jù)
三、 假想產(chǎn)品升級(jí)
1、為 AI 設(shè)置一個(gè)合理的人設(shè)與規(guī)則
2、限定 AI 回答問題的范圍
3、使用 2 種以上人類語言回答問題
4、使輸出格式成為一個(gè)可以被解析的 json 結(jié)構(gòu)
第三課：檢索增強(qiáng)生成（RAG）
一、知識(shí)點(diǎn)
1、介紹如何通過集成外部數(shù)據(jù)來提高 LLM 的輸出質(zhì)量和相關(guān)性
2、講解如何構(gòu)建一個(gè)向量數(shù)據(jù)庫，并使用檢索增強(qiáng)技術(shù)來改進(jìn)模型的答案質(zhì)量
二、練習(xí)《內(nèi)部 OA 助手》
1、創(chuàng)建一個(gè)簡單的 OA 助手
2、借助本地文檔回答問題
3、借助內(nèi)網(wǎng)/外網(wǎng)網(wǎng)頁內(nèi)容回答問題
三、假想產(chǎn)品升級(jí)
1、訪問本地一個(gè)目錄中的所有文檔（Markdown 格式）
2、訪問一個(gè) URL 頁面的網(wǎng)頁內(nèi)容
第四課：記憶與持久化
一、知識(shí)點(diǎn)
1、探討如何通過對(duì)話記憶和持久化技術(shù)來實(shí)現(xiàn)復(fù)雜的會(huì)話管理
2、介紹如何使用 LLM 存儲(chǔ)和回憶過往對(duì)話內(nèi)容
3、了解如何處理長期記憶和短期記憶的不同技術(shù)策略
二、練習(xí)《內(nèi)部 OA 助手》
1、與用戶進(jìn)行多輪相關(guān)聯(lián)的對(duì)話
2、在多輪對(duì)話中使用多個(gè)不同文檔的內(nèi)容進(jìn)行分析
三、假想產(chǎn)品升級(jí)
1、執(zhí)行多輪關(guān)聯(lián)對(duì)話
2、上下文來自不同的文檔
3、至少一次上下文來自 URL 頁面的網(wǎng)頁內(nèi)容
第五課：智能體
一、知識(shí)點(diǎn)
1、了解智能體與工具的基本運(yùn)行原理原理
2、進(jìn)一步實(shí)踐與感受大語言模型的能力與限制
二、練習(xí)《智能 OA 助手》
1、調(diào)用搜索工具，回答實(shí)時(shí)問題（如搜索天氣）
2、調(diào)用文檔工具，根據(jù)企業(yè)內(nèi)部文檔分析和回答問題
3、調(diào)用數(shù)學(xué)工具，對(duì)數(shù)學(xué)問題進(jìn)行計(jì)算
三、假想產(chǎn)品升級(jí)
1、自主調(diào)用工具，訪問本地一個(gè)目錄中的所有文檔（Markdown 格式）
2、自主調(diào)用工具，訪問一個(gè) URL 頁面的網(wǎng)頁內(nèi)容
與上一個(gè)練習(xí)的區(qū)別是，智能體可以自主選擇工具，無需人工指定
擴(kuò)展：自學(xué)賦能
一、LLM 相關(guān)資源
1、Langchain 官網(wǎng)概覽
此內(nèi)容整體介紹 Langchain 編程框架官網(wǎng)的結(jié)構(gòu)、模塊、功能
特別會(huì)提及部署方案 LangServe 和運(yùn)維方案 LangSmith
2、github 簡單使用指南
在 github 上搜索、瀏覽 LLM 相關(guān)代碼
3、Docker 簡單使用指南
在本機(jī)部署各種向量數(shù)據(jù)庫、redis 等服務(wù)的快捷做法
二、假想產(chǎn)品升級(jí)
1、每組推選本組一個(gè)前面練習(xí)后最成熟的假想產(chǎn)品為代表產(chǎn)品
以組為單位（之前可以單個(gè)學(xué)員自己做）
分工協(xié)作，有計(jì)劃地為此產(chǎn)品擴(kuò)展功能。
2、基于 Langchain 官網(wǎng)提供的功能，嘗試實(shí)現(xiàn)課上未涉及的功能
自主決定添加何種新功能（需要與產(chǎn)品相關(guān)）
添加新功能可持續(xù)獲得勛章

活動(dòng)詳情

提交需求