課程簡介

在這個課程中，我們首先將研究生成式人工智能（AIGC）和大語言模型（LLM）的概念和技術(shù)體系，探討其工作原理，生態(tài)體系以及與 OpenAI的關(guān)系。接下來，我們將深入討論"提示工程"，介紹如何構(gòu)建和優(yōu)化提示以提高LLM的結(jié)果質(zhì)量。在環(huán)境配置方面，我們將展示如何使用Python代碼實現(xiàn)流式自動對話，并快速創(chuàng)建Chat Bot。
在課程的第二部分，我們將通過LangChain來開發(fā)AIGC應(yīng)用，詳細講解其概念、模型調(diào)用、提示工程、輸出解析。我們還會介紹如何在LangChain中使用鏈（Chain）、內(nèi)存（Memory）和代理（Agent）。一起探索樓LangChain的高級應(yīng)用，并在實際演練中構(gòu)建一個客戶服務(wù)型Chatbot。
最后，我們將搭建一個API網(wǎng)關(guān)，實現(xiàn)LLM模型的本地運行，并構(gòu)建一個低代碼/無代碼的AIGC開發(fā)平臺。課程最后將主要專注于應(yīng)用部署，包含容器化部署和PaaS化部署，以便于快速上線自定義LLM應(yīng)用。

目標收益

通過參與本課程，學員將能夠獲得必要的知識和技能，以在各自的領(lǐng)域中有效利用AIGC技術(shù)，開發(fā)創(chuàng)新的應(yīng)用程序，并推動人工智能技術(shù)的發(fā)展。
?理解AIGC和LLM技術(shù)：使學員能夠理解AIGC的概念、技術(shù)體系以及LLM的工作原理。
?掌握提示工程：教授學員如何構(gòu)建和優(yōu)化提示，以改善LLM的輸出質(zhì)量。
?開發(fā)環(huán)境搭建：指導(dǎo)學員如何獲取和使用LLM API Key，以及如何使用Python代碼實現(xiàn)流式自動對話。
?LangChain應(yīng)用開發(fā)：深入學習LangChain的基本概念，掌握如何使用LangChain調(diào)用LLM API，以及如何串聯(lián)不同的組件構(gòu)建復(fù)雜的AIGC應(yīng)用。
?記憶與代理機制：了解如何在AIGC應(yīng)用中保存對話上下文，以及如何使用代理機制進行結(jié)構(gòu)化工具對話。
?高級應(yīng)用與工具箱：學習如何實現(xiàn)檢索增強生成、連接數(shù)據(jù)庫、異步通信機制，以及角色扮演等高級應(yīng)用。
?自主可控開發(fā)底座：教授學員如何搭建API Gateway，管理API渠道和令牌，以及如何實現(xiàn)LLM模型的本地運行。
?低代碼無代碼平臺構(gòu)建：介紹如何部署低代碼無代碼AIGC應(yīng)用開發(fā)平臺，如Flowise，并實現(xiàn)基本會話機器人。
?應(yīng)用部署：了解應(yīng)用容器化部署，以及如何借助云服務(wù)快速上線自定義LLM應(yīng)用。
?項目實戰(zhàn)：通過構(gòu)建客服Chatbot和知識庫問答系統(tǒng)，讓學員將所學知識應(yīng)用于實際項目中。

培訓對象

本課程適用于以下受眾
?AI技術(shù)愛好者：對人工智能特別是生成式AI感興趣的個人。
?數(shù)據(jù)科學家：需要使用LLM進行數(shù)據(jù)分析和模式識別的專業(yè)人士。
?軟件開發(fā)者：希望將AIGC集成到其應(yīng)用程序中的軟件開發(fā)者。
?產(chǎn)品經(jīng)理：負責設(shè)計和推出基于AIGC技術(shù)的產(chǎn)品的產(chǎn)品經(jīng)理。
?研究人員和學者：在學術(shù)研究中探索AIGC應(yīng)用的研究人員。
?企業(yè)決策者：尋求利用AIGC技術(shù)改進業(yè)務(wù)流程和提高效率的企業(yè)決策者。
?技術(shù)創(chuàng)業(yè)者：正在尋找利用AIGC技術(shù)創(chuàng)造新業(yè)務(wù)機會的創(chuàng)業(yè)者。

課程內(nèi)容

1. 生成式人工智能和大語言模型技術(shù)概覽 （1天）
AIGC的概念和技術(shù)體系
?生成式人工智能（AIGC）體系概述
?大語言模型技術(shù)（LLM）工作原理
?LLM 生態(tài)體系
?OpenAI 及其相關(guān)模型介紹
提示工程
?什么是提示工程
?構(gòu)建提示的方法
?優(yōu)化提示技巧改善LLM輸出質(zhì)量
?提示工程思維和提示工程最佳實踐
實現(xiàn)AIGC開發(fā)環(huán)境
?獲取并使用LLM API Key
?構(gòu)建開發(fā)環(huán)境使用Python代碼實現(xiàn)流式自動對話
?快速創(chuàng)建Chat Bot，練習提示詞

2. 使用 LangChain 開發(fā)AIGC應(yīng)用 （2天）
LangChain的基本概念和環(huán)境準備
?大語言模型的概念
?LangChain的概念和組件
?安裝LangChain環(huán)境
?使用LangChain調(diào)用LLM API
模型的調(diào)用、提示工程和輸出解析
?模型I/O
?提示工程
?輸出解析
Chain：串聯(lián)不同的組件
?Chain的概念
?LLMChain
?Sequential Chain
?RouterChain
Memory：保存對話上下文
?Memory 概述
?ConversationChain
?ConversationBufferMemory（緩沖記憶）
?ConversationBufferWindowMemory
?ConversationSummaryMemory
?ConversationSummaryBufferMemory
Agent：代理
?Agent概念和體系
?React框架
?結(jié)構(gòu)化工具對話代理
?自主詢問搜索代理
?計劃與執(zhí)行代理
LangChain高級應(yīng)用
?工具和工具箱
?實現(xiàn)檢索增強生成RAG
?連接數(shù)據(jù)庫
?回調(diào)函數(shù)實現(xiàn)異步通信機制
?CAMEL：實現(xiàn)角色扮演
?實現(xiàn)自治代理
綜合演練：構(gòu)建客服Chatbot
?技術(shù)架構(gòu)
?實現(xiàn)步驟
?實現(xiàn)基本聊天
?實現(xiàn)記憶功能
?整合文檔庫具備檢索機制
?使用Gradio/StreamLit框架部署Chatbot
項目實戰(zhàn)：開發(fā)知識庫問答系統(tǒng)
?項目需求
?技術(shù)框架
?核心實現(xiàn)機制
?核心代碼分析
?功能實現(xiàn)
3. 實現(xiàn)自主可控的AIGC應(yīng)用開發(fā)底座 （1天）
搭建API Gateway
?AIGC 開發(fā)底座工具鏈介紹
?LLM API 調(diào)用方法和策略綜述
?使用One-API項目部署API Geateway
?管理API渠道和令牌
?API 調(diào)用的監(jiān)控以及用戶管理
實現(xiàn)LLM模型本地運行
?使用LM Studio實現(xiàn)開源大模型的本地運行
?開源大語言模型和本地開發(fā)環(huán)境的對接
?測試和評估LLaMa模型
?測試和評估Mixtrel MoE模型
?使用Phi 2實現(xiàn)本地平替Github Copilot解決方案
?實現(xiàn)嵌入式模型的本地運行
構(gòu)建低代碼無代碼AIGC應(yīng)用開發(fā)平臺
?部署Flowise
?快速實現(xiàn)基本會話機器人
?實現(xiàn)整合Web瀏覽插件的會話機器人
?實現(xiàn)領(lǐng)域知識庫（Embedding & 向量檢索引擎）
?實現(xiàn)智能體
AIGC 應(yīng)用的部署
?應(yīng)用容器化部署介紹
?借助Vercel實現(xiàn)應(yīng)用的PaaS化部署
?部署ChatGPT Web
?快速上線自定義LLM應(yīng)用