課程簡(jiǎn)介

本課程深入探索深度生成模型、圖神經(jīng)網(wǎng)絡(luò)、大語言模型、跨模態(tài)大模型以及深度增強(qiáng)學(xué)習(xí)等前沿領(lǐng)域。從Transformer到對(duì)抗生成網(wǎng)絡(luò)，全面理解深度生成模型的核心原理與應(yīng)用。同時(shí)，圖神經(jīng)網(wǎng)絡(luò)部分涵蓋圖卷積網(wǎng)絡(luò)及注意力機(jī)制，拓展非結(jié)構(gòu)數(shù)據(jù)的深度學(xué)習(xí)應(yīng)用。此外，課程還將講解大語言模型的發(fā)展，并探索跨模態(tài)大模型在語義空間和跨模態(tài)檢索中的應(yīng)用，最后深入講解深度增強(qiáng)學(xué)習(xí)在實(shí)踐中的應(yīng)用。

目標(biāo)收益

培訓(xùn)對(duì)象

課程內(nèi)容

1.深度生成模型
Deep Generative Models
1.1 注意力是你所有所需
Attention is All You Need
1.2 Transformer
1.3 Transformer 應(yīng)用
Applications of Transformer
1.4 深度生成模型
Deep Generative Model
1.5 對(duì)抗生成網(wǎng)絡(luò)
Generative Adversarial Network
1.6 變分自編碼器
Variational Auto-Encoder

2.圖神經(jīng)網(wǎng)絡(luò)模型
Graph Neural Networks
2.1 圖卷積網(wǎng)絡(luò)
Graph Convolution
2.2 DeepWalk 與 DIN
Deep Walk and Deep Interest Network
2.3 注意力機(jī)制網(wǎng)絡(luò)
Graph Attention Networks (GAT)
2.4 非結(jié)構(gòu)數(shù)據(jù)的深度學(xué)習(xí)應(yīng)用
Applications of GCN in Unstructured Data

3.大語言模型
Large Language Model
3.1 語言模型
Language Model
3.2 N-gram 模型
N-gram Model
3.3 BERT
BERT
3.4 GPT 模型
Generative Pre-trained Transformer
3.5 Meta LLaMA
LLaMA 模型
3.6 混合專家模型
Mixture of Expert
3.7 RAG
Retrieval-Augmented Models
3.8 大模型下的智能體
LLM Based Intelligent Agent

4.跨模態(tài)大模型
Cross-Modal Large Models
4.1 語義空間
Semantic Space
4.2 跨模態(tài)檢索
Cross-modal Retrieval
4.3 圖像問答與對(duì)話
VQA and Visual Dialogue
4.4 CLIP 模型
CLIP Model
4.5 擴(kuò)散生成模型
Stable Diffusion
4.6 SORA 與視頻生成
SORA and Video Generation
4.7 AGI 之路
Road to Artificial General Intelligence

5.深度增強(qiáng)學(xué)習(xí)
Deep Reinforcement Learning
5.1 代理與環(huán)境
Agent and Environment
5.2 狀態(tài)-行為深度模型
Deep Learning for State-Action
5.3 AlphaGo
AlphaGo
5.4 深度 Q-學(xué)習(xí)
Deep Q-Learning
5.5 策略梯度方法
Policy Gradient Methods
5.6 DRL 的應(yīng)用
Applications of Deep Reinforcement Learning