課程簡介
機器學習(深度學習)算法和應用
目標收益
幻燈片算法講解,結合代碼分析,剖析算法原理；實際應用舉例和和業(yè)界趨勢分析；成熟開源框架介紹和實例(Numpy, Pandas, Sklearn, Keras, TensorFlow,)。
內容分7大部分：DNN 入門和基本模型；模型評估、調參和優(yōu)化；卷積神經網絡 CNN 原理和實踐；循環(huán)神經網絡RNN原理和實踐；GAN；無監(jiān)督學習；增強學習。
完成課程后，學員能夠了解深度學習的流程步驟；理解用深度學習方法解決實際問題的方法和思路；初步掌握基礎深度學習的算法和實現方法，并應用于多種項目中。
培訓對象
對深度學習算法原理和應用感興趣，具有一定編程(Python)和數學基礎(線性代數、微積分、概率論)的技術人員。
課程大綱
|
PART I: 入門和基本 DNN 模型 |
1. 深度學習概要 什么是深度學習 & 與機器學習的異同 2. 多層感知器模型 Multi-Layer Perceptron – MLP 神經元 權重和激活 Neurons Weight Activation 神經元網絡 Neuron Networks 訓練網絡 Training Networks Back-propagation 算法和計算圖 多種自適應學習率算法 Adaptive Learning Rate 3. 用 Keras 搭建 MLP 載入數據 定義-編譯-訓練-測試模型 |
| PART II: 評估、調參和優(yōu)化模型 |
4. 評估深度學習模型的性能 切分數據集合 Data Splitting 手工 k-fold cross validation 5. 通用深度學習工具集 Keras + Scikit-Learn 用 cross-validation 評估模型用 grid-search 微調超參數 6. 項目：用 MLP 進行多元分類 – 植物品種分類 7. 項目：用 MLP 進行二元分類 – 聲吶探測物體信號分析 8. 項目：用 MLP 進行回歸 – Boston 房屋價格預測 9. 序列化保存模型 10. 通過 check point 機制獲取最佳模型 11. 通過繪制模型歷史理解訓練行為 12. 通過 dropout regularization 降低模型過擬合 13. 選取不同的 Learning Rate Schedule 提升模型性能 |
|
PART III： 卷積神經網絡 CNN |
14. 卷積神經網絡 Convolutional Neural Network 14.1 CNN 原理和構造： - 核 Filter 和卷積運算 Convolutional Layer - 特征圖 Feature Maps - 池化層 Pooling - 全連接層 Full Connected Layer - Dropout 和 Batch Normalization - CNN 最佳實踐 14.2 CNN 實踐 - 項目：用 CNN 進行手寫體識別 - 練習：在 CNN 圖像識別中通過 Image Augmentation 技術提升模型性能 - 項目：用 CNN 進行圖片物體識別 - 項目：用 CNN 電影評論情緒預測 - 項目：用 CNN 進行圖像 segmentation |
| PART IV: 循環(huán)神經網絡 Recurrent Neural Networks – RNN |
15. 循環(huán)神經網絡 Recurrent Neural Networks 15.1 RNN 原理一：基本 RNN - 處理序列（Sequence）數據的神經網絡 - 循環(huán)神經網 RNN 架構 - RNN 訓練：如何在訓練中獲得穩(wěn)定的梯度下降 - RNN 網絡演化歷史：RNN，LSTM，GRU 結構比較和分析 15.2 RNN 實踐一：RNN 回歸 - 項目：用 MLP 進行時間序列預測 - 項目：用長短記憶網絡(Long-Short Term Memory, LSTM)進行時間序列預測 子項目 1) 用 LSTM 進行回歸 子項目 2）用 LSTM 序列窗口（Window method）進行回歸 子項目 3) 用 LSTM 時間步長（Time Step）進行回歸 子項目 4) 用 LSTM 記憶（Memory）進行回歸 & Stacked LSTM 15.3 RNN 實踐二：RNN 分類 - 項目：對電影評論進行序列分類 Sequence Classification - 項目：使用 dropout LSTM - 項目：結合使用 CNN 和 RNN 進行序列分類15.4 RNN 實踐三：用 RNN 進行文本生成 – one char - 項目：用 LSTM 進行 one-char 生成 - 項目：用 LSTM feature-window 進行 one-char 生成 - 項目：用 LSTM time-step 進行 one-char 生成 - 項目：用 LSTM 批內樣本間保持狀態(tài)進行 one-char 生成 - 項目：有狀態(tài) LSTM 進行 one-char 生成 - 項目：變長輸入 LSTM 15.5 RNN 實踐四：RNN 進行文本生成 – sequence - 項目：用 LSTM 生成文本序列 - 項目：深度 LSTM 生成文本 - 討論：如何進一步提高模型 performance 15.6 更多 RNN 模型（可選）例如： - image captioning 圖像字幕 - machine translation 機器翻譯 - dialogue generation 對話生成 |
| PART V: CV與NLP前沿介紹 |
16. 計算機視覺 CV 前沿：對抗生成網絡（Generative Adversarial Network，GAN）介紹 17. 自然語言處理 NLP 前沿：變形金剛（Transformer）及其變種介紹 |
|
PART I: 入門和基本 DNN 模型 1. 深度學習概要 什么是深度學習 & 與機器學習的異同 2. 多層感知器模型 Multi-Layer Perceptron – MLP 神經元 權重和激活 Neurons Weight Activation 神經元網絡 Neuron Networks 訓練網絡 Training Networks Back-propagation 算法和計算圖 多種自適應學習率算法 Adaptive Learning Rate 3. 用 Keras 搭建 MLP 載入數據 定義-編譯-訓練-測試模型 |
|
PART II: 評估、調參和優(yōu)化模型 4. 評估深度學習模型的性能 切分數據集合 Data Splitting 手工 k-fold cross validation 5. 通用深度學習工具集 Keras + Scikit-Learn 用 cross-validation 評估模型用 grid-search 微調超參數 6. 項目：用 MLP 進行多元分類 – 植物品種分類 7. 項目：用 MLP 進行二元分類 – 聲吶探測物體信號分析 8. 項目：用 MLP 進行回歸 – Boston 房屋價格預測 9. 序列化保存模型 10. 通過 check point 機制獲取最佳模型 11. 通過繪制模型歷史理解訓練行為 12. 通過 dropout regularization 降低模型過擬合 13. 選取不同的 Learning Rate Schedule 提升模型性能 |
|
PART III： 卷積神經網絡 CNN 14. 卷積神經網絡 Convolutional Neural Network 14.1 CNN 原理和構造： - 核 Filter 和卷積運算 Convolutional Layer - 特征圖 Feature Maps - 池化層 Pooling - 全連接層 Full Connected Layer - Dropout 和 Batch Normalization - CNN 最佳實踐 14.2 CNN 實踐 - 項目：用 CNN 進行手寫體識別 - 練習：在 CNN 圖像識別中通過 Image Augmentation 技術提升模型性能 - 項目：用 CNN 進行圖片物體識別 - 項目：用 CNN 電影評論情緒預測 - 項目：用 CNN 進行圖像 segmentation |
|
PART IV: 循環(huán)神經網絡 Recurrent Neural Networks – RNN 15. 循環(huán)神經網絡 Recurrent Neural Networks 15.1 RNN 原理一：基本 RNN - 處理序列（Sequence）數據的神經網絡 - 循環(huán)神經網 RNN 架構 - RNN 訓練：如何在訓練中獲得穩(wěn)定的梯度下降 - RNN 網絡演化歷史：RNN，LSTM，GRU 結構比較和分析 15.2 RNN 實踐一：RNN 回歸 - 項目：用 MLP 進行時間序列預測 - 項目：用長短記憶網絡(Long-Short Term Memory, LSTM)進行時間序列預測 子項目 1) 用 LSTM 進行回歸 子項目 2）用 LSTM 序列窗口（Window method）進行回歸 子項目 3) 用 LSTM 時間步長（Time Step）進行回歸 子項目 4) 用 LSTM 記憶（Memory）進行回歸 & Stacked LSTM 15.3 RNN 實踐二：RNN 分類 - 項目：對電影評論進行序列分類 Sequence Classification - 項目：使用 dropout LSTM - 項目：結合使用 CNN 和 RNN 進行序列分類15.4 RNN 實踐三：用 RNN 進行文本生成 – one char - 項目：用 LSTM 進行 one-char 生成 - 項目：用 LSTM feature-window 進行 one-char 生成 - 項目：用 LSTM time-step 進行 one-char 生成 - 項目：用 LSTM 批內樣本間保持狀態(tài)進行 one-char 生成 - 項目：有狀態(tài) LSTM 進行 one-char 生成 - 項目：變長輸入 LSTM 15.5 RNN 實踐四：RNN 進行文本生成 – sequence - 項目：用 LSTM 生成文本序列 - 項目：深度 LSTM 生成文本 - 討論：如何進一步提高模型 performance 15.6 更多 RNN 模型（可選）例如： - image captioning 圖像字幕 - machine translation 機器翻譯 - dialogue generation 對話生成 |
|
PART V: CV與NLP前沿介紹 16. 計算機視覺 CV 前沿：對抗生成網絡（Generative Adversarial Network，GAN）介紹 17. 自然語言處理 NLP 前沿：變形金剛（Transformer）及其變種介紹 |
近期公開課推薦
