Ch06_Optimization_Deployment

第6章 模型優化與佈署

6.1 模型訓練優化

6.1.1 損失函數

6.1.2 梯度下降

• 10 Stochastic Gradient Descent Optimisation Algorithms + Cheatsheet

6.1.3 慣性動量

6.1.4 隨機丟棄

6.2 加速訓練方式

6.2.1 低複雜度模型

6.2.2 遷移式學習

6.2.3 自動學習

6.2.4 分散式學習

6.3 模型推論優化

6.3.1 數值量化

6.3.2 模型剪枝

6.3.3 模型壓縮

6.3.4 知識蒸餾

6.4 OpenVINO優化工具

6.4.1 DL Streamer

6.4.2 DL Workbench

6.4.3 Post-Trained Optimization Tool

6.4.4 打包佈署

參考文獻

• 陽明交通大學電子工程學系張添烜老師，「深度學習的模型壓縮與加速」(YouTube)
• MIT Han Lab (韓松）,「TinyML and Efficient Deep Learning Computing | MIT 6.S965 Fall 2022」(Youtube)
• 許哲豪，免費開源串流媒體分析工具Intel OpenVINO DL Streamer讓你也能成為智能影音分析大師
• 許哲豪，【Intel OpenVINO™教學】GStreamer串流影片智能分析不再慢吞吞─看Intel OpenVINO DL Stream如何加速影片推論
• 許哲豪，【Intel OpenVINO™教學】不用寫程式也能輕鬆上手AI模型分析、優化、佈署─DL Workbench圖形化介面工具簡介
• 許哲豪，【Intel OpenVINO™教學】小孩才作選擇，AI推論速度及準確度我全都要─OpenVINO Post-Training Optimization Tool簡介
• 許哲豪，如何在Intel DevCloud中執行OpenVINO Notebooks範例
• 許哲豪，OpenVINO 2022大改版讓Edge AI玩出新花樣
• 許哲豪，有了OpenVINO 2022 PrePostProcessor APIs影像推論就更有效率了
• OmniXRI Github -Colab and DevCloud OpenVINO Samples