機器之心報道
編輯：陳萍
Yann LeCun 主講的《深度學習》課程現已全部線上可看！
深度學習課程在網上一直有許多教學資源，比較出名的有吳恩達老師的《深度學習》課程。
近日，由圖靈獎得主、深度學習三巨頭之一的 Yann LeCun 在紐約大學資料科學中心（CDS）主講的《深度學習》2021 年春季課程（DS-GA 1008 ）現已全部線上免費可看。
本課程涉及深度學習和表示學習的最新技術，重點包括監督和無監督的深度學習、嵌入方法、度量學習、卷積和迴圈網路，以及這些技術在計算機視覺、自然語言理解和語音識別中的應用。目前這門課程只提供了英、法兩種語言版本的講義。
課程主頁：https://cds.nyu.edu/deep-learning/
另外，學習這門課程的先決條件是你已經參與過 CDS 釋出的 DS-GA 1001 資料科學入門課程或其他一門研究生級別的機器學習課程。
課程資料示例如上圖所示，點選超連結，就能跳轉到相應的帶英文字幕的教學影片（YouTube ）、書面講義、課件、以及帶有 PyTorch 實現的可執行 Jupyter Notebooks。
該課程由 Yann LeCun 與他的學生 Alfredo Canziani 等共同執教。
Yann LeCun，美國國家工程院院士，紐約大學終身教授，2018 年圖靈獎得主，卷積網路之父，與 Geoffrey Hinton、Yoshua Bengio 並稱為「深度學習三巨頭」。同時，他還是 Meta 首席 AI 科學家。
Alfredo Canziani 是紐約大學庫蘭特數學科學研究所的計算機科學研究助理教授和深度學習研究科學家，由 Kyunghyun Cho 和 Yann LeCun 教授指導。此外，他擁有裡雅斯特大學的電氣工程學士學位和碩士學位，2012 年在克蘭菲爾德大學獲得理學碩士學位，並於 2017 年在普渡大學獲得博士學位。他的主要研究方向為自動駕駛的機器學習。
課程目錄
該課程為期 14 周，線上學習本課程的學生還可以透過的 Reddit 和 Discord 平臺與講師直接進行交流。共分為 8 個主題，每個主題的具體內容包括：
- 主題 1 介紹深度學習：深度學習歷史和資源；梯度下降和反向傳播演算法；神經網路推理；模組和架構；神經網路訓練；
- 主題 2 引數共享：迴圈和卷積網路；實踐中的 ConvNet；自然訊號特性和卷積；迴圈神經網路、vanilla 和 LSTM；
- 主題 3 基於能量的模型（基礎）：基於能量的模型 (I)；用於 LV-EBM 的推理；EBM 優點；基於能量的模型 (II)；訓練 LV-EBM；
- 主題 4 基於能量的模型（進階）：基於能量的模型 (III)；Unsup 學習以及自動編碼器；基於能量的模型 (VI)；從 LV-EBM 到目標 prop 到（任何）自動編碼器；基於能量的模型 (V)；帶有 PyTorch 和 GAN 的 AEs；
- 主題 5 關聯記憶：基於能量的模型 (V)；注意力以及 transformer ；
- 主題 6 圖：Graph transformer 網路；圖卷積網路 (I)；圖卷積網路 (II)；
- 主題 7 控制：規劃和控制；The Truck Backer-Upper；不確定性下的預測和規劃；
- 主題 8 最佳化：最佳化 (I)；最佳化 (II)；
此外，該課程還涵蓋視覺 SSL、低資源機器翻譯、Lagrangian 逆向思維、最終專案和問答等其它主題進行探索。
想進行深度學習研究的小夥伴，你不能錯過該課程，相信你會收穫滿滿。
更多資源請參考：
- 英文版講義：https://atcold.github.io/NYU-DLSP21/en/week12/12/
- YouTube 地址：https://www.youtube.com/playlist?list=PLLHTzKZzVU9e6xUfG10TkTWApKSZCzuBI
- 課程資料：https://github.com/Atcold/NYU-DLSP21
