說到深度學習,我想沒有人比深度學習之父傑佛瑞·欣頓 (Geoffrey Everest Hinton) 更能象徵這個領域了。 他甚至創造了這個詞! 以下是他對領域的最大貢獻:
- 1986 - 他發明了波茲曼機器
- 1985年 - 他提出了一個新的波茲曼機器的學習演算法
- 1986年 - 他被譽為背傳演算法的發明者之一
- 1991年 - 他發明了專家的混合物
- 2006 - 他提出一個演算法來訓練深信網。 這篇文章導致了「深度學習」這個詞
- 2006 - 他展示了如何用神經網路建立自動編碼器
- 2008 - 他發明了T-SNE,一種新的降維技術
- 2009 - 他提出一個演算法來訓練深波茲曼機器
- 2009 - 使用 CIFAR-10 資料集的火車受限的 Boltzmann 機器和深度信念網絡
- 2010 - 使用 ReLU 展示了受限制的 Boltzmann Machines 的提升性能
- 2011 - 展示如何使用 Recurrent Neural Networks 建立生成式文字模型
- 2012 - 在課程講座中發明 RMSprop (!!! )
- 2012 - 提出功能退學技術以改善網路
- 2012 - 建議在課程講座中迷你批次漸層下降
- 2012 - 深度學習語言辨識
- 2014 - 革命電腦視覺能力與AlexNet(他整個職業生涯中被引用最多的論文)
- 2014年 - 他提出「退學」技術以減少過度裝備
- 2014年 - CIFAR 10 資料集已推出
- 2015 - 他發明蒸餾網來縮小模型的尺寸
- 2016 - 他發明了層次標準技術(用於每個變形金剛架構)
- 2017- 他提議 CapsNets,或 Capsule 網路旨在克服 CNN 的某些限制,特別是在圖片中理解物品與其部位之間的層級關係的領域
- 2022 - 他為後傳演算法提出了一個新的替代方案:前進演算法
現在,這傢伙有327本刊物,所以我無法在這裡拍到所有東西,但我相信這包含了他最具影響力的作品。 考慮到趨勢,似乎未來幾年會來自他!
#machinelearning #datascience #artificialintelligence