SONY 深度學習速度達到世界最快 只要 3.7 分就能搞定

SONY 深度學習速度達到世界最快 只要 3.7 分就能搞定
▲SONY 深度學習速度達到世界最快。(圖/翻攝自產業技術綜合研究院)

吳佳臻/綜合報導

為了提高深度學習精準度,勢必得擴大學習數據的規模或模型參數,一次學習耗上數周至數月時間的例子大有人在。然而,日前 SONY 宣布其深度學習之學習速度達到世界第一,只要 3.7 分就能搞定。

根據《ITmedia》報導,在人工智慧開發之際,經歷各式各樣的實驗失敗在所難免,因此如何縮短學習時間成為重點。在眾多方法中,以運用數個 GPU 的分散式學習最受矚目。然而,一旦增加 GPU 數目,也可能產生因 GPU 間數據接收處理延遲,而導致學習速度低下等問題。

而這次 SONY 採用深度學習開發用框架「NNL:Neural Network Libraries」與日本產業技術綜合研究院之超級電腦 ABCI,並運用能夠因應學習進行狀況調整 GPU 數和批次大小之技術,即使面對 ABCI這樣大規模 GPU 環境也能執行學習。同時,開發適用於 ABCI 系統配置的數據同步技術,使 GPU 間的通訊高速化。

Neural Network Libraries 搭載 SONY 之大規模數據處理技術,並運用 ABCI 的計算資源進行學習。SONY 表示,計測深度學習之分散學習速度時,完成圖像辨識數據集 ImageNet / ResNet-50 之學習時間,只要約 3.7 分(使用 2176 個 GPU),超越中國騰訊於 7 月創下的6.6 分紀錄,達到世界最高速。而該研究成果也於網站上公開。

留言

延伸閱讀