安防百科

澳洲三分彩人工计划:深度學習之計算能力

2016-08-23 16:19:40 來源:安防知識網

三分彩五星定位胆 www.btcrxm.com.cn [摘要] 深度學習實踐的四個關鍵要素:計算能力、算法、數據和應用場景,就像四大金剛一樣保證了深度學習的應用和實踐,在深度學習中起到關鍵性的作用。

    深度學習實踐的四個關鍵要素:計算能力、算法、數據和應用場景,就像四大金剛一樣保證了深度學習的應用和實踐,在深度學習中起到關鍵性的作用。

  深度學習以不少于兩個隱含層的神經網絡對輸入進行非線性變換或表示學習的技術,通過構建深層神經網絡,進行各項分析活動。深層神經網絡由一個輸入層,數個隱層,以及一個輸出層構成。每層有若干個神經元,神經元之間有連接權重。每個神經元模擬生物的神經細胞,而結點之間的連接模擬神經細胞之間的連接。總結起來是這個樣子的:
  深度學習以不少于兩個隱含層的神經網絡對輸入進行非線性變換或表示學習的技術,通過構建深層神經網絡,進行各項分析活動。深層神經網絡由一個輸入層,數個隱層,以及一個輸出層構成。每層有若干個神經元,神經元之間有連接權重。每個神經元模擬生物的神經細胞,而結點之間的連接模擬神經細胞之間的連接。總結起來是這個樣子的:

  這種流向圖的一個特別屬性是深度(depth):從一個輸入到一個輸出的最長路徑的長度。深度學習并非一個新的概念,但在2006年由Hinton等人引領了一波爆發。然而近年來雖然許多人都在談論深度學習,但這項技術在實際應用時到底有哪些坑?創辦一家成熟的依賴深度學習的公司需要哪些要素?下面我們將來重點講解下深度學習之計算能力。

  計算能力

  首先,深度神經網絡復雜,訓練數據多,計算量大。深度神經網絡中神經元多,神經元間連接數量也相當驚人。從數學的角度看,每個神經元都要包含數學計算(如Sigmoid、ReLU或者Softmax函數),需要估計的參數量也極大。語音識別和圖像識別應用中,神經元達數萬個,參數數千萬,模型復雜導致計算量大。所以計算能力是深度學習應用的基礎。

  不僅如此,計算能力還是推動深度學習的利器,計算能力越強,同樣時間內積累的經驗就越多、迭代速度也越快,百度首席科學家吳恩達博士認為深度學習的前沿正轉移到高性能計算(HPC),這也是他目前在百度的工作重心之一,吳博士認為深度學習上的很多成功得益于主動地追求可用的計算能力,2011年Jeff Dean(谷歌第二代人工智能學習系統Tensorflow的設計者之一)創立并領導了谷歌深度學習小組,使用谷歌云擴展深度學習;這使得深度學習得以推向工業界。在2013年,科茨博士等人建立了第一個HPC式的深度學習系統,可擴展性提升了1-2個數量級,使深度學習有了革命性的進步——計算能力這種對于深度學習的支撐與推動作用是不可替代的。

  目前這方面技術處于領先地位的還是像百度、谷歌這樣的大型互聯網公司,當然也有一些像地平線機器人這樣的初創公司在該領域頗有成就,由百度深度學習研究院負責人余凱博士創立的地平線機器人公司設計的深度神經網絡芯片相比傳統的CPU芯片能夠支持深度神經網絡中圖像、語音、文字、控制等方面的任務而不是去做所有事情,這樣比在CPU上用軟件要高效,會提高2-3個數量級。

0 0
[責任編輯:knight]

《安防知識網》一個服務號 二個訂閱號 微信服務全面升級

  • LED顯示屏頻繁跳閘是為什么?下面就LED顯示屏頻繁跳閘做一個簡單的分析。希望能解決您LED顯示屏跳閘的問題?! ?.漏電?;て韃季植緩俠懟 ?..

  •    首先在了解檢測氣體之前先來介紹一下可燃氣體檢測報警器的工作原理:   在線式可燃氣體報警器一般用催化燃燒原理的傳感器,對鉑絲...

  •   在平時的工作過程中,如果能夠正確地使用防爆電加熱器,將會給自己的正常工作流程提供很多不錯的幫助。不過這說起來容易,但是實際操作...

  •   應用概況:電磁流量計應用領域廣泛。大口徑儀表較多應用于給排水工程。中小口徑常用于固液雙相等難測流體或高要求場所,如測量造紙工業...