1、理論上的挑戰
目前，深度神經網絡通過仿照人類大腦皮層的網狀神經結構進行建模，實際構造的模型都是簡化的MNN，主要通過鄰接層之間的連接來表達非線性映射關係。如果非鄰接層或同層神經元之間也建立連接，能否提高深層網絡的學習和表達能力?能否從神經學找到依據?能否構造一個深層神經網絡，有效處理和人類智力水平相當的機器學習問題?如何構造深層神經網絡，使得每一層提取特徵的物理意義比較明確?相對於主流的兩段式訓練算法，能否找到一種完全無監督的在線訓練算法?
2、建模上的挑戰
如果允許非鄰接層或同層神經元存在連接，深層神經網絡模型應該如何構造?如何對深層模型進行改進，使輸入數據只需簡單預處理即可輸入模型，同時能夠直接處理多模態數據?如何構造深層模型，使其減輕對有標籤數據的依賴?如何改造深層模型使其實現並行加速?
3、工程實現上的挑戰
深層神經網絡訓練時間過長，易於過擬合，使得模型建模及推廣能力較差，如何改造深層神經網絡的訓練算法，使其能夠快速收斂到最優解，從而大幅度減少訓練時間，而且模型推廣性能良好，是一個需要解決的重要問題。如何改造深層模型，使其適用於多種類型的輸入數據甚至多模態混合數據?如何改造深層模型，使其能夠有效地結合GPUs以及分佈式計算等並行加速技術?
近些年深度學習在許多領域得到了廣泛的研究與應用，深度學習為人類通過模仿大腦結構解決智能問題提供了一種強有力的工具，併為其他相關領域的研究與實踐提供了新技術和新思路，研究前景廣闊。然而，在深度學習相關理論和學習算法的研究中，仍然有許多問題值得我們進一步探討。
相關推薦
'機器學習&深度學習基礎（tensorflow版本實現的算法概述0）'
"tensorflow集成和實現了各種機器學習基礎的算法，可以直接調用。代碼集：https://github.com/ageron/handson-ml監督學習1）決策樹（Decision Tree）和隨機森林決策樹： 決策樹是一種樹形結構，為人們提供決策依據，決策樹可以用...
'假面騎士時王九種裝甲形態，大家感覺那一個騎士附在他身上最帥氣'
"假面騎士時王九種裝甲形態，大家感覺那一個騎士附在他身上最帥氣Zi-O使用變身腰帶“時空驅動器”，並裝上變身道具“駕馭表頭”變身。而且，能透過獲得蘊藏著歷代平成假面騎士力量的駕馭表頭，將其力量解放，便能夠穿上各平成騎士的裝甲。例如，使用“Build駕馭表頭”，變身為Buil...
'這三大熱門物理防禦裝，區別在哪？如何選擇呢？'
"在王者榮耀裡，當前版本物理防禦裝備中，熱門的有三件，分別是極寒風暴，不祥徵兆以及反傷刺甲。這三件屬性都各有區別，那麼我們該如何去選擇才能將它們作用發揮的最大呢。1.極寒風暴極寒風暴購買價格是2100金幣，提供了20%的冷卻縮減，500最大法力值加成，360點物理防禦。被動...
推薦中...