亞洲澱粉膠囊及原料供應有限公司
聯系我們: (852) 2742 5147
聯系我們
近日,在加拿大多倫多大學向量學院發起的“2017 - 2018年機器學習進展與應用”研討會中,神經網絡之父Geoffrey Hinton做了一場報告《What is wrong with convolutional neural nets?》,在報告中Hinton講解了他多年來一直在做的研究工作,他稱之為“膠囊理論”(capsules theory)。
在報告中,他認為“標準神經網絡”與真實的大腦神經網絡相比有以下四個問題:
1、池化過程並沒有很好地模仿大腦中形狀知覺的心理過程——它不能解釋為什麼我們人類能將內在的坐標系映射到物體上,以及為什麼這些坐標系這麼重要;
2、池化解決的問題是錯的——我們想要的是信息的同變性而不是不變性,是理清信息而不是丟棄信息;
3、池化沒有利用底層線性結構——它沒有利用在圖形中能很好地處理方差最大來源的自然線形流形。
4、池化在處理動態路由時很差勁——我們需要將輸入信息的每一部分路由到知道如何處理它的神經元中,找到最佳的路徑就是在解析圖像。