機器學習中簡單而又不簡單的神經元

上一篇內容主要介紹了傳統機器學習的一些侷限性以及深度神經網路的一些優勢。這一篇內容就來好好了解一下這簡單而又不簡單的神經網路。

神經網路

隨著神經科學、認知科學的發展，我們都知道人類的智慧行為都是和大腦密不可分的。

人類的大腦皮質包含大約140-160億神經元，小腦中包含大約550-700億神經元， 每一個神經元都透過突觸和其他數千個神經元相連線。

受到人腦神經系統的啟發，早期的神經科學家構造了一種模仿人腦神經系統的數學模型，稱為人工神經網路，簡稱神經網路。在機器學習領域，神經網路是指由很多人工神經元構成的網路結構的模型，這些人工神經元之間的連線強度即是模型要學習的引數。

生物學上的神經元

神經元

神經元是神經網路進行資訊處理的基本單位，是組成人工神經網路的基本單位。一個生物學上的神經元可以接收到資訊，當輸入訊號累積到一定的閾值時，神經元就會變為興奮狀態，產生脈衝訊號。同生物學上的神經元類似，神經網路的神經元同樣可以接受輸入訊號併產出輸出。

1943年，心理學家沃倫·麥卡洛克和數學家沃爾特·皮茨基於數學和一種稱為閾值邏輯的演算法創造了一種神經網路的計算模型。

一個基本的神經元包括3個基本組成部分：輸入訊號、線性組合和非線性啟用函式。其結構如下圖所示：

神經元結構

透過一系列的輸入訊號，對這一系列輸入訊號賦予不同的權值，之後進行加和的操作，並透過啟用函式進行啟用，結合一定的偏置，即可得到最終的神經元輸出。

今天簡單介紹了機器學習中神經網路的基本組成單位神經元的結構，這個簡單的結構雖然只具有上述的幾個引數，但是透過對神經元進行不同方式的組合、變換會組成的深度神經網路，它可以包含上億引數，可以擁有強大的推理、預測能力。後續我們會更深入地去了解它。

碼字不易，歡迎

點贊、收藏+關注哦~

By AINotesClub.