在神經網絡分類中，輸出節(jié)點數量和激活函數選擇取決于是二進制分類還是多類分類（3個及以上）。

對于二進制分類，神經網絡由一個輸出節(jié)點和sigmoid激活函數組成。訓練數據的正確輸出轉化成激活函數的最大值和最小值（0和1）。
sigmoid函數是一個在生物學中常見的S型的函數，也成為S型生長曲線。由于其單增和反函數單增的性質，sigmoid函數被用作神經網絡的閾值函數，將變量映射的0,1之間。

對于多類分類，神經網絡的輸出節(jié)點數和分類的數量是一致的。softmax函數用作激活函數。訓練數據的正確輸出用one-hot 編碼方式轉化到vector中。例如，假設5個輸出分別是‘1’,'2','3','4','5'，那么經過編碼轉換后，得到的vector分別為,[1 0 0 0 0] [0 1 0 0 0] [0 0 1 0 0] [0 0 0 1 0] [0 0 0 0 1].

softmax函數在機器學習中廣泛遇到，通俗來講，就是把所有備胎拉出來評分，最后還歸一化一下。言歸正傳，我們知道m(xù)ax，假設有兩個數a和b，并且a>b，如果取max，那么直接取a，沒有第二種可能性。但有的時候我不想這樣，我希望分值大的那一項經常取到，分值小的那一項也偶爾可以取到，那么就可以用的softmax，數學原理看公式就知道。