精读西瓜书(第五章-神经网络)-神经元模型, 感知机与多层网络

写在前面

• 今天, 我们将会学习神经元模型, 感知机与多层网络. 大家在学习与理解的过程中, 如果遇见问题, 可以利用google先搜索一下, 仔细想想, 如果还是未解决, 可以在文章下面留言, 或者直接微信联系博主.

神经元模型

• M-P神经元模型: 在M-P神经元模型中, 神经元接受到来自 个其他神经元传递过来的输入信号, 这些输入信号通过带权重的连接(Connection)进行传递, 神经元接收到的总输入值将与神经元的阈值进行比较, 然后通过'激活函数'(Activation Function)处理以产生神经元的输出, 如下图:
  
• 激活函数(Activation Function), 常用的激活函数如下:
• 阶跃函数:
  
  
  
• Sigmoid函数:
  
  
  
• ReLU函数:
  
  
  
• SoftMax函数:
  
  
  

感知机与多层网络

• 此部分内容请参照神经网络(一).

写在后面

• 相信大家在读完今天的文章之后, 会对神经网络有个大致的认识, 明天我们将会继续学习误差逆传播算法.