感知机(perceptron)
感知机是神经网络(深度学习)的起源算法,学习感知机的构造是通向神经网络和深度学习的一种重要思想。
严格讲,应该称为“人工神经元”或“朴素感知机”,但是因为很多基本的处理都是共通的,所以这里就简单地称为“感知机”。
原理简介:
感知机接收多个输入信号,输出一个信号。
这里所说的“信号”可以想 象成电流或河流那样具备“流动性”的东西。
像电流流过导线,向前方输送 电子一样,感知机的信号也会形成流,向前方输送信息。
但是,和实际的电 流不同的是,感知机的信号只有“流/不流”(1/0)两种取值。
0 对应“不传递信号”,1对应“传递信号”。
如图
- x1 、x2是输入信号,
- y 是输出信号,
- w1、w2是权重 (w 是 weight 的首字母)。
- 图中的○称为“神经元”或者“节点”。
- 输入信号被送往神经元时,会被分别乘以固定的权重(w1 x1 , w2 x2 )。
- 神经元会计算传送过来的信号的总和,只有当这个总和超过 了某个界限值时,才会输出1(这也称为“神经元被激活)。
- 这里将这个界限值称为阈值,用符号θ表示。
感知机的多个输入信号都有各自固有的权重,这些权重发挥着控制各个 信号的重要性的作用。也就是说,权重越大,对应该权重的信号的重要性就越高。
权重:相当于电流里的电阻。电阻是决定电流流动难度的参数, 电阻越低,通过的电流就越大。
而感知机的权重则是值越大,通过的信号就越大。
不管是电阻还是权重,在控制信号流动难度(或者流 动容易度)这一点上的作用都是一样的。