神经网络简介-神经元

神经元

如上图所示为一个神经元，输入样本集合为 $X\in R^{1\times d}$ ，共有 $n$ 个样本，这 $n$ 个样本对应的输出为 $y$ 。
上图中
$z = \sum i = 1 n w i \cdot x i + b$ $z=\sum_{i=1}^{n}w_{i}\cdot x_{i}+b$
然后对于输入产生的值 $z$ ，有一个激活函数 $f(\cdot)$ ，使得 $a=f(z)$ 。这样，输入 $x$ 通过这个神经元尽量去逼近输出 $y$ 。
激活函数有多种，常见的有
sigmod函数： f

道可道，非常道；名可名，非常名。无名，天地之始，有名，万物之母。故常无欲，以观其妙，常有欲，以观其徼。此两者，同出而异名，同谓之玄，玄之又玄，众妙之门。