决策界面与神经网络

在没有隐层的时候，神经网络相当于最简单的线性回归模型；在输出Node加上一个函数变化，在神经网络中称为“激活函数”，比如Sigmoid变换，这个激活函数便为逻辑回归。

最简单的神经网络可以做线性回归和逻辑回归。

有一个隐层的神经网络，如果隐层没有加任何激活函数的话，和没有隐层的神经网络是一样的。只是把一个实数拆成了更多的组合。