作者： Sam (甄峰) sam_code@hotmail.com
![]()
0. Neural
Network算法来历：
神经网络是一个古老算法。它沉寂过一段时间，现在又成为机器学习中一种重新焕发青春的算法。
Neural Network设计初衷，是为了模拟人类大脑。
人类的大脑可以完成各种不同类别的工作，想要模拟它，似乎要写成千上万中程序去模拟不同功能，如识别物体，辨别声音，触觉感知......
但有种假说认为，大脑的方法是“实现一个学习方法”，应对所有的任务。
证据有： 切断耳朵与处理声音的大脑皮层之间的联系，把眼睛信号接上去，听觉皮层就学会了看。(视觉重连实验)
利用这一点，有人把灰度摄像头的信号通过电极传送给舌头，可以让盲人学会用舌头看。(brainPort)
1. Neural
Network的必要性：
在有了Linear Regression 和 Logistics Regression之后，为何还需要Neural
Network呢？
我们以classification举例如下：
Non-Linear Classification:
当原始特征(feature)本身较多时，若要使用二次或者三次多项式(高阶多项式包含到特征内)，如： x1*x1,
x1*x2......x1*x100. 则有NxN/2个多项式。 会使特征空间急剧膨胀。
会造成以下问题:
A. 特征数太多，容易过拟合。
B. 计算量太大。
