作者: Sam(甄峰) sam_code@hotmail.com
之前学习了机器学习基础知识,是为了以此为开始,学习神经网络与深度学习。
现在开始神经网络与深度学习的学习。
1. 神经网络与机器学习的关系:
机器学习(Machine Learning)的定义:
Arthur Samuel(1959)对Machine Learning的定义:
在无明确设置的情况下,使计算机具有学习能力的研究领域。 (Arthur Samuel
编写了一个跳棋算法,让他们自己对弈,实现了棋力的提升)
Tom Michell(1998)对Machine Learning 的定义:计算机程序从经验E中学习,解决某一个任务T,
进行某一个性能度量P。 通过P测定在T上的表现因经验E而提升。
机器学习算法包含很多,如线性回归,逻辑回归,SVM.
神经网络是机器学习的其中一种算法。
2. 神经网络在实际生产中的应用方向:
A. 一些分类和回归任务, 常用标准神经网络。或者人工神经网络。
B. 图像领域,经常用卷积神经网络--CNN.
C. 类似语言识别这样带有时间信息的序列数据,则使用循环神经网络--RNN.
3. 结构化数据和非结构化数据:
3.1: 结构化数据(Structured data):
数据有一定格式,特征数确定,每个特征都有清晰定义。
类似:房屋价格预测,肿瘤类型预测等。
3.2:非结构化数据(Unstructured data):
类似音频,图片。
非结构化数据比结构化数据更难让计算机理解。而人类则非常善于处理非结构化数据,比如人类可以很容易的理解图像信息,理解语言,序列文字等。
神经网络,深度学习让计算机更好的理解非结构化数据。
4. 深度学习兴起的原因:
MP神经元的提出是上个世纪中期的事情了,神经网络也提出很多年了。但为何现在突然兴起。除了算法上有突破外(LeNet,
AlexNet等卷积思想提出)。 还有几个深层次原因。
但随着数据极大的增加,大规模的神经网络性能会持续提升。
随着时代的发展,当前收集海量数据成为可能。
而且,要使用海量数据进行训练,需要强大的计算能力。而当前CPU,GPU,NPU的发展,计算能力得到极大的提升。
所以这几个因素叠加,让大型神经网络和深度学习可以发挥自己的实力而脱颖而出。