神经 是一种常用的分类算法,历史久远,是机器学习发展史中,从感知机到80年代BP (前馈神经 ),到90年代卷积神经 、卷积神经 。2000年后,随着大数据发展,神经 进入大数据版本时代。
尤其近几年,发展速度变快,神经 领域,图像识别、语音识别、文字处理,我们都可以看到神经 ,主要是深度神经 这个高级发展阶段的身影。
而且,在机器学习的应用领域里,深度学习,最近几年已经成为了主力军。
下面我们一起来看一看神经 主要内容。
神经 ,俗称人工神经 。
那为什么叫人工神经 的?这是因为机器学习,主要是“模仿人”去学习、
“模仿人”去思考的。
同样,人工神经 也是模仿,或者说假设人的神经 工作的机理。但是事实上,人的神经 我们还没有真正的搞清楚。这只是说,在一定程度上,我们用人工的神经 来模拟人类大脑的结构。
神经 ,众所周知,它的发展从早先的感知机,从单个神经元:我们知道人的神经元,是我们神经系统的一个组成单位;同样的,我们要模拟人的神经 ,自然的,到多个神经元。
从而连接的结构,从简单到复杂,从简单的层次就是比较少的层次,从两层到三层,然后到多层,一直到最近几年深度学习,可以达到上千层的连接结构。
接下来介绍其中一个比较重要的算法,就是BP神经 ,也称为反向传播神经 。
这是在八十年代产生的,非常重要的神经 。
今天大家接触到的深度学习的 :包括卷积、循环神经 ,实际上都是来自于BP神经 。将结构、训练的算法,通过一定改进得来的。
前馈神经 在神经 的整个发展史里起到了非常重要的作用。所以首先要将反向传播神经 学透,尤其是 结构、 训练的 以及 调优的 。尤其是如何去除局部记号值,如何去除神经 在训练过程中的问题。这些都是学习深度学习的基础。
神经 的种类很多,因为神经 ,除了分类。
上面谈到的BP神经 ,主要用作分类。如早期90年代,非常成功地应用数字识别,0-9十个数字;后来拓展到26个英文字母,以及汉字,再后来就是深度学习,可以识别各种各样的物体,包括动物。可以看到,神经 的用途非常广。
除了分类之外,还有用于聚类的神经 。
神经 有很多类别,不同的类别因为功能不一样,自然结构也不一样。
深度学习,发展到现在,不是一天就可以做到的。早期神经 的发展史,在上个世纪很早的时代,就已经存在这样的概念了,比如早期的神经 只有一个神经元,是模仿人的大脑结构的最基本的组成单元。大家知道我们人脑有几千亿个神经元,每个神经元实际上都起到一定的作用,当然每个神经元不是孤立工作的,是有一定的结构,当然是非常复杂的结构,组成一个 。从而能够帮助我们解决非常复杂的,像分类、聚类的问题。
早期的或者较传统的神经 ,结构比较简单,神经元比较少。最早的时候,只有一个神经元,这个神经元叫感知器。此外,早期神经 ,不仅神经元个数少,连接的结构、神经元激活的函数,都是比较简单的。因此功能也比较简单,只能学习非常简单的,如线性分类。
对于复杂的、非线性分类问题,解决起来较困难。所以后来,神经 的结构越来越复杂,功能越来越高,可以处理复杂的非线性分类的问题。
神经 ,上面提到是“模仿”人的神经 ,只是模仿,或者说初级的模仿。
神经 ,基本的机理,是怎么思考的呢?比如,人是通过触觉、听觉、视觉等各种各样的感觉器官,相当于机器的传感器,传感器可以接受外界的输入,人类的触觉可以感知压力、温度、疼痛等等。
同样神经 的神经单元也可以接触,或者说可以输入外界的样本数据。而输入样本数据需要通过复杂的 结构去处理,处理主要靠 的连接,连接结构早期简单,但是后来越来越复杂。连接结构构成一种处理机制,处理机制可以帮助我们将输入数据进行处理,从而获得特征。
作为分类的一种算法,神经 如前馈神经 ,主要作分类。
分类最主要的工作就是找特征,能把各个类别的样本区分开来的自然会有一些特征。