深度学习结构和算法比较分析

深度学习结构和算法比较分析

李海峰1，李纯果2

【摘要】Hinton等人提出的深度机器学习，掀起了神经网络研究的又一个浪潮.介绍了深度机器学习的基本概念和基本思想.对于目前比较成熟的深度机器学习结构深度置信网DBNs和约束Boltzmann机（RBM）的结构和无监督贪婪学习算法作了比较详细的介绍和比较，并对算法的改进方向提出了有建设性的意见，对深度机器学习的未来发展方向和目前存在的问题进行了深刻的分析.【期刊名称】河北大学学报（自然科学版）

【年(卷),期】2012(032)005

【总页数】7

【关键词】深度机器学习；无监督贪婪学习算法；DBNs；RBMs

随着电脑的普及与发展，智能化、机械化成为人们关注的热点.机器学习是仿照人类大脑工作的方式，让电脑进行计算，学习到类似于大脑的工作方式.为此，研究学者需要构建计算机能够运作的模型，例如，神经网络就是根据人类的大脑神经的激活或抑制的信号传输构建的模型［1］.神经网络的基本组成单位就是神经元，神经元的构造方式完全模拟了人类大脑细胞的结构，如图1.但是，显而易见，人工神经元只是简单的结构的模拟，要想达到与生物神经元有相同的功能，还远远的不够.科研工作者就其训练的方式对其进行训练，试图让人工神经网络的运算功能尽可能的与人类接近.简单的网络已经可以进行基本的运算，甚至有2个隐含层的非线性神经网络已经能够对任意的函数进行平滑的逼近.从1943年McCulloch和Pitts提出的简单神经元开始，神经网络经历了几度兴衰.神经网络已经深入到各个领域，技术相对比较成熟，然而也很难再有新突破.