0 香港中文大学 王晓刚 深度学习在图像识别中的研究进展与展望
深度学习在图像识别中的研究进展与展望
王晓刚
香港中文大学电子工程系
深度学习是近十年来人工智能领域取得的最
重要的突破之一。它在语音识别、自然语言
处理、计算机视觉、图像与视频分析、多媒
体等诸多领域都取得了巨大成功。本文将重
点介绍深度学习在物体识别、物体检测、视
频分析的最新研究进展，并探讨其发展趋势。
1.深度学习发展历史的回顾
现有的深度学习模型属于神经网络。神经网
络的历史可追述到上世界四十年代，曾经在
八九十年代流行。神经网络试图通过模拟大
脑认知的机理，解决各种机器学习的问题。1986年Rumelhart，Hinton和Williams在《自然》发表了著名的反向传播算法用于训
练神经网络[1]，直到今天仍被广泛应用。
但是后来由于种种原因，大多数学者在相当
长的一段的时间内放弃了神经网络。神经网
络有大量的参数，经常发生过拟合问题，即
往往在训练集上准确率很高，而在测试集上
效果差。这部分归因于当时的训练数据集规
模都较小。而且计算资源有限，即便是训练
一个较小的网络也需要很长的时间。总体而言，神经网络与其它模型相比并未在识别的
准确率上体现出明显的优势，而且难于训练。
因此更多的学者开始采用诸如支持向量机、Boosting、最近邻等分类器。这些分类器可以
用具有一个或两个隐含层的神经网络模拟，
因此被称作浅层机器学习模型。它们不再模
拟大脑的认知机理；相反，针对不同的任务
设计不同的系统，并采用不同的手工设计的
特征。例如语音识别采用高斯混合模型和隐
马尔可夫模型，物体识别采用SIFT特征，人
脸识别采用LBP特征，行人检测采用HOG
特征。2006年，Geoffrey Hinton提出了深度学习。之后深度学习在诸多领域取得了巨大成功，受到广泛关注。神经网络能够重新焕发青春的原因有几个方面。首先是大数据的出现在很大程度上缓解了训练过拟合的问题。例如ImageNet[2]训练集拥有上百万有标注的图像。计算机硬件的飞速发展提供了强大的计算能力，使得训练大规模神经网络成为可能。一片GPU可以集成上千个核。此外神经网络的模型设计和训练方法都取得了长足的进步。例如，为了改进神经网络的训练，学者提出了非监督和逐层的预训练。它使得在利用反向传播对网络进行全局优化之前，网络参数能达到一个好的起始点，从而训练完成时能达到一个较好的局部极小点。
深度学习在计算机视觉领域最具影响力的突破发生在2012年，Hinton的研究小组采用深度学习赢得了ImageNet [2] 图像分类的比赛[3]。ImageNet是当今计算机视觉领域最具影响力的比赛之一。它的训练和测试样本都来自于互联网图片。训练样本超过百万，任务是将测试样本分成1000类。自2009年，包括工业界在内的很多计算机视觉小组都参加了每年一度的比赛，各个小组的方法逐渐趋同。在2012年的比赛中，排名2到4位的小组都采用的是传统的计算机视觉方法，手工设计的特征，他们准确率的差别不超过1%。Hinton的研究小组是首次参加比赛，深度学习比第二名超出了10%以上。这个结果在计算机视觉领域产生了极大的震动，掀起了深度学习的热潮。
计算机视觉领域另一个重要的挑战是人脸识别。Labeled Faces in the Wild (LFW) [4] 是当今最著名的人脸识别测试集，创建于2007年。在此之前，人脸识别测试集大多采集于实验
室可控的条件下。LFW从互联网收集了五千多个名人的人脸照片，用于评估人脸识别算法在非可控条件下的性能。这些照片往往具有复杂的光线、表情、姿态、年龄和遮挡等方面的变化。LFW的测试集包含了6000对人脸图像。其中3000对是正样本，每对的两张图像属于同一个人；剩下3000对是负样本，每对的两张图像属于不同的人。随机猜的准确率是50%。有研究表明[5]，如果只把不包括头发在内的人脸的中心区域给人看，人眼在LFW测试集上的识别率是97.53%。如果把整张图像，包括背景和头发给人看，人眼的识别率是99.15%。经典的人脸识别算法Eigenface [6] 在这个测试集上只有60%的识别率。在非深度学习的算法中，最好的识别率是96.33% [7]。目前深度学习可以达到99.47%的识别率[8]。
在学术界收到广泛关注的同时，深度学习也在工业界产生了巨大的影响。在Hinton的科研小组赢得ImageNet比赛之后6个月，谷歌和百度发都布了新的基于图像内容的搜索引擎。他们沿用了Hinton在ImageNet竞赛中用的深度学习模型，应用在各自的数据上，发现图像搜索的准确率得到了大幅度的提高。百度在2012年就成立了深度学习研究院，于2014年五月又在美国硅谷成立了新的深度学习实验室，聘请斯坦福著名教授吴恩达担任首席科学家。Facebook于2013年12月在纽约成立了新的人工智能实验室，聘请深度学习领域的著名学者，卷积网路的发明人Yann LeCun作为首席科学家。2014年1月，谷歌四亿美金收购了一家深度学习的创业公司，DeepMind。鉴于深度学习在学术和工业界的巨大影响力，2013年MIT Technology Review 将其列为世界十大技术突破之首。
2.深度学习有何与众不同？
许多人会问，深度学习和其它机器学习方法相比有哪些关键的不同点，它成功的秘密在哪里？我们下面将对这此从几个方面作简要的阐述。2.1特征学习
深度学习与传统模式识别方法的最大不同在
于它是从大数据中自动学习特征，而非采用
手工设计的特征。好的特征可以极大提高模
式识别系统的性能。在过去几十年模式识别
的各种应用中，手工设计的特征处于同统治
地位。它主要依靠设计者的先验知识，很难
利用大数据的优势。由于依赖手工调参数，
特征的设计中只允许出现少量的参数。深度
学习可以从大数据中自动学习特征的表示，
其中可以包含成千上万的参数。
手工设计出有效的特征是一个相当漫长的过程。回顾计算机视觉发展的历史，往往需要
五到十年才能出现一个受到广泛认可的好的
特征。而深度学习可以针对新的应用从训练
数据中很快学习得到新的有效的特征表示。
一个模式识别系统包括特征和分类器两个主
要的组成部分，二者关系密切，而在传统的
方法中它们的优化是分开的。在神经网络的
框架下，特征表示和分类器是联合优化的，
可以最大程度发挥二者联合协作的性能。
以2012年Hinton参加ImageNet比赛所采用
的卷积网络模型[9]为例，这是他们首次参加ImageNet图像分类比赛，因此没有太多的先
验知识。模型的特征表示包含了6千万个参数，从上百万样本中学习得到。令人惊讶的是，从ImageNet上学习得到的特征表示具有
非常强的泛化能力，可以成功地应用到其它
的数据集和任务，例如物体检测、跟踪和检
索等等。在计算机视觉领域另外一个著名的
竞赛是PSACAL VOC。但是它的训练集规模较小，不适合训练深度学习模型。有学者将ImageNet上学习得到的特征表示用于PSACAL VOC上的物体检测，将检测率提高了20%[10]。
既然特征学习如此重要，什么是好的特征呢？一幅图像中，各种复杂的因素往往以非线性
的方式结合在一起。例如人脸图像中就包含
了身份、姿态、年龄、表情和光线等各种信息。深度学习的关键就是通过多层非线性映
射将这些因素成功的分开，例如在深度模型
的最后一个隐含层，不同的神经元代表了不同的因素。如果将这个隐含层当作特征表示，人脸识别、姿态估计、表情识别、年龄估计就会变得非常简单，因为各个因素之间变成了简单的线性关系，不再彼此干扰。
2.2深层结构的优势
深度学习模型意味着神经网络的结构深，由很多层组成。而支持向量机和Boosting等其它常用的机器学习模型都是浅层结构。有理论证明，三层神经网络模型（包括输入层、输出层和一个隐含层）可以近似任何分类函数。既然如此，为什么需要深层模型呢？
理论研究表明，针对特定的任务，如果模型的深度不够，其所需要的计算单元会呈指数增加。这意味着虽然浅层模型可以表达相同的分类函数，其需要的参数和训练样本要多得多。浅层模型提供的是局部表达。它将高维图像空间分成若干局部区域，每个局部区域存储至少一个从训练数据中获得的模板。浅层模型将一个测试样本和这些模板逐一匹配，根据匹配的结果预测其类别。例如在支持向量机模型中，这些模板就是支持向量；在最近邻分类器中，这些模板是所有的训练样本。随着分类问题复杂度的增加，图像空间需要被划分成越来越多的局部区域，因而需要越来越多的参数和训练样本。
深度模型能够减少参数的关键在于重复利用中间层的计算单元。例如，它可以学习针对人脸图像的分层特征表达。最底层可以从原始像素学习滤波器，刻画局部的边缘和纹理特征；通过对各种边缘滤波器进行组合，中层滤波器可以描述不同类型的人脸器官；最高层描述的是整个人脸的全局特征。
深度学习提供的是分布式的特征表示。在最高的隐含层，每个神经元代表了一个属性分类器，例如男女、人种和头发颜色等等。每个神经元将图像空间一分为二，N个神经元的组合就可以表达2N个局部区域，而用浅层模型表达这些区域的划分至少需要个2N模板。由此我们可以看到深度模型的表达能力更强，更有效率。
2.5提取全局特征和上下文信息的能力
深度模型具有强大的学习能力，高效的特征表达能力，从像素级原始数据到抽象的语义概念逐层提取信息。这使得它在提取图像的全局特征和上下文信息方面具有突出的优势。这为解决一些传统的计算机视觉问题，如图像分割和关键点检测，带来了新的思路。
以人脸的图像分割为例。为了预测每个像素属于哪个脸部器官（眼睛、鼻子、嘴、头发），通常的作法是在该像素周围取一个小的区域，提取纹理特征（例如局部二值模式），再基于该特征利用支持向量机等浅层模型分类。因为局部区域包含信息量有限，往往产生分类错误，因此要对分割后的图像加入平滑和形状先验等约束。
事实上即使存在局部遮挡的情况下，人眼也可以根据脸部其它区域的信息估计被遮挡处的标注。这意味着全局和上下文的信息对于局部的判断是非常重要的，而这些信息在基于局部特征的方法中从最开始阶段就丢失了。理想的情况下，模型应该将整幅图像作为输入，直接预测整幅分割图。图像分割可以被当作一个高维数据转换的问题来解决。这样不但利用到了上下文信息，模型在高维数据转换过程中也隐式地加入了形状先验。但是由于整幅图像内容过于复杂，浅层模型很难有效地捕捉全局特征。深度学习的出现使这一思路成为可能，在人脸分割[11]、人体分割[12]、人脸图像配准[13]和人体姿态估计等各个方面都取得了成功[14]。
2.4联合深度学习
一些计算机视觉学者将深度学习模型视为黑盒子，这种看法是不全面的。事实上我们可以发现传统计算机视觉系统和深度学习模型存在着密切的联系，而且可以利用这种联系提出新的深度模型和新的训练方法。这方面一个成功的例子是用于行人检测的联合深度学习[15]。一个计算机视觉系统包含了若干关
键的组成模块。例如一个行人检测器就包括了特征提取、部件检测器、部件几何形变建模、部件遮挡推理、分类器等等。在联合深度学习中[15]，深度模型的各个层和视觉系统的各个模块可以建立起对应关系。如果视觉系统中一些有效的关键模块在现有深度学习的模型中没有与之对应的层，它们可以启发我们提出新的深度模型。例如大量物体检测的研究工作证明对物体部件的几何形变建模可以有效地提高检测率，但是在常用的深度模型中没有与之相对应的层。于是联合深度学习[15]及其后续的工作[16]都提出了新的形变层和形变池化层实现这一功能。
从训练方式上看，计算机视觉系统的各个模块是逐一训练或手工设计的；在深度模型的预训练阶段，各个层也是逐一训练的。如果我们能够建立起计算机视觉系统和深度模型之间的对应关系，在视觉研究中积累的经验可以对深度模型的预训练提供指导。这样预训练后得到的模型至少可以达到与传统计算机视觉系统可比的结果。在此基础上，深度学习还会利用反向传播对所有的层进行联合优化，使它们之间的相互协作达到最优，从而使整个网络的性能得到重大提升。
3.深度学习在物体识别中的应用
3.1 ImageNet图像分类
深度学习在物体识别中最重要的进展体现在ImageNet ILSVRC挑战中的图像分类任务。传统计算机视觉方法在这个测试集上最低的top5错误率是26.172%。2012年Hinton 的研究小组利用卷积网络在这个测试集上把错误率大幅降到15.315%。这个网络的结构被称作Alex Net [3]。与传统的卷积网络相比，它有三点比较重要的不同。首先是采用了dropout的训练策略，在训练过程中将一些输入层和中间层的神经元随机置零。这模拟了由于噪音和对输入数据的各种干扰，从而使一些神经元对一些视觉模式产生漏检的情况。Dropout 使训练过程收敛更慢，但得到的网络模型更加鲁棒。其次，它采用整流线型单元作为非线性的激发函数。这不仅大大降低了计算的复杂度，而且使神经元的输出具有稀疏的性质。稀疏的特征表示对各种干扰更加鲁棒。第三，它通过对训练样本镜像映射，和加入随机平移扰动产生了更多的训练样本，以减少过拟合。
ImageNet ILSVRC2013比赛中，排名前20的小组使用的都是深度学习，其影响力可见一斑。获胜者是来则纽约大学Rob Fergus的研究小组，所采用的深度模型还是卷积网络，对网络结构作了进一步优化。Top5错误率降到11.197%，其模型称作Clarifai[17]。
2014年深度学习又取得了重要进展，在ILSVRC2014比赛中，获胜者GooLeNet[18]将top5错误率降到6.656%。它突出的特点是大大增加了卷积网络的深度，超过20层，这在之前是不可想象的。很深的网络结构给预测误差的反向传播带了困难。因为预测误差是从最顶层传到底层的，传到底层的误差很小，难以驱动底层参数的更新。GooLeNet采取的策略是将监督信号直接加到多个中间层，这意味着中间和低层的特征表示也需要能够准确对训练数据分类。如何有效地训练很深的网络模型仍是未来研究的一个重要课题。
虽然深度学习在ImageNet上取得了巨大成功，但是一个现实的问题是，很多应用的训练集是较小的，如何在这种情况下应用深度学习呢？有三种方法可供读者参考。（1）可以将ImageNet上训练得到的模型做为起点，利用目标训练集和反向传播对其进行继续训练，将模型适应到特定的应用[10]。ImageNet起到预训练的作用。（2）如果目标训练集不够大 ，也可以将低层的网络参数固定，沿用ImageNet上的训练集结果，只对上层进行更新。这是因为底层的网络参数是最难更新的，而从ImageNet学习得到的底层滤波器往往描述了各种不同的局部边缘和纹理信息，而这些滤波器对一般的图像有较好的普适性。（3）直接采用ImageNet上训练得到的模型，把最高的隐含层的输出作为特征表达，代替常用的手工设计的特征[19][20]。
3.2 人脸识别
深度学习在物体识别上了另一个重要突破是人脸识别。人脸识别的最大挑战是如何区分由于光线、姿态和表情等因素引起的类内变化和由于身份不同产生的类间变化。这两种变化分布是非线性的且极为复杂，传统的线性模型无法将它们有效区分开。深度学习的目的是通过多层的非线性变换得到新的特征表示。该特征须要尽可能多地去掉类内变化，而保留 类间变化。
人脸识别有两种任务，人脸确认和人脸辨识。人脸确认的任务是判断两张人脸照片是否属于同一个人，属二分类问题，随机猜的正确率是50%。人脸辨识的任务是将一张人脸图像分为N个类别之一，类别是由人脸的身份定义的。这是个多分类问题，更具挑战性，其难度随着类别数的增多而增大，随机猜的正确率是1/N。两个任务都可以用来通过深度模型学习人脸的特征表达。
2013年，[21]采用人脸确认任务作为监督信号，利用卷积网络学习 人脸特征，在LFW上
取得了92.52%的识别率。这一结果虽然与后
续的深度学习方法相比较低，但也超过了大
多数非深度学习的算法。由于人脸确认是一
个二分类的问题，用它学习人脸特征效率比
较低。这个问题可以从几个方面理解。深度
学习面临的一个主要问题是过拟合。作为一
个二分类问题，人脸确认任务相对简单，容
易在训练集上发生过拟合。与之不同，人脸
辨识是一个更具 挑战性的多分类问题，不容
易发生过拟合，更适合通过深度模型学习人
脸特征。另一方面，在人脸确认中，每一对
训练样本被人工标注成两类之一，所含信息
量较少。而在人脸辨识中，每个训练样本都
被人工标注成N类之一，信息量要大的多。
2014年CVPR，DeepID[22]和DeepFace[23] 都采用人脸辨识作为监督信号，在LFW上取得了97.45%和97.35%的识别率。他们利用卷积网络预测N维标注向量，将最高的隐含层作为人脸特征。这一层在训练过程中要区分大量的人脸类别（例如在DeepID中要区分1000类人脸），因此包含了丰富的类间变化的信息，而且有很强的泛化能力。虽然训练中采用的是人脸辨识任务，得到特征可以应用到人脸确认任务，以及识别训练集中没有新人。例如LFW上用于测试的任务是人脸确认任务，不同于训练中采用的人脸辨识任务；DeepID[22]和DeepFace[23]的训练集与LFW测试集的人物身份是不重合的。
通过人脸辨识任务学习得到的人脸特征包含了较多的类内变化。DeepID2[24]联合使用人脸确认和人脸辨识作为监督信号，得到的人脸特征在保持类间变化的同时最小化类内变化，从而将LFW上的人脸识别率提高到99.15%。利用Titan GPU，DeepID2提取一幅人脸图像的特征只需要35毫秒，而且可以离线进行。经过PCA压缩最终得到80维的特征向量，可以用于快速人脸在线比对。在后续的工作中，DeepID2+[25]对DeepID2通过加大网络结构，增加训练数据，以及在每一层都加入监督信息进行了进一步改进，在LFW达到了99.47%的识别率。
一些人认为深度学习的成功在于用具有大量参数的复杂模型去拟合数据集。这个看法也是不全面的。事实上，进一步的研究[25]表明DeepID2+的特征有很多重要有趣的性质。例如，它最上层的神经元响应是中度稀疏的，对人脸身份和各种人脸属性具有很强的选择性，对局部遮挡有很强的鲁棒性。以往的研究中，为了得到这些属性，我们往往需要对模型加入各种显示的约束。而DeepID2+通过大规模学习自动拥有了这些引人注目的属性，其背后的理论分析值得未来进一步研究。
4.深度学习在物体检测中的应用
深度学习也对图像中的物体检测带来了巨大提升。物体检测是比物体识别更难的任务。一幅图像中可能包含属于不同类别的多个物体，物体检测需要确定每个物体的位置和类别。深度学习在物体检测中的进展也体现在ImageNet ILSVRC挑战中。2013年比赛的组织者增加了物体检测的任务，需要在四万张互联网图片中检测200类物体。当年的比赛中
赢得物体检测任务的方法使用的依然是手动设计的特征，平均物体检测率，即mean Averaged Precision (mAP)，只有22.581%。在ILSVRC2014中，深度学习将mAP大幅提高到43.933%。较有影响力的工作包括 RCNN[10]，Overfeat[26]，GoogLeNet[18]，DeepID‐Net[27]，network in network[28]，VGG[29]，和spatial pyramid pooling in deep CNN[30]。被广泛采用的基于深度学习的物体检测流程是在RCNN[10]中提出的。首先采用非深度学习的方法（例如selective search[31]）提出候选区域，利用深度卷积网络从候选区域提取特征，然后利用支持向量机等线性分类器基于特征将区域分为物体和背景。DeepID‐Net[27]将这一流程进行了进一步的完善使得检测率有了大幅提升，并且对每一个环节的贡献做了详细的实验分析。此外深度卷积网络结构的设计也至关重要。如果一个网络结构提高提高图像分类任务的准确性，通常也能使物体检测器的性能显著提升。
深度学习的成功还体现在行人检测上。在最大的行人检测测试集(Caltech[32])上，被广泛采用的HOG特征和可变形部件模型[33]平均误检率是68%。目前基于深度学习最好的结果是20.86%[34]。在最新的研究进展中，很多在物体检测中已经被证明行之有效的思路都有其在深度学习中的实现。例如，联合深度学习[15]提出了形变层，对物体部件间的几何形变进行建模；多阶段深度学习[35]可以模拟在物体检测中常用的级联分类器；可切换深度网络[36]可以表达物体各个部件的混合模型；[37]通过迁移学习将一个深度模型行人检测器自适应到一个目标场景。
5.深度学习用于视频分析
深度学习在视频分类上的应用总体而言还处于起步阶段，未来还有很多工作要做。描述视频的静态图像特征，可以采用用从ImageNet上学习得到的深度模型；难点是如何描述动态特征。以往的视觉方法中，对动态特征的描述往往依赖于光流估计，对关键点的跟踪，和动态纹理。如何将这些信息体现在深度模型中是个难点。最直接的做法是将视频视为三维图像，直接应用卷积网络[38]，在每一层学习三维滤波器。但是这一思路显然没有考虑到时间维和空间维的差异性。另外一种简单但更加有效的思路是通过预处理计算光流场，作为卷积网络的一个输入通道[39]。也有研究工作利用深度编码器(deep autoencoder)以非线性的方式提取动态纹理[40]，而传统的方法大多采用线性动态系统建模。在一些最新的研究工作中[41]，长短记忆网络（LSTM）正在受到广泛关注，它可以捕捉长期依赖性，对视频中复杂的动态建模。
6.未来发展的展望
深度学习在图像识别中的发展方兴未艾，未来有着巨大的空间。本节对几个可能的方向进行探讨。
在物体识别和物体检测中正趋向使用更大更深的网络结构。ILSVRC2012中Alex Net只包含了5个卷积层和两个全连接层。而ILSVRC2014中 GooLeNet和 VGG 使用的网络结构都超过了20层。更深的网络结构使得反向传播更加困难。与此同时训练数据的规模也在迅速增加。这迫切需要研究新的算法和开发新的并行计算系统更加有效的利用大数据训练更大更深的模型。
与图像识别相比，深度学习在视频分类中的应用还远未成熟。从ImageNet 训练得到的图像特征可以直接有效地应用到各种与图像相关的识别任务（例如图像分类、图像检索、物体检测和图像分割等等），和其它不同的图像测试集，具有良好的泛化性能。但是深度学习至今还没有得到类似的可用于视频分析的特征。要达到这个目的，不但要建立大规模的训练数据集（[42]最新建立了包含一百万YouTube视频的数据库），还需要研究适用于视频分析的新的深度模型。此外训练用于视频分析的深度模型的计算量也会大大增加。
在与图像和视频相关的应用中，深度模型的输出预测（例如分割图或物体检测框）往往
具有空间和时间上的相关性。因此研究具有结构性输出的深度模型也是一个重点。
虽然神经网络的目的在于解决一般意义的机器学习问题，领域知识对于深度模型的设计也起着重要的作用。在于图像和视频相关的应用中，最成功的是深度卷积网络，它正是利用了与图像的特殊结构。其中最重要的两个操作，卷积和池化（pooling）都来自于与图像相关的领域知识。如何通过研究领域知识，在深度模型中引入新的有效的操作和层，对于提高图像识别的性能有着重要意义。例如池化层带来了局部的平移不变性，[27]中提出的形变池化层在此基础上更好的描述了物体各个部分的几何形变。在未来的研究中，可以将其进一步扩展，从而取得旋转不变性、尺度不变性、和对遮挡的鲁棒性。通过研究深度模型和传统计算机视觉系统之间的关系，不但可以帮助我们理解深度学习成功的原因，还可以启发新的模型和训练方法。联合深度学习[15]和多阶段深度学习[35]是两个例子，未来这方面还可以有更多的工作。
最然深度学习在实践中取得了巨大成功，通过大数据训练得到的深度模型体现出的特性（例如稀疏性、选择性、和对遮挡的鲁棒性[22]）引人注目，其背后的理论分析还有许多工作需要在未来完成。例如，何时收敛，如何取得较好的局部极小点，每一层变换取得了那些对识别有益的不变性，又损失了那些信息等等。最近Mallat利用小波对深层网络结构进行了量化分析[43]，是在这一个方向上的重要探索。
深度学习在图像识别上的巨大成功，必将对于多媒体相关的各种应用产生重大影响。我们期待着更多的学者在不久的将来研究如何利用深度学习得到的图像特征，推动各种应用的快速进步。
7.结束语
2012年以来，深度学极大的推动了图像识别的研究进展，突出体现在ImageNet ILSVRC和人脸识别，而且正在快速推广到与图像识别相关的各个问题。深度学习的本质是通过多层非线性变换，从大数据中自动学习特征，从而替代手工设计的特征。深层的结构使其具有极强的表达能力和学习能力，尤其擅长提取复杂的全局特征和上下文信息，而这是浅层模型难以做到的。一幅图像中，各种隐含的因素往往以复杂的非线性的方式关联在一起，而深度学习可以使这些因素分级开，在其最高隐含层不同神经元代表了不同的因素，从而使分类变得简单。深度模型并非黑盒子，它与传统的计算机视觉体统有着密切的联系，但是它使得这个系统的各个模块（即神经网络的各个层）可以通过联合学习，整体优化，从而性能得到大幅提升。与图像识别相关的各种应用也在推动深度学习在网络结构、层的设计和训练方法各个方面的的快速发展。我们可以预见在未来的数年内，深度学习将会在理论、算法、和应用各方面进入高速发展的时期，期待着愈来愈多精彩的工作对学术和工业界产生深远的影响。
作者
王晓刚2011年于中国科技大学少年班获得学士学位,2004年于香港中文大学信息工程系获得硕士学位,2009年于美国麻省理工学院获计算机博士学位。自2009年至今任香港中文大 学电子工程系助理教授。他于2012年获得香港杰出青年学者奖,香港中文大学青年学者奖。他是国际期刊Image and Visual Computing Journal的副主编,IEEE Transactions on Circuits and Systems for Video Technology的副主编, 2011
年
IEEE国际计算机视觉大会(ICCV) 的领域主席, 2014年欧洲计算机视觉大会(ECCV)的领域主席,2014年亚洲计算机视 觉大会(ACCV)的领域主席。他的研究兴趣包括计算机视觉、深度学习、群体视频监控、物体检测、和人脸识别等等。
参考文献
[1] D. E. Rumelhart, G. E. Hinton, and R. J.
Williams. Learning internal representations
by error propagation. Nature, 323(99):533–
536, 1986.
[2]J. Deng, W. Dong, R. Socher, L. Li, K. Li, and L.
Fei‐Fei. Imagenet: A large‐scale hierarchical
image database. In IEEE Int’l Conf.
Computer Vision and Pattern Recognition,
2009.
[3] A. Krizhevsky, L. Sutskever, and G. E. Hinton.
Imagenet classification with deep
convolutional neural networks. In Proc.
Neural Information Processing Systems,
2012.
[4]G. B. Huang, M. Ramesh, T. Berg, and E.
Learned‐Miler. Labeled faces in the wild: A
database for studying face recognition in
unconstrained environments. Technical
report, University of Massachusetts,
Amherst, 2007.
[5]N. Kumar, A. C. Berg, P. N. Belhumeur, and S.
K. Nayar. Attribute and simile classifiers for
face verification. In IEEE Int’l Conf.
Computer Vision, 2009.
[6]M. Turk and A. Pentland. Eigenfaces for
recognition. Journal of Cognitive
Neuroscience, 3(1):71–86, 1991.
[7] D. Chen, X. Cao, F. Wen, and J. Sun. Blessing
of dimensionality: Highdimensional feature
and its efficient compression for face
verification. In Proc. IEEE Int’l Conf.
Computer Vision and Pattern Recognition,
2013.
[8]Y. Sun, X. Wang, and X. Tang. Deeply
learned face representations are sparse,
selective, and robust. arXiv:1412.1265, 2014.
[9]Y. LeCun, L. Bottou, Y. Bengio, and P.
Haffner. Gradient‐based learning applied to
document recognition. Proceedings of the
IEEE, 86:2278– 2324, 1998.
[10]R. Girshick, J. Donahue, T. Darrell, and J.
Malik. Rich feature hierarchies for accurate
object detection and semantic
segmentation. In Proc. IEEE Int’l Conf.
Computer Vision and Pattern Recognition,
2014.
[11]P. Luo, X. Wang, and X. Tang. Hierarchical
face parsing via deep learning. In Proc. IEEE
Int’l Conf. Computer Vision and Pattern
Recognition, 2012.
[12]P. Luo, X. Wang, and X. Tang. Pedestrian
parsing via deep decompositional network.
In Proc. IEEE Int’l Conf. Computer Vision,
2013.
[13]Y. Sun, X. Wang, and X. Tang. Deep
convolutional network cascade for facial
point detection. In Proc. IEEE Int’l Conf.
Computer Vision and Pattern Recognition,
2013.
[14]A. Toshev and C. Szegedy. Deeppose:
Human pose estimation via deep neural
networks. In Proc. IEEE Int’l Conf. Computer
Vision and Pattern Recognition, 2014. [15]W. Ouyang and X. Wang. Joint deep
learning for pedestrian detection. In Proc.
IEEE Int’l Conf. Computer Vision, 2013. [16]W. Ouyang, P. Luo, X. Zeng, S. Qiu, Y. Tian, H.
Li, S. Yang, Z. Wang, C. Qian, Z. Zhu, R. Wang,
C. Loy, X. Wang, and X. Tang. Deepidnet:
multi‐stage and deformable deep
convolutional neural networks for object
detection. arXiv:1409.3505, 2014.
[17]https://www.sodocs.net/doc/2714528646.html,/
[18]C. Szegedy, W. Liu, Y. Jia, P. Sermanet, D.
Anguelov, D. Erhan, V. Vanhoucke, and A.
Rabinovich. Going deeper with convolutions.
arXiv:1409.4842, 2014.
[19]A. S. Razavian, H. Azizpour, J. Sullivan, and S.
Carlsson. Cnn features off‐the‐shelf: an
astounding baseline for recognition.
arXiv:1403.6382, 2014.
[20]Y. Gong, L. Wang, R. Guo, and S. Lazebnik.
Multi‐scale orderless pooling of deep
convolutional activation features.
arXiv:1403.1840, 2014.
[21]Y. Sun, X. Wang, and X. Tang. Hybrid deep
learning for computing face similarities. In
Proc. IEEE Int’l Conf. Computer Vision, 2013.
[22]Y. Sun, X. Wang, and X. Tang. Deep learning
face representation from predicting 10,000
classes. In Proc. IEEE Int’l Conf. Computer
Vision and Pattern Recognition, 2014. [23]Y. Taigman, M. Yang, M. Ranzato, and L.
Wolf. Deepface: Closing the gap to human‐
level performance in face verification. In
Proc. IEEE Int’l Conf. Computer Vision and
Pattern Recognition, 2014.
[24]Y. Sun, X. Wang, and X. Tang. Deep learning
face representation by joint identification‐
verification. In Proc. Neural Information
Processing Systems, 2014.
[25]Y. Sun, X. Wang, and X. Tang. Deeply
learned face representations are sparse,
selective, and robust. arXiv:1412.1265, 2014.
[26]P. Sermanet, D. Eigen, X. Zhang, M. Mathieu,
R. Fergus, and Y. Le‐ Cun. Overfeat:
Integrated recognition, localization and
detection using convolutional networks. In
Proc. Int’l Conf. Learning Representations,
2014.
[27]W. Ouyang, P. Luo, X. Zeng, S. Qiu, Y. Tian, H.
Li, S. Yang, Z. Wang, C. Qian, Z. Zhu, R. Wang,
C. Loy, X. Wang, and X. Tang. Deepidnet:
multi‐stage and deformable deep
convolutional neural networks for object
detection. arXiv:1409.3505, 2014.
[28]M. Lin, Q.. Chen, and S. Yan. Network in
network. arXiv:1312.4400v3, 2013.
[29]K. Simonyan and A. Zisserman. Very deep
convolutional networks for large‐scale
image recognition. arXiv:1409.1556, 2014,
2014.
[30]K. He, X. Zhang, S. Ren, and J. Sun. Spatial
pyramid pooling in deep convolutional
networks for visual recognition.
arXiv:1406.4729, 2014.
[31]J. R. R. Uijlings, K. E. A. Van de Sande, T.
Gevers, and W. M. Smeulders. Selective
search for object recognition. International
Journal of Computer Vision, 104:154–171,
2013.
[32]P. Dollar, C. Wojek, B. Schiele, and P. Perona.
Pedestrian detection: A benchmark. In Proc.
IEEE Int’l Conf. Computer Vision and Pattern
Recognition, 2009.
[33]P. Felzenszwalb, R. B. Grishick, D.McAllister,
and D. Ramanan. Object detection with
discriminatively trained part based models.
IEEE Trans. PAMI, 32:1627–1645, 2010. [34]Y. Tian, P. Luo, X. Wang, and X. Tang,
“Pedestrian Detection aided by Deep
Learning Semantic Tasks,” arXiv 2014. [35]X. Zeng, W. Ouyang, and X. Wang. Multi‐
stage contextual deep learning for
pedestrian detection. In Proc. IEEE Int’l Conf.
Computer Vision, 2013.
[36]P. Luo, Y. Tian, X. Wang, and X. Tang.
Switchable deep network for pedestrian
detection. In Proc. IEEE Int’l Conf. Computer
Vision and Pattern Recognition, 2014. [37]X. Zeng, W. Ouyang, and X. Wang. Deep
learning of scene‐specific classifier for
pedestrian detection. In Proc. European
Conf. Computer Vision, 2014.
[38]S. Ji, W. Xu, M. Yang, and K. Yu. 3d
convolutional neural networks for human
action recognition. IEEE Trans. on Pattern
Analysis and Machine Intelligence,
35(1):221–231, 2013.
[39]K. Simonyan and A. Zisserman. Two‐Stream
Convolutional Networks for Action
Recognition in Videos. arXiv:1406.2199,
2014.
[40]X. Yan, H. Chang, S. Shan, and X. Chen,
Modeling Video Dynamics with Deep
Dynencoder. In Proc. European Conf.
Computer Vision, 2015.
[41]J. Donahue, L. A. Hendricks, S. Guadarrama,
M. Rohrbach, S. Venugopalan, K. Saenko,
and T. Darrell. Long‐term recurrent
convolutional networks for visual
recognition and description.
arXiv:1411.4389, 2014.
[42]A. Karpathy, G. Toderici, S. Shetty, T. Leung,
R. Sukthankar, and L. Fei‐Fei. Large‐scale
video classification with convolutional neural networks. In Proc. IEEE Int’l Conf.
Computer Vision and Pattern Recognition, 2014.
[43]J. Bruna and S. Mallat. Invariant scattering
convolution networks. IEEE Trans. on Pattern Analysis and Machine Intelligence, 35(8):1872 – 1886, 2013.
江南营_江南深度研学之旅(1)
诗梦江南，入画寻踪 ——长清区实验小学江南深度研学实践之旅 【课程简介】 一道水，一架桥，一支橹声，隽秀婉约的聚合了太多的历史文化。此次研学活动旨在让同学们了解祖国江南，同时感受一场从远古传说，到春秋的吴越文化，到南北朝的文人风骨，再到明清以及近代的大儒伟人的历史盛宴。活动中，同学们将一起寻访王羲之、蔡元培、鲁迅、周恩来等名人伟人故里，穿越历史，冶爱国之志，体悟文化魅力；一起走进园，欣赏宋代江南私家园林的秀美景观，探寻园林蕴含的文化涵；一起游历西湖，领略“淡妆浓抹总相宜”的如画美景；一起走进综合性人文科学博物馆博物馆、中国黄酒博物馆，全面了解历史文化。 【课程特色】 ●文化名镇江南风采 ●穿越时空触摸历史 【行程简表】
上午探访安昌古镇漫游小桥流水梦回江南水乡游历江南小镇，画笔描绘 第五天 下午乘坐高铁前往：车次G60东-西 15:22-19:48辅导员送站一次相聚一生情谊备注：因天气交通等原因，组委会保留调整活动顺序及个别项目的权力，保证活动总量不变。 【活动费用】 2900/人；包含火车（往返高铁）及活动期间所有的费用。 ?【人文积淀-理性思维】·第一天下午·钱塘江·六和塔 钱塘江潮被誉为“天下第一潮”，是世界一大自然奇观，它是天体引力和地球自转的离心作用，加上湾喇叭口的特殊地形所造成的特大涌潮。六和塔位于省市西湖之南，钱塘江畔 月轮山上，是中国现存最完好的砖木结构古塔之一。 小任务1：学生面对浩渺的钱塘江，接受审美教育，并结合手册提示，探究钱塘江大潮的在科学原理； 小任务2：学生走进六和塔，收集关于六和塔的传说故事，留下自己与六和塔最美的合照； ?【审美情趣-人文积淀】·第二天上午·西湖·省博物馆 西湖，是一首诗，一幅天然图画，一个美丽动人的故事，不论是多年居住在这里的人还是匆匆而过的旅人，无不为这天下无双的美景所倾倒。平湖秋月、断桥残雪、柳浪闻莺、花 港观鱼、雷峰夕照、双峰插云、南屏晚钟、三潭印月，西湖十景个擅其胜。省博物馆是省规 模最大的综合性人文科学博物馆，文物品类丰富，年代序列完整。 小任务1：集体创绘，全体学生齐动手，集体协作，面对美景，协作创作最美的西湖； 小任务2：走进博物馆，寻访国宝，找一找最能代表江南文化的文物，向小组同学分享并交流；
深度学习的研究
深度学习的研究 1、定义和背景： 1.1 深度学习（DL）有各种相近的定义或者高层次描述 自2006年以来，深度学习（deep learning）（也通常叫做深层结构学习或分层学习）已经成为机器学习领域的一个新兴领域（Hinton et al., 2006; Bengio, 2009 ）.在过去几年中，深度学习技术的发展已经对信号和信息过程领域产生广泛的影响，并将继续影响到机器学习和人工智能的其它关键领域；参见综述文章（Bengio et al., 2013; Hinton et al., 2012; Yu and Deng, 2 011; Deng, 2011; Arel et al., 2010 ）.最近，已有一系列的致力于关于深度学习以及应用的研讨会和特别会议。包括: 这些研究团队在DL的各种不同应用中取得经验性的成功，如计算机视觉、语音识别、语音搜索、语音识别、语音会话和图像特征编码、语义分类、手写识别话语、音频处理、信息检索、机器人学、甚至在分析可能导致新药的分子方面等等。许多优秀的经常更新教程、 传统机器学习和信号处理技术探索仅含单层非线性变换的浅层学习结构。浅层模型的一个共性是仅含单个将原始输入信号转换到特定问题空间特征的简单结构。典型的浅层学习结构包括传统隐马尔可夫模型（HMM）、条件随机场（CRFs）、最大熵模型（MaxEnt）、支持向量机（SVM）、核回归及仅含单隐层的多层感知器（MLP）等。例如，SVM用包含一层（使用核技巧）或者零个特征转换层的浅层模式分离模型。（最近已有将核方法与DL结合的新方法。如，Cho and Saul, 2009; Deng et al., 2012; Vinyals et al., 201 2）。浅层结构的局限性在于有限的样本和计算单元情况下对复杂函数的表示能力有限，针对复杂分类问题其泛化能力受到一定制约。 神经科学研究表明，人的视觉系统的信息处理是分级的。人类感知系统这种明确的层次结构极大地降低了视觉系统处理的数据量，并保留了物体有用的结构信息。有理由相信，对于要提取具有潜在复杂结构规则的自然图像、视频、语音和音乐等结构丰富数据，深度学习能够获取其本质特征。受大脑结构分层次启发，神经网络研究人员一直致力于多层神经网络的研究。 历史上，深层学习的概念起源于神经网络的研究。带有多隐层的前馈神经网络或者多层感知器通常被成为深层神经网络（DNNs），DNNs就是深层构架的一个很好的例子。BP算法作为传统训练多层网络的典型算法，实际上对于仅含几层网络，该训练方法就已很不理想（参见(Bengio, 2009; Glorot and Bengio, 2010). 在学习中，一个主要的困难源于深度网络的非凸目标函数的局部极小点普遍存在。反向传播是基于局部梯度下降，通常随机选取初始点。使用批处理BP算法通常会陷入局部极小点，而且随着网络深度的增加，这种现象更加严重。此原因在一定程度上阻碍了深度学习的发展，并将大多数机器学习和信号处理研究从神经网络转移到相对较容易训练的浅层学习结构。 经验上，有3种技术可以处理深层模型的优化问题：1.大量的隐藏的单元,2.更好的学习算法,3.以及更好的参数初始化技术。
【2021新高考地理】选择题训练含答案
新高考选择题限时训练 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 下图为我国南方某中学的刘老师于“十一”假期，在校园散步时用手机向前方抓拍的校园景观。 据此完成下列各题 1. 刘老师的前进方向和抓拍时间的搭配最合理是 A. 东南 5:30 B. 西南17:00 C. 东北5:30 D. 西北17:00 2. 刘老师想在同一时刻，同一地点抓拍到一样的照片，应选择的日期是 A. 3 月 13 日 B. 6 月 30 日 C. 10 月 30 日 D. 12 月 13 日 2019年10月开始，A国开始爆发森林火灾。随后四个月中逐渐蔓延，演变为创纪录的致命火灾季。滚滚浓烟一直吹到了N国，当地民众上传到社交媒体的照片显示，平时呈白色的弗朗兹·约瑟夫冰川也被灰尘染成了“焦糖色”。专家预测，这可能使该冰川的季节性融化速度加快20%至30%。图示意A国与N国地理位置。 据此完成下列小题。 3. 从气候类型上讲，这个季节最容易发生火灾的地点可能是
A. ① B. ② C. ③ D. ④ 4. 卫星图片显示，覆盖弗朗兹?约瑟夫冰川的灰尘主要来自于②地。引起浓烟飘移的风向和距离分别是 A. 东南，2000km B. 西北，2000km C. 西南，1500km D. 东北，1500km 5. 朗兹?约瑟夫冰川季节性融化速度加快的直接原因是 A. 大火释放了大量热量 B. 大火排放了大量温室气体 C. 大火引起N国气候异常 D. 冰川吸收大量太阳辐射 下图为我国西北渭干河-库车河三角洲绿洲区“近10年地下水平均埋深季节动态变化（单位：米）”示意图。据此完成下面小题。 6. 该冲积扇绿洲区上、中、下不同部位地下水埋深的季节差大约分别为（） A. 104cm、73cm和78cm B. 73cm、78cm和104cm C. 73cm、104cm和78cm D. 78cm、73cm和104cm 7. 影响渭干河-库车河三角洲绿洲区4月份地下水平均埋深的直接原因是（） A. 冰雪融水 B. 地表径流 C. 大气降水 D. 灌溉 8. 该三角洲绿洲区土壤盐碱化现象最严重的时空分布是（） A. 夏季—冲积扇上部 B. 春季—冲积扇下部 C. 春季—冲积扇中部 D. 夏季—冲积扇下部 大健康产业是指提供预防、诊断、治疗、康复和缓和性医疗商品和服务的总称。包括医药工业、医药商业、医疗服务、保健品、健康保健服务等多个与人类健康紧密相关的生产和服务领域。近年来，我国大健康产业发展迅速，但存在着较大的地域差异。右图示意我国大健康产业结构。
研学方案
“研学旅行”实施方案 一、项目实施背景 从2013年发布《国民休闲旅游纲要》到2016年的《关于推进中小学生研学旅行的意见》，国家教育部等多部门发文要求大力推进研学旅行。研学旅行有利于促进学生培育和践行社会主义核心价值观，激发学生对党、对国家、对人民的热爱之情；有利于推动全面实施素质教育，创新人才培养模式，引导学生主动适应社会，促进书本知识和生活经验的深度融合；有利于加快提高人民生活质量，满足学生日益增长的旅游需求，从小培养学生文明旅游意识，养成文明旅游行为习惯。近年来，各地积极探索开展研学旅行，部分试点地区取得显著成效，在促进学生健康成长和全面发展等方面发挥了重要作用。二、定位与宗旨 目前大多数研学旅行还处在研究开发状态，良莠不齐，市场认可度不够，家长热度不高（尤其省内）。这是我们的机遇，也是挑战，我们的定位是要打造出一个学校认可、家长认可、学生认可的研学品牌，让学生在研学中学到东西。 三、具体实施 （一）方案A：纯旅游研学 本方案以若干旅游景点为研学地点，前期采取跟旅行社合作的方式（合作方式有待探讨），研学的核心（课件+“内容”）内容采取跟大学历史系或者旅游系的老师合作。 该方案的优点：该方案采用跟旅行社合作，研学路线可以借用
旅行社的优势，资源充分整合，老师和家长的路线选择多，可以极大丰富学生的课外知识，并且可以开展夏令营和冬令营活动。缺点是要综合考虑各个年龄段的学生，路线过多，会导致前期工作准备不够充足。 方案细节初步安排如下： 1、前期工作（3月20日-3月30日）： （1）与某个旅行社达成合作关系（目前有合作意向的有康辉旅行社）； （2）与某个大学的历史或者旅游系老师达成合作关系，负责研学核心内容的开发，包括路线的选择和内容的开发 （3）完成计划的策划和确定具体实施细节。 2、中期工作（4月1日-5月30日） （1）4月1日-4月15日与旅行社和老师确定最终的研学路线； （2）4月15日-5月30日一个半月的时间根据最终具体的研学路线，来做具体的研学课件和研学内容，研究出研学到底应该让学生学到什么，怎么保证学生能学到这些； （3）同时根据最终确定的研学方案做好定价方案，在这个过程中要充分进行调研，进学校、访家长，做到收费合理； （4）根据做好的方案做好线上推广，把做好的资料全部上传到线上，可以参考北京世纪明德。
深度学习在图像识别中的研究及应用
摘要 对图像进行精确识别，具有非常重要的研究意义，图像识别技术在医药学、航天、军事、工农业等诸多方面发挥着重要的作用。当前图像识别方法大多采用人工提取特征，不仅费时费力，而且提取困难；而深度学习是一种非监督学习，学习过程中可以不知道样本的标签值，整个过程无需人工参与也能提取到好的特征。近年来，将深度学习用于图像识别成为了图像识别领域的研究热点，已取得了良好的效果，并且有广阔的研究空间。 本文基于深度学习在图像识别的相关理论，分析了深度学习的基本模型和方法，并在相关图像数据集上实验论证；另外鉴于深度学习多用于大样本集，本文基于小样本提出了一种改进算法，具体工作内容如下： （1）分析深度学习中卷积神经网络（Convolutional Neural Networks，CNNs）的基本原理，研究其训练过程和模型结构。其中卷积层通过卷积运算，可以使原信号增强，并且降低噪声，提高信噪比；降采样对卷积层的图像进行子抽样，在保证了有用信息不降低的基础上，减少数据处理量。将其在 MNIST手写字体数据集上进行实验，通过对比分析了该方法和其他经典算法在识别率和时间方面的优劣。 （2）针对于卷积神经网络训练时间过长这一缺陷，分析了深度学习中深度信念网络（Deep Belief Networks，DBNs）的基本原理、训练过程和模型结构。DBNs的分层训练机制大大减少了训练难度，减少了训练时间。引入Softmax作为模型的分类器，将其在MNIST手写字体数据集上进行实验，实验表明：深度信念网络在识别率上和卷积神经网络持平，但训练方法的改善使得消耗时间大大减少。此外，该方法在自然场景CIFAR-10库上也有较好的实验效果。 （3）鉴于深度学习多适用于较大的数据集，针对小样本提出了一种改进的深度信念网络结构：深度信念网络整个过程可以分为预训练和参数微调两个阶段，改进的算法在预训练阶段对样本进行降采样；在参数微调阶段引入随机隐退（Dropout），将隐含层的结点随机清零掉一部分，保持其权重不更新。将改进的模型在MNIST子集和ORL数据集上进行实验，实验表明：在小样本中，引入降采样和随机隐退后，深度信念网络在识别率和耗时方面都有不错的改善，过拟合现象得到有效缓解。 关键字：深度学习图像识别卷积神经网络深度信念网络小样本集 I
江南营江南深度研学之旅1
江南营-江南深度研学之旅（1)
————————————————————————————————作者：————————————————————————————————日期:
诗梦江南，入画寻踪 ——长清区实验小学江南深度研学实践 之旅 【课程简介】 一道水,一架桥，一支橹声,隽秀婉约的杭州绍兴聚合了太多的历史文化。此次研学活动旨在让同学们了解祖国江南，同时感受一场从远古传说，到春秋的吴越文化，到南北朝的文人风骨,再到明清以及近代的大儒伟人的历史盛宴。活动中，同学们将一起寻访王羲之、蔡元培、鲁迅、周恩来等名人伟人故里,穿越历史,陶冶爱国之志,体悟文化魅力；一起走进沈园,欣赏宋代江南私家园林的秀美景观，探寻园林蕴含的文化内涵；一起游历西湖,领略“淡妆浓抹总相宜”的如画美景；一起走进综合性人文科学博物馆浙江博物馆、中国黄酒博物馆，全面了解浙江历史文化。 【课程特色】 ●文化名镇江南风采 ●穿越时空触摸历史 【行程简表】 时间课程安排课程主题课程链接 第一天上午乘坐高铁前往杭州:车次G63 济南-杭州东 0７:23-1１：５３辅导员接站读万卷书行万里路下午参观钱塘江、六和塔看天下第一潮登镇潮六和塔追寻江畔的历史故事 晚上研学课程指导分组讨论课程，研学收获分享 实践－辅导员指导学生完成课程手 册 第二天上午 游历杭州西湖置身如画美景感受西湖柔情参观苏堤、孤山、曲院风荷 浙江博物馆参观历史展品考察浙江文化感受历史文化的沉淀 下午灵隐寺、飞来峰登山览胜景寺宇悟佛心登山参观庙宇,了解佛教文化 晚上研学课程指导分组讨论课程，研学收获分享实践-辅导员指导学生完成课程手册 第三天上午探访鲁迅故里探寻书中世界亲访三味书屋追寻鲁迅先生的足迹 下午 游览沈园漫步江南园林,探寻文化内涵 人文－体味江南风情/建筑-江南园林建 筑风格 参观黄酒博物馆参观历史文物体悟江南魅力历史-绍兴历史文化 晚上 大善塔 仓桥直街 漫步古城小道欣赏绍兴夜色实践-实地感受，见景抒情 第四天上午书圣故里历史街区历游文人旧地感受文化魅力人文-文人旧所、大家荟萃
2010年考研政治试题深度预测十题 (2)
2010年考研政治试题分析题深度预测十题 一、给出一组涉及辩证法和认识论综合的古代故事或者当前热点问题的材料，结合材料回答下列问题：（1）、简述矛盾的普遍性和特殊性的内涵、相互关系及其方法论意义（高频考点，考的可能性很大） ⑴矛盾的普遍性是指矛盾存在于一切事物的发展过程中，每一事物的发展过程中都存在着自始至终的矛盾运动。矛盾的特殊性是指具体事物在其运动中的矛盾及每一矛盾的各个方面都有其特点。具体表现为：①不同事物的矛盾各有其特点；②同一事物 的矛盾在不同发展过程和发展阶段各有不同特点；③构成事物的诸多矛盾以及每一矛盾的不同方面各有不同的性质、地位和作用。在矛盾群中又存在着根本矛盾和非根本矛盾、主要矛盾和次要矛盾。根本矛盾贯穿事物发展过程的始终，规定着事物的性质。主要矛盾是矛盾体系中处于支配地位，对事物发展起决定作用的矛盾。非根本矛盾、次要矛盾是处于服从地位的矛盾。在每一对矛盾中又有矛盾的主要方面与矛盾的次要方面，矛盾的性质主要是由矛盾的主要方面决定的。矛盾解决的形式主要有：①矛盾一方克服另一方；②矛盾双方同归于尽；③矛盾双方形成协同运动的新形式；④矛盾双方融合成一个新事物。 ⑵关系：矛盾的普遍性和特殊性是辩证统一的关系。矛盾的普遍性即矛盾的共性，矛盾的特殊性即矛盾的个性。矛盾的共性是无条件的、绝对的，矛盾的个性是有条件的、相对的。任何现实存在的事物都是共性和个性的有机统一，共性寓于个性之中，没有离开个性的共性，也没有离开共性的个性。矛盾的共性和个性、绝对和相对的道理，是关于事物矛盾问题的精髓。 ⑶方法论意义：矛盾的普遍性和特殊性辩证关系的原理是马克思主义的普遍真理同各国的具体实际相结合的哲学基础，也是建设中国特色社会主义的哲学基础。 （2）、结合矛盾的同一性和斗争性及其相互关系说明同一性和斗争性在事物发展中的作用及方法论意义（考的可能性很大） ⑴同一性和斗争性是矛盾双方相互联系、相互制约的两个方面，对事物的发展都具有推动作用。同一性是指矛盾双方相互依存、相互贯通的性质和趋势。斗争性是矛盾着的对立面之间相互排斥、相互分离的性质和趋势。矛盾的同一性和斗争性相互联结、相互制约的原理，要求我们在分析和解决矛盾时，必须从对立中把握同一，从同一中把握对立。这是辩证认识的实质所在。 ⑵同一性的作用：①矛盾的一方可以利用另一方的发展使自己获得发展；②矛盾双方可以相互吸取有利于自身的因素而得到发展；③矛盾双方向着自己的对立面转化而得到发展。斗争性的作用：①斗争推动矛盾双方力量对比发生变化，造成事物的量变； ②斗争促使矛盾双方地位或性质转化，实现事物的质变。矛盾推动事物发展是同一性和斗争性共同作用的结果，但在不同的条 件下，二者所处的地位会有所不同。 ⑶方法论意义：了解同一性和斗争性在事物发展中的作用，对于我们自觉地利用矛盾的这两种力量推动事物发展，具有重要意义。它说明事物的发展表现为“相反相成”和“相辅相成”。它还说明和谐作为矛盾的一种特殊表现形式，体现着矛盾双方的 相互依存、相互促进、共同发展。 （3）、简述质变量变规律的内容及其方法论意义（重要考点，考的可能性较大） ⑴量变是事物数量的增减和次序的变动，是保持事物的质的相对稳定性的不显著的变化，体现事物渐进过程的连续性。质变是事物性质的根本变化，是事物由一种质态向另一种质态的飞跃，体现事物渐进过程和连续性的中断。区分量变和质变的根本标志是事物的变化是否超出度，在度的范围内的变化是量变，超出度的变化是质变。 ⑵量变和质变的辩证关系：①量变是质变的必要准备；②质变是量变的必然结果；③量变和质变是相互渗透的。质量互变规律 揭示了事物发展的形式和状态，体现事物发展的渐进性和飞跃性的统一。 ⑶方法论意义：①它揭示了事物发展过程是连续性和阶段性的统一，这是无产阶级政党制定路线、方针、政策的重要理论依据； ②它是我们分析社会发展形式的基本理论工具，对于我们正确处理社会主义改革、发展、稳定的关系具有指导意义；③它是指 导我们从事一切实践活动的重要思想原则。 （4）、简述唯物辩证法的五对基本范畴 ⑴内容与形式（2010年新增考点，考的可能性很大，一般选择题） 内容和形式是揭示事物内在要素同这些要素的结构和表现方式的关系范畴。内容是构成事物一切要素的总和，是事物存在的基础。形式是内容诸要素相互结合的结构和表现方式。内容和形式是相互依赖、不可分割的。任何事物的内容都有一定的形式，任何形式也都有一定的内容，没有无内容的空洞的形式，也没有无形式的纯粹的内容。事物的内容是无限丰富的，事物的形式也是多种多样的。内容和形式相互作用、相互影响。内容决定形式，形式反作用于内容。当形式适合内容时，对内容的发展起着积极的推动作用；当形式不适合内容时，对内容的发展起着消极的阻碍作用。在把握内容和形式这对范畴时，既要重视内容，根据内容的需要决定形式的取舍、改造和创新；又要善于运用形式，发挥其积极作用，利用和创造必要的形式，适时地抛弃与内容不相适应的形式。 ⑵必然性与偶然性（结合科社命题，考的可能性较大） 必然性和偶然性是揭示客观事物发生、发展和灭亡的不同趋势的范畴。必然性是指事物联系和发展过程中一定要发生、确定不移的趋势。偶然性是指事物联系和发展过程中并非确定发生的不确定的趋势。必然性和偶然性是对立统一的关系。对立：①它 们产生和形成的原因不同，必然性产生于事物内部的根本矛盾，偶然性产生于非根本矛盾和外部条件；②它们的表现形式不同，
研学
第一单元 课题人与自我?我自信，会成功 学习目标正确认识自我，能够说出自己的优点和不足；增强自我调控、承受挫折、适应环境的能力；了解树立自信心的方法，培养健全的人格和良好的心理素质；提高心理健康水平，增强自我教育能力，形成健康、自信的人生观。参考主题（1）我自信，会成功；（2）克服考试焦虑；（3）消除孤独感。 实践方式心理测试；收集资料；手工制作。 方法引导发表意见的技巧；如何对调查结果进行统计与分析。 学科整合与心理健康教育、品德与社会、语文等学科整合。关注心理健康，形成健康的生活态度；善于发现其他同学身上的优点并虚心学习；学习名人名言，领悟其深刻含义，并激励自己；进行小制作设计。 课时安排5课时 教学流程 第一课时 研究准备 我们一天天地长大，从妈妈怀里的婴儿，长成了少年。想想自己在成长过程中有哪些烦恼？你是怎么解决的？ 同学们根据自己的兴趣自主确定设计研究方案，其方法一般是: 1、我的烦恼及解决的办法 2、我自信，会成功 3、消除孤独感 以上方案进行研究、讨论、尝试初步建立印象。 第二课时 我自信，会成功 一、研究实施 自信对我们走向成功非常重要。今天，就我们一起通过探究活动来寻找自信，增强自信！ 二、方法与引导： 发表意见的技巧 1、态度诚恳、谦逊。多采用“我个人认为”、“我目前的想法是”等表达方式； 2、不能只发表否定性意见，对好的方面要充分肯定； 3、对事不对人，只针对事情发表意见； 4、通过举例等方式，引导他人发现存在的问题； 5、避免个人垄断话题，邀请不善于发表意见的组员参与讨论。 三、“我自信，会成功”研究方案 主题名称研究时间 研究目的1、正确认识自己，发现自己的优点与不足 2、
2021届江南十校联考新高考原创预测试卷(三)物理
2021届江南十校联考新高考原创预测试卷（三） 物理 ★祝考试顺利★ 注意事项： 1、考试范围：高考范围。 2、答题前，请先将自己的姓名、准考证号用0.5毫米黑色签字笔填写在试题卷和答题卡上的相应位置，并将准考证号条形码粘贴在答题卡上的指定位置。用2B铅笔将答题卡上试卷类型A后的方框涂黑。 3、选择题的作答：每个小题选出答案后，用2B铅笔把答题卡上对应题目的答案标号涂黑。写在试题卷、草稿纸和答题卡上的非选择题答题区域的答案一律无效。 4、主观题的作答：用签字笔直接答在答题卡上对应的答题区域内。写在试题卷、草稿纸和答题卡上的非答题区域的答案一律无效。如需改动，先划掉原来的答案，然后再写上新答案；不准使用铅笔和涂改液。不按以上要求作答无效。 5、选考题的作答：先把所选题目的题号在答题卡上指定的位置用2B铅笔涂黑。答案用0.5毫米黑色签字笔写在答题卡上对应的答题区域内，写在试题卷、草稿纸和答题卡上的非选修题答题区域的答案一律无效。 6、保持卡面清洁，不折叠，不破损，不得使用涂改液、胶带纸、修正带等。 7、考试结束后，请将本试题卷、答题卡、草稿纸一并依序排列上交。 14、用轰击铀核产生了m个某种粒子，核反应方程为，则（D ） A. 方程式中的m＝3 B. 方程式中的X是粒子 C. 该反应需要吸收热量 D. 的比结合能一定大于的比结合能 15、将质量为1.00Kg的模型火箭点火升空，50g燃烧的燃气以大小为600m/s的速度从火箭喷口在很短时间内喷出。在燃气喷出后的瞬间，火箭的动量大小为（A）（喷出过程中重力和空气阻力可忽略） A、30 kg m/s B、5.7×102kg m/s C、6.0×102kg m/s D、6.3×102kg m/s 16、卫星电话信号需要通过地球同步卫星传送，已知地球半径为r，无线电信号传播速度为c， 月球绕地球运动的轨道半径为60r，运行周期为27天。在地面上用卫星电话通话，从一方发 出信号至对方接收到信号所需最短时间为（C） A、B、C、D、 17、如图，导体轨道OPQS固定，其中PQS是半圆弧，Q为半圆弧的中心，O为圆心。轨道的电阻忽略不计。OM是有一定电阻、可绕O转动的金属 杆。M端位于PQS上，OM与轨道接触良好。空间存在与半圆 所在平面垂直的匀强磁场，磁感应强度的大小为B，现使OM
研学课程质量管理方案
XXXX中小学研学旅行课程质量管理 一、指导思想 全面贯彻党的教育方针，以《国家中长期教育改革和发展规划纲要》《基础教育课程改革纲要》《国民旅游休闲纲要》为指导，认真落实立德树人的育人目标，以培养学生的综合实践能力和创新能力为核心，以学生发展为本，全面提升学生综合素质。 二、课程设计原则与课程内容 (一)课程设计原则 1.开放性原则:充分利用校内外资源体现目标的多元性，内容的广泛性，时间空间的广域性，展示的多样性和评价的灵活性。 2.整合性原则:以研学旅行资源及教学内容、方法和师资情况为基础，结合学生认知能力和社会实际整合开发课程，保证课程的时效性，实现课程的生成性。 3.体验性原则:尊重学生主体地位，以人为本，以学生活动为主，突出体验实践，培养学生创新精神和实践能力，变知识性的课堂教学为发展性的体验教学。 4.生活性原则:着眼于生活实际的观察视角，把学生从最简单熟悉的生活层面引领到更加广阔的社会生活舞台，加强教育的生活性，突出生活的教育化程度。 (二)课程内容
1.了解社会状况。通过研学旅行活动，了解当前社会实践活动中迫切需要解决的现实问题，如交通、卫生、网络、饮食、环境、动植物保护以及人口老龄化、就业压力、就医入学等现实状况。 2.探究学科问题。包括物理、化学、生物、地理、数学、语文、英语、政治、历史、通用技术、信息技术、体育、音乐、美术以及学科交叉知识的探究，发现一些值得研究的新问题。 3.前沿科技应用。在研学活动中，学习和研究前沿科学技术在生活、生产实践和科学实践领域的应用。如3D打印、AR/VR、无人机、无人驾驶等。 三、课程实施 （1）课程开发要立足教育性。 要使研学旅行做到立意高远、目标明确、活动生动、学习有效，避免出现“只旅不学”或“只学不旅”的现象，就必须把教育性原则放在首位，寻找适切的研学主题和课程教育目标，深度促进研学旅行活动课程与学校课程的有机融合。作为中小学教育教学实践的重要组成部分，研学旅行的活动课程既要结合学生身心特点、接受能力和实际需要，又要注重知识性、科学性和趣味性。 在课程目标的制订上，要与学校的综合实践活动课程统筹考虑，活动中的知识性目标、能力性目标、情感、态度、价值观领域的目标和核心素养的目标等等，都应该是落实课标的核心要点。 （2）研学旅行课程突出实践性 正是我国推动全面实施素质教育的一种重要创新。研学旅行的课
2018年水利工程的检测员继续教育考试岩土试的题目10
试卷总分：100分 考试时间：100分钟 剩余时间：12分35秒 岩土工程试卷 单项选择题（每题1分，共40分） （1）止水带材料的拉伸强度等于，止水带标准试片在规定拉伸条件下的（） 最大拉力值/（裁刀狭小平行部分的宽度×试片试验长度部分的厚度) 断裂时的拉力值/（裁刀狭小平行部分的宽度×试片试验长度部分的厚度） 最大拉力值/（试片试验长度部分的宽度×试片试验长度部分的厚度） 断裂时的拉力值/（试片试验长度部分的宽度×试片试验长度部分的厚度） （2）在混凝土桩身完整性检测中，以下哪一项属于检测结果准确可靠，现场操作简便、迅速，不受桩长、长径比的限制，一般也不受场地限制的检测方法（） 声波透射法 高应变检测法 低应变检测法 钻芯法 （3）浇筑止水带周围的混凝土时，应防止止水带跑偏移位、损坏或扭曲，并应确保（） 振捣器不得接触钢筋 振捣器不得接触模板 模板牢固固定 止水带下部混凝土振捣密实 （4）塑性密封材料在高分子止水板上复合剥离强度等于标准剥离试验中的（） 剥离力值/ 试片厚度 剥离力值/ 试片宽度 剥离拉伸值/ 试片厚度 剥离拉伸值/ 试片宽度 （5）岩块的变形模量是指岩石试件在轴向应力作用下，（）的比值 应力-应变关系曲线曲线段的轴向应力与对应的轴向应变 应力-应变关系曲线直线段的轴向应力与对应的轴向应变 横向应变与对应的轴向应变 （6）振动三轴试验主要用于测定土的哪些指标（） 动强度 动模量 阻尼比
A+B+C （7）止水带埋入基岩内的深度宜为（） <100mm 100~200mm 300~500mm >500mm （8）选择土工合成材料测试仪器时，量程选择的原则是： 试样最大测试值在满量程的10%~90%范围内 试样最大测试值正好为满量程 试样最大测试值为满量程的50% 试样最大测试值为满量程的80% （9）橡胶止水带或PVC止水带嵌入混凝土中的宽度宜为（） <100mm 100~120mm 120~260mm >260mm （10）下列哪个指标表征土工织物的孔径特征？（） 孔径 等效孔径 渗透系数 通过率 （11）对于砂土中的基桩，检测开始时地基土体应达到的休止时间为（）7 10 15 25 （12）橡胶止水带材料脆性温度的含义是材料试片（） 在规定冲击下不破坏的极限低温温度 不变脆的极限低温温度 在规定低温下抵抗冲击破坏的能力 在规定低温下不变脆的能力 （13）对于桩身和承台，其承载能力极限状态的具体含义包括（） 受压、受拉极限承载力 受压、受拉、受弯、受剪、受冲切极限承载力 受压、受剪、受冲切极限承载力 受弯、受剪、受冲切极限承载力
2020年北京中考物理复习题型大全031-10.2实验解答题-力学-压强-液体内部压强-22道题6页
3.（单选）如图3所示实验，将压强计放入液体中的某一深度，然后将压强计的金 属盒朝向不同的方向，U形管两端液面的高度差保持不变，这个现象说明
所示，在装修房屋时，工人师傅常常会用到一根灌有水（水中无气泡）且足 够长的透明塑料软管。他们把这根软管的两端靠在墙面的不同地方并按照水面位 9.水平实验桌上有微小压强计、刻度尺、水和大小不同的A、B两个空烧杯。小金学 习了液体内部压强跟哪些因素有关的知识后，又提出了新的问题：液体产生的压 3.（2019朝阳二模）在探究液体内部压强的特点时，小阳用微小压强计进行实验。 （1）使用前用手指按压（不论是重压还是轻压）压强计的橡皮膜时，发现U型管两 侧液面没有高度差，则说明该装置________（选填： （2）装置调整好后，若将探头先后放在同一容器的A、B ____p A、B两处的压强p A 。由此可以得到的结论是：液体内部的压强与_______有关。
5.（2019顺义一模）水平实验桌面上有微小压强计、装有适量水的玻璃杯。小亮进燕山一模）小红在“探究液体内部的压强规律”实验中，将两端开口的玻 璃管一端扎上橡皮膜，竖直插入水中某一深度处。 2.(2018房山二模)（多选）在“探究液体压强”的实验中，小丽将压强计的探头放 在水中，情景如图所示。关于此实验下列说法中正确的是
刻漏是人类最早制造的不完全依赖天象、相对独立运行的计时仪器。刻漏以水等液体（也有少数例外，如水银或沙等）为工作物质，根据流水的量与流逝时间的对应关系，通过漏壶或箭壶中的水量变化来度量时间的。我国使用刻漏的时间非（3）小明实验中还发现：液体深度越大，液体内部的压强也越大。为了寻找二者变化的具体规律，小明又采用在液体中可以直接显示所在位置压强的数字式液体压强计，进行了定量探究。他首先在空气中调整压强计示数为零，然后进行实验，
青海研学l旅游发展的SWOT分析
青海省研学旅游发展SWOT分析 （一）优势（strength） 1.旅游资源丰富多样 截至目前，全省旅游A级景点多达106处，其中5A级3家；4A级19家，3A级65家，2A级19家。自然与人文旅游资源丰富多样，著名的景区有青海湖景区，金银滩景区、祁连风光旅游区、茶卡盐湖旅游区等，人文旅游资源有藏传佛教塔尔寺景区、互助土族故土园景区、原子城、湟源丹葛尔古城等，独特的地质条件与多样的民族风情为青海省开展研学旅游提供了强大的物质基础。 2.地质旅游资源优势明显 青海省地域辽阔,在漫长的地球演化过程中,在内外力地质共同作用形成、发展并遗留下来类型众多的不可再生的地质资源,青海省凭借丰富的旅游地质资源,现已获批多处地质资源集中分布区开发建设为国家地质公园，知名的有坎布拉国家地质公园、互助北山国家地质公园、贵德国家地质公园、昆仑山国家地质公园等，形成了红色砂砾岩的丹霞地貌、冰蚀地貌景观、高原岩溶景观、古地震鼓包遗迹等地貌景观，除了具有不可估量的科研价值外，还具有开展研学旅游，建设研学旅游教育基地的广阔前景。 （二）劣势（weakness） 1.景区间通达性差 作为研学旅游目的地其集聚性较差，包尤其是潜在的旅游资源，重要景区间的连接道路、景区内的交通体系、景区的道路标示系统等有待进一步加强，与现代“快旅慢游”需求和“井喷式”增长严重不匹配，缺乏全面系统的交通网将研学旅游景区串联起来。旅游各景区发展不平衡，基础设施、服务配套远不能适应人民群众日益增长的多旅游需求。 2.旅游季节差异性明显 旅游季节性是旅游活动的固有特征，青海省旅游季节性明显，由于气候因素旅游旺季集中在夏季，导致旺季游客量多，而到了冬季，气候比较寒冷，草木凋零，研学旅游开展较为困难、使得旅游景点、宾馆饭店、旅行社等资源和设施大量闲置、出租率下降、运营成本上升，旅游企业为争夺客源进而采取降价竞争，导致经济效益低下。 （三）机遇（opportunity） 1.政策支持焕发旅游活力 近年来，一系列决策为全省旅游业提档升级提供了强大的政策支撑。一是《国务院关于促进旅游业改革发展的若干意见》以及全国旅游发展“515战略”，将旅游业定位为战略性支柱产业和人民群众满意的现代服务业和实现脱贫的重要产业，破除了旅游发展的认识障碍和制度障碍；二是青海省委、省政府出台了《关于促进旅游业改革发展的实施意见》、《2015年—2020年青海省旅游业行动计划》，将推动县域旅游业发展提向更高层次、更大格局迈进；三是地方政府对各地旅游业的重要战略部署。随着研学旅游的深入开展，其巨大的经济效益、社会效益和生态效益毫无疑问将得到各级政府的高度重视，不断获得政策支持力度，实现研学旅游又好又快发展，引领“旅游+”产业新风向。 2.研学旅游竞争力将持续增强 随着旅游的飞速发展，我省已形成一批骨干旅游企业，将继续提升旅游市场主体的竞争力。旅游发展环境全面改善，形成设施齐全、功能配套、优质高效的
基于某OpenCV与深度学习框架的物体图像识别
基于OpenCV与深度学习框架Caffe的物体图像识别 摘要：本文主要介绍深度神经网络中的卷积神经的相关理论与技术。研究采用OpenCV深度学习模块DNN与深度学习框架Caffe进行物体识别。采用OpenCV 中的DNN模块加载深度学习框架Caffe模型文件，对物体图像进行识别。实验结果表明，卷积神经网络在物体的识别方面具有较高的准确率。 一．概述 1.1 OpenCV简介 OpenCV于1999年由Intel建立，如今由Willow Garage提供支持。OpenCV 是一个基于BSD许可（开源）发行的跨平台计算机视觉库，可以运行在Linux、Windows和Mac OS操作系统上。它轻量级而且高效——由一系列C 函数和少量C++ 类构成，同时提供了Python、Ruby、MATLAB等语言的接口，实现了图像处理和计算机视觉方面的很多通用算法。其最新版本是3.2，于2016年12月23日发布。OpenCV致力于真实世界的实时应用，通过优化的C代码的编写对其执行速度带来了可观的提升，并且可以通过购买Intel的IPP高性能多媒体函数库(Integrated Performance Primitives)得到更快的处理速度。在其最新版3.2版本中，已经添加了深度神经网络模块，并支持深度学习框架Caffe模型（Caffe framework models）。 1.2 深度学习框架Caffe简介 Caffe（Convolutional Architecture for Fast Feature Embedding）是一个清晰而高效的深度学习框架，其作者是博士毕业于UC Berkeley的贾扬清，曾在Google 工作，现任Facebook研究科学家。Caffe是纯粹的C++/CUDA架构，支持命令行、Python和MATLAB接口；可以在CPU和GPU直接无缝切换。Caffe的优势
深度学习课题阶段性研究成果总结.doc
深度学习课题阶段性研究成果总结 一、课题基本情况 在2015年10月，我校数学工作室全体成员参加了深度学习课题。为了真正探索出一套小学数学学科深度学习教学模式，在实施中认真学习深度教育理论，用课改理念指导实践。实践中坚持遵循课题研究原则，公开教学研究，用课改理念反思教学。用课改理念寻找策略，吸引学生自觉、自愿地投入到创新的学习活动中去。已初见成效，现将阶段研究工作总结如下。 二、研究方法 1、文献考察及网上研讨结合法：通过对相关文献的搜集、考察等理论学习，获得强有力的理论支持；通过理论培训、网上研讨等形式沟通认识，分析提高。 2、调查分析法：通过问卷调查，了解学情，确定实施进度，及时调整实施方法或步骤。完成了学生学习方法问卷调查情况与汇总，为本课题研究提供理论依据。 3、资源归纳法：在实验或调查中要详细纪录，做好对照实验，要详细收集撰写论文时所要引用的数据和证据等，如原始资料和照片等，有什么发现，最好在当时就进行初步分析、归纳、整理。课题负责人应有意识地收集和保存好这些原始记录和资料。 4、经验总结法：坚持边探索、边研究、边总结、边修正、边引导等过程性研究，及时形成阶段性小结。
三、立项以来所做的的工作 1、2015年10月——11月，我们加强理论学习，进而促教师教学理念的提升。学习国内外创新教育理论以及现代教育学、心理学理论，坚持记读书笔记，写读后反思在追求自我、实现自我、超越自我中得到充实。组织课题组教师学习《小学数学学科各年级学生学业质量监控与评价指导意见》，结合《数学课程标准》，加强教师教学理念的提升。 2、2015年12月确定子课题进行下一阶段的行动研究。在调查问卷分析报告的基础上，课题组确定子课题安排下一阶段的行动研究。经过课题组成员集体研究，确定以下课题为本研究课题的子课题： ①、以创设问题情景开展有效教学为主题。 ②、培养学生的问题意识、提出有效问题的能力。 ③、培养学生过程性学习方法、增加学生信息收集和处理能力。 ④、以学生有效学习，教师有效教学为主题。 ⑤、以探索有效教学模式或方式为主题。 ⑥、以促进教师专业发展或成长为主题。 ⑦、如何培养学生沟通能力与合作精神。 3、2016年2月——5月，实验组教师分别研究自己承担的子课题。结合自己的实际教学，收集整理数据。 四、初步取得的成绩： 1、积极的学习兴趣是培养学生“深度性学习”方法的前提。
2018校招笔试题-图像算法工程师(深度学习)B卷
2018校招笔试题-图像算法工程师（深度学习）B 卷 一. 问答题 1. 测试集中1000个样本，600个是A 类，400个B 类，模型预测结果700个判断为A 类，其中正确的有500 个，300个判断为B 类，其中正确的有200个。请计算B 类的准确率(Precision)和召回率(Recall). 2. 简述：A)训练模型时，如果样本类别不均衡，有什么办法解决? B)如何判断模型是否过拟合? C)对于神经网络模型有哪些常用方法解决过拟合问题? 3. 简述：A)神经网络节点的激活函数作用是什么? B)Sigmoid, relu 和softmax 激活函数表达式是什么? C)各自的作用优缺点是什么？ 4.给定多层全连接神经网络，每层均有n 个节点，输出层为第L 层，标签是y ，损失函数为均方误差。网络的第l 层( l ∈{1,2,…,L -1,L} )的第j 个节点的输入用 x j l 来表示，输出用 a j l 来表示，激励函数为f(x)。A)请写出损失函数C 的表达式； B)请推导采用SGD 训练，学习率为η时，第L-1层第i 个节点与输出层第j 个节点的连接权重 w ji (L-1) 的更新量w ji (L-1) A)包括不限于：1.数据增强，2. Weighted loss ，3. 采样使用部分负样本 B)训练集loss 低于验证集loss 很多; C)包括不限于：1. 正则化项，2. Dropout ， 3. Batch normalization A)激活函数是为了增强神经网络的非线性性; B) C)Sigmoid 函数可以增强0附近的梯度，放大信号，梯度计算方便，但对非敏感区域会饱和，造成梯度消失; Relu 函数为单侧抑制，增强
深度学习在控制领域的研究现状与展望_段艳杰
第42卷第5期自动化学报Vol.42,No.5 2016年5月ACTA AUTOMATICA SINICA May,2016 深度学习在控制领域的研究现状与展望 段艳杰1吕宜生1张杰1,2赵学亮1王飞跃1 摘要深度学习在特征提取与模型拟合方面显示了其潜力和优势.对于存在高维数据的控制系统,引入深度学习具有一定的意义.近年来,已有一些研究关注深度学习在控制领域的应用.本文介绍了深度学习在控制领域的研究方向和现状,包括控制目标识别、状态特征提取、系统参数辨识和控制策略计算.并对相关的深度控制以及自适应动态规划与平行控制的方法和思想进行了描述.总结了深度学习在控制领域研究中的主要作用和存在的问题,展望了未来值得研究的方向. 关键词深度学习,控制,特征,自适应动态规划 引用格式段艳杰,吕宜生,张杰,赵学亮,王飞跃.深度学习在控制领域的研究现状与展望.自动化学报,2016,42(5): 643?654 DOI10.16383/j.aas.2016.c160019 Deep Learning for Control:The State of the Art and Prospects DUAN Yan-Jie1LV Yi-Sheng1ZHANG Jie1,2ZHAO Xue-Liang1WANG Fei-Yue1 Abstract Deep learning has shown great potential and advantage in feature extraction and model?tting.It is signi?cant to use deep learning for control problems involving high dimension data.Currently,there have been some investigations focusing on deep learning in control.This paper is a review of related work including control object recognition,state feature extraction,system parameter identi?cation and control strategy calculation.Besides,this paper describes the approaches and ideas of deep control,adaptive dynamic programming and parallel control related to deep learning in control.Also,this paper summarizes the main functions and existing problems of deep learning in control,presents some prospects of future work. Key words Deep learning,control,feature,adaptive dynamic programming(ADP) Citation Duan Yan-Jie,Lv Yi-Sheng,Zhang Jie,Zhao Xue-Liang,Wang Fei-Yue.Deep learning for control:the state of the art and prospects.Acta Automatica Sinica,2016,42(5):643?654 近年来,深度学习(Deep learning)[1]在学术界和工业界发展迅猛.它在很多传统的识别任务上取得了识别率的显著提升[2],显示了其处理复杂识别任务的能力,吸引了大批学者研究其理论和应用.许多领域开始尝试利用深度学习解决本领域的一些问题.在控制领域,关于深度学习的研究已初现端倪.本文在概述深度学习的主要思想和方法的基础上,阐述深度学习在控制领域的研究现状,回顾相关的深度网络与深度控制的研究内容,介绍深度学习在控制领域常用的结合方法:自适应动态规划及其拓展平行控制.综合以上内容提出深度学习在控制领 收稿日期2015-12-26录用日期2016-03-26 Manuscript received December26,2015;accepted March26, 2016 国家自然科学基金(71232006,61233001,71402178)资助Supported by National Natural Science Foundation of China (71232006,61233001,71402178) 本文责任编委侯忠生 Recommended by Associate Editor HOU Zhong-Sheng 1.中国科学院自动化研究所复杂系统管理与控制国家重点实验室北京100190 2.青岛智能产业技术研究院山东266000 1.The State Key Laboratory of Management and Control for Complex Systems,Institute of Automation,Chinese Academy of Sciences,Beijing100190 2.Qingdao Academy of Intelligent Industries,Shandong266000域的研究展望. 1深度学习概述 深度学习源于神经网络的研究,可理解为深层的神经网络.通过它可以获得深层次的特征表示,免除人工选取特征的繁复冗杂和高维数据的维度灾难问题.目前较为公认的深度学习的基本模型包括基于受限玻尔兹曼机(Restricted Boltzmann machine,RBM)的深度信念网络(Deep belief net-work,DBN)[3?4]、基于自动编码器(Autoencoder, AE)的堆叠自动编码器(Stacked autoencoders, SAE)[5]、卷积神经网络(Convolutional neural net-works,CNN)[6]、递归神经网络(Recurrent neural networks,RNN)[7].为便于清楚地阐述深度学习在控制领域的研究现状,本节将概述以上四种深度学习模型的主要思想和方法.关于深度学习的更多内容,参见深度学习领域的综述[1,8?11]. 1.1DBN 基于RBM的DBN由多个RBM堆叠而成,其结构如图1所示.网络前向运算时,输入数据从低层