代码编织梦想

《图解深度学习》学习笔记(六)-爱代码爱编程

第七章 深度学习工具 1、Theano 在学习Theano时,我们必须了解共享变量的概念。由于函数的输入和输出是Python的Numpy数组,所以每次调用这些函数时,GPU都需要将其复制到内存里。如果使用共享变量,GPU就可以从共享变量中获取数据,无须每次都将数据复制到内存里。通过使用共享变量,使用误差反向传播算法等梯度下降法估计参数时,就无须每次

《图解深度学习》学习笔记(五)-爱代码爱编程

第六章 提高泛化能力的方法 前情回顾: 训练样本必不可少;预处理后的数据更容易训练;改进后的激活函数和训练方法有助于提高神经网络的泛化能力。本章将详细介绍这些方法。 一、训练样本 数据增强(data augmentation) 1、ImageNet数据集 ImageNet数据集中的类别按照层级结构分布:参照了自然语言处理领域的层级结构词典W

《图解深度学习》学习笔记(四)-爱代码爱编程

第5章 自编码器 自编码器是一种基于无监督学习的数据维度压缩和特征表达方法,多层自编码器能够更好地进行压缩及特征表达。 自编码器有多种变种:降噪自编码器、稀疏自编码器、以及由多层自编码器组成的栈式自编码器。 一、自编码器 自编码器是一种有效的数据维度压缩算法,主要应用于一下两个方面。 构建一种能够重构输入样本并进行特征表达的神经网络。训练多层

《图解深度学习》学习笔记(三)-爱代码爱编程

第四章 受限玻尔兹曼机 受限玻尔兹曼机是起源于图模型的神经网络。这种网络是由Hopfield神经网络那样的相互连接型网络衍生而来的。 Hopfield神经网络、玻尔兹曼机、受限玻尔兹曼机、多个受限玻尔兹曼机堆叠组成的深度信念网络。 神经网络分为两大类: 前面介绍过的多层神经网络。分层。相互连接型网络:不分层,单元之间相互连接,(可看做同

《图解深度学习》学习笔记(二)-爱代码爱编程

第三章 卷积神经网络 一、神经认知机模型 这是一种分层神经网络模型。神经认知机由负责对比度提取的G层,以及负责图形特征提取的S细胞层和抗变形的C细胞层交替排列组成。最上层的C细胞会输出识别结果。借助于S细胞层和C细胞层交替排列的结构,各种输入模型的信息会在经过S细胞层提取特征后,通过C细胞层对特征畸变的容错,并在反复迭代后被传播到上一层。经过这个过

《图解深度学习》学习笔记(一)-爱代码爱编程

第一章 绪论 监督学习:需要基于输入数据及其期望输出,通过训练从数据中提取通用信息或特征信息(特征值),以此得到预测模型。这里的特征值是指根据颜色和边缘等认为定义的提取方法从训练样本中提取的信息。(特征值就是根据图像转换成一串数值。) 以往的图像识别普遍使用尺度不变特征变换(Scale-Invariant Feature Transform,SIF