递归神经网络(Recursive Neural Network)

Recursive Neural Networks.

循环神经网络(Recurrent Neural Network)

Recurrent Neural Networks.循环神经网络(Recurrent Neural Network，RNN)用一个随时间演化的隐状态来概括已经看过的全部历史，从而能够建模序列数据内部的相关性，并处理长度不固定的文本、语音、时间...

卷积神经网络(Convolutional Neural Network)

Convolutional Neural Networks.卷积神经网络(Convolutional Neural Networks, CNN)是一种为计算机视觉任务设计的深度网络，其结构设计灵感来自Hubel和Wiesel的工作，因此在很大...

深度学习中的归一化方法(Normalization)

Normalization in Deep Learning.归一化（Normalization）泛指把数据特征的不同维度转换到相同尺度的方法。它看起来只是在网络中间插入了一个“减均值、除标准差、再乘一个可学习系数”的简单算子，但正是这个算子...

深度学习中的正则化方法(Regularization)

Regularization in Deep Learning.深度神经网络几乎总是过参数化的：参数量往往数倍甚至数千倍于训练样本数。这样的模型有能力把训练集完全记住（哪怕标签是随机打乱的），因此单纯最小化训练误差并不能保证在未见数据上表现良...

深度学习中的优化算法(Optimization)

Optimization in Deep Learning.优化(optimization)是深度学习能够学习的基础。网络结构、损失函数、数据增强都只是给出了一个高维非凸的损失曲面，而优化算法决定了我们究竟能在这个曲面上走到哪里、走得多快、以...