递归神经网络(Recursive Neural Network)

Recursive Neural Networks.

循环神经网络(Recurrent Neural Network)

Recurrent Neural Networks.循环神经网络(Recurrent Neural Network，RNN)用一个随时间演化的隐状态来概括已经看过的全部历史，从而能够建模序列数据内部的相关性，并处理长度不固定的文本、语音、时间...

卷积神经网络(Convolutional Neural Network)

Convolutional Neural Networks.卷积神经网络(Convolutional Neural Networks, CNN)是一种为计算机视觉任务设计的深度网络，其结构设计灵感来自Hubel和Wiesel的工作，因此在很大...

深度学习中的初始化方法(Initialization)

Initialization in Deep Learning.初始化(initialization)是深度学习中最容易被低估的一环：它只在训练的第$0$步起作用，却决定了后面所有步能否顺利进行。糟糕的初始化不仅让模型精度变差，还可能使网络根...

深度学习中的归一化方法(Normalization)

Normalization in Deep Learning.归一化（Normalization）泛指把数据特征的不同维度转换到相同尺度的方法。它看起来只是在网络中间插入了一个“减均值、除标准差、再乘一个可学习系数”的简单算子，但正是这个算子...

深度学习中的正则化方法(Regularization)

Regularization in Deep Learning.深度神经网络几乎总是过参数化的：参数量往往数倍甚至数千倍于训练样本数。这样的模型有能力把训练集完全记住（哪怕标签是随机打乱的），因此单纯最小化训练误差并不能保证在未见数据上表现良...