激活函数(Activation Function)

Activation Functions in Deep Learning.激活函数（activation function）是神经网络中重要的非线性来源。它的形式简单（通常只是一个作用在标量上的一元函数），但决定了网络能否被优化、梯度能否传...

混合精度训练(Mixed Precision Training)

Mixed Precision Training.混合精度训练（Mixed Precision Training）是指在训练深度学习模型的过程中，同时使用不同的数值精度（如半精度浮点数float16和单精度浮点数float32）进行计算，以提...

词嵌入(Word Embedding)

Word Embedding.

可解释人工智能(Explainable Artificial Intelligence, XAI)

Explainable Artificial Intelligence.

预训练语言模型(Pretrained Language Model)

Pretrained Language Models.

Transformer及其结构改进

Transformer and Its Architectural Evolution.