Transformer 核心架构逐层拆解
从 Self-Attention 出发,逐层拆解 Transformer 的编码器、缩放点积注意力、多头注意力、掩码与位置编码,配合公式、架构图和 PyTorch 实现。
02 / BUILD THE FOUNDATIONS
从机器学习到深度学习,把直觉、公式、实现和使用条件连起来。
先解释一个算法为什么需要,再拆解数学形式和关键步骤,配合实现与小实验理解它何时有效。
按主题积累 · 已发布 2 篇
从 Self-Attention 出发,逐层拆解 Transformer 的编码器、缩放点积注意力、多头注意力、掩码与位置编码,配合公式、架构图和 PyTorch 实现。
从 One-Hot、词袋和 TF-IDF 到 Word Embedding、Tokenizer 与 BPE,系统理解文本如何被映射到连续语义空间,并附完整代码实现。