Transformer

2017。自注意力序列转换器。后来 LLM 的骨架，也是核心能读长上下文、能逐 token 生成的前提。

Vaswani 等，2017，Attention Is All You Need（NIPS 2017）。完全基于注意力的序列转换模型，去掉了循环与卷积。

  1. 论文：按原文结构转述问题、架构、公式、实验与结论，不加入后来的 LLM 与 Agent 解释。
  2. 讲解：它改的是表示与可并行训练；说明为什么它是 LLM 核心的物理前提，而不是策略循环。

原文：arXiv:1706.03762（HTML、PDF）。代码：https://github.com/tensorflow/tensor2tensor。

Attention Is All You Need（论文）

按原文结构转述 Vaswani 等 2017 年论文：架构、注意力公式、训练与实验结果。

Transformer 讲解

自注意力改的是序列表示与可并行训练。后来的 LLM 骨架从此处来，Agent 的决策核心与动作接口都长在这副计算图上。