Mastering Transformers

2026年读完的第四十本书，今天下班比较早原本想在运动后安安静静读两三个小时技术书，无奈晚上的琐碎事情比较多，而且我在对几个AI Agent下达任务进行Vibe Coding花费了很多时间排查问题。最近读的技术书对我来讲都特别有挑战性，特别是知识图谱相关的书籍，在机器学习的这个章节各种数学公式真让人头大。 总体上来讲，这本书对于讲解Transform的技术覆盖面大而广，其中涉及的很多技术细节介绍都是点到即止，因此看起来我只花了三十个小时就读完这本书，但实际上我花了更多额外的时间去Kimi和Deepseek深入了解更多底层的技术问题。例如涉及非线性降维的T-SNE和UMAP，或者是涉及Transform最重要的Attention机制、Softmax层、FFN层、残差连接、Layer-Normalization层，在这本书中的讲解都是一笔带过。 这本书中我认为比较有价值的是作者在讨论问题的时候不是泛泛而谈，切切实实地通过代码给读者讲解各种Transform相关的模型如BERT、BART或者T5等。LLM涉及到的各种技术都能在这本书找到，我认为可能是由于篇幅所限很多技术细节都没有体现在章节中。我觉得这本书的每个章节，实际上要讲通讲透起码需要把每个章节独立出来写成一本书。 如果单纯框定这本书的内容的范围阅读，而不去深入思考和通过外部工具查阅资料的话，我认为这本书可能不会对个人有任何的提升，我认为可能是这本书的一个缺陷。不过换个角度来看待，在学习的过程中不会存在只是通过单维度的阅读，而不去深入探究思考问题、多问更多的问题，或者不动手实践得到反馈就能学会。对于想了解Transform的朋友而言，这本书值得一读。

这本书名叫Mastering Transformers，但实际对Transformer本身讲得不深，但是书中介绍了很多Transformer的应用方向和概念，适合想扩展知识面的读者阅读。