自然语言处理实战：预训练模型应用及其产品化

看完这本书，总有一种意犹未尽的感觉，其实看其中的每一章节是都有类似的感觉。每个NLP技术的介绍都是力求从基本说起，通过类比，直到本质，把内容讲解清楚，写得很精彩，确有一种戛然而止的感觉。 这本书把自然语言处理的发展脉络介绍得很清楚，对于想了解发展历史的读者很有帮助，所以强烈推荐。 对于整个开发流程、工具和平台的选择，作者也是详尽介绍，对于初学者很有帮助。 总体上值得推荐，谢谢，谢谢，谢谢😊

8/10分。 本来是冲着应用部分来的，想看看除了算法工程师之外，产品经理，数据分析师，模型部署是怎么做的，但这部分确实太过不熟悉，反而不是最印象深刻的。 相反，对transformer的发展，attention的细致解剖确实做的很好。每个提到的模型方法都可以从背景、要解决的问题、为什么、原理、不足这些角度给出清晰地叙述。而且不是照搬公式，也没有一昧堆积代码，是逻辑顺畅得讲清楚了物理意义，能看出作者确实是有自己思考的。这比公式和代码难得。

从类比到本质，从发展过程到原理和机器学习流程，作者都有独到的见解。 标准的机器学习流程包括以下步骤： 1. 导入数据。 2. 预处理数据（例如，处理丢失的值和离群值，检查和转换数据类型，等等）。 3. 执行特征缩放、特征工程和特征选择。 4. 结构化数据（例如，创建训练、交叉验证和测试集等）。 5. 定义评估指标并选择要测试的算法。 6. 建立算法，选择并测试带有超参数的模型。 7. 选择要部署到生产环境中的模型。 8. 重构代码，编写测试，并投入生产环境中。 9. 在生产过程中监控和维护产品。 10. 收集实际结果，并根据需要对模型进行再训练。

几乎可以肯定的是，我们今天推荐的东西会随着时间的推移而过时。我们希望，与其提出中规中矩的建议，不如帮助你形成能够决定技术栈中包含哪些重要内容的一种直觉。 我们认识到你可能有自己的一系列限制——比如，你的公司可能已经有一组你必须使用的工具。或者，你可能是一个大型团队的一员，该团队已经为你选择了编程语言、云服务提供商等。但希望本章仍然能给你提供一些其他的启发。 为你的技术堆栈做选择可能会让人不知所措。有这么多不同的供应商提供类似的竞品服务，他们提供的价格和功能经常变化。这使得选择绝对意义上最好的服务几乎不可能。竞品供应商的多样性会导致决策疲劳。我们会尽最大努力让你的选择减少到最少。事实上，我们将更进一步。作为本书的作者，我们将在构建NLP应用程序时选择自己喜欢的工具！ 这里的工具列表既不全面也不权威（也没有任何特定的顺序或排名）。在这里列出的工具只是作者认为有用、流行或有趣的工具。使用什么当然是由你自己决定的。 在这个领域里适合某个人的东西不一定适合你。对我们的建议持保留态度，批判性地思考什么对你来说最有用。 最后，最重要的不是你使用什么工具，而是你如何使用它们。事实上，你会发现很多深度学习框架、编程语言等，通常都是非常相似的，一旦你学会了一种语言，再学习另外一种并不太难。

有点像NLP导论。什么都讲了一些，但是什么都不深入。前面部分是理论部分主要讲了RNN和Transformer。但是并没有特别深入的讲理论部分，只是从high-level讲了一下两种结构的设计理念。从历史的角度上概括了，怎么从RNN进化到了Transformer。这部分还是挺有意思的。后面的部署部分更像是文献综述概括了，把市面上的各种tools罗列了一遍，又简单地走了一下流程，个人觉得没什么意思。

作为自然语言处理的门外汉，我试着看了几本入门书籍，这一本是最好的。 综述了自然语言处理技术。综述中信息做了筛选，只对主干性的技术做了展开，包括分词，词性标注，NER，向量嵌入，神经网络模型，transformer模型等。信息的密度和难度对入门者恰到好处。 对自然语言技术的发展历史做了综述。对自然语言处理技术发展的几个重要阶段，每个阶段的重要技术出现的前因后果，做了深入浅出的介绍，让入门者知道一门技术经过数十年几代人努力走到今天的。 书中还介绍了如何通过现代的ai基础设施开发自然语言应用的产品流程，这对初学者上手也是很有益处的。

买了纸质书，断断续续一个月读完。对于自然语言处理的各个环节介绍的比较详细，了解入门比较好。读完之后意犹未尽，希望找一些深入的书籍继续学习，比如向量嵌入环节。总体来说，对于想入门自然语言处理，预训练模型应用，想设计自己的产品的朋友，墙裂推荐。

终于读完了，前半部分写的不错，讲了nlp技术的发展，后半部分写的一些工具的介绍，比较浅显，总体上比较完整的讲解了nlp，适合初学者阅读和学习。

忽略代码部分， NLP 从传统算法到大语言模型的“成长历史”。语言代表人类思维和智慧的边界，所以在教机器学习如何处理人类语言时也充分借鉴了人类🧠的特质：如循环神经网络中的“记忆”、transformer 中的“注意”。更重要的，对自然语言任务的处理可以映射到很多其它非文本领域，这也是大语言模型迁移学习能力的魅力。

如果是做nlp产品，这本书很适合入门，尤其适合junior NLP engineer 或者给产品经理。书从一个比较宏观的角度解释技术，包也涉及到一些周边知识，比如GPU，data engineering。但是因为主要讲应用，从业者的话快速过一遍就好，再另外仔细钻研DL和更基础性的构架。