PREFACE
前　　言
為什么要寫(xiě)本書(shū)
2022年11月30日，ChatGPT模型問(wèn)世后，立刻在全球范圍內(nèi)掀起了軒然大波。無(wú)論是AI從業(yè)者還是非AI從業(yè)者，都在熱議ChatGPT極具沖擊力的交互體驗(yàn)和驚人的生成內(nèi)容。各大廠紛紛入局大型語(yǔ)言模型，“百�！鄙踔痢扒��！贝髴�(zhàn)的帷幕慢慢被拉開(kāi)。很多企業(yè)和高校也隨之開(kāi)源了一些表現(xiàn)優(yōu)異的大型語(yǔ)言模型，例如GLM系列模型、LLaMA系列模型、CPM系列模型、Yi系列模型、Baichuan系列模型、Qwen系列模型、Mistral系列模型、DeepSeek系列模型、Moss模型等。但是大型語(yǔ)言模型距離真正落地，還有一段艱難的路要走，例如：如何優(yōu)化通用大型語(yǔ)言模型在領(lǐng)域上的效果，如何在某些場(chǎng)景中合理運(yùn)用大型語(yǔ)言模型，如何確保生成內(nèi)容的穩(wěn)定性和安全性，如何確保大型語(yǔ)言模型可以在生產(chǎn)環(huán)境下穩(wěn)定使用等。
2023年，很多人在做底座大型語(yǔ)言模型的搭建、領(lǐng)域大型語(yǔ)言模型的預(yù)訓(xùn)練或微調(diào)，我們也出版了《ChatGPT原理與實(shí)戰(zhàn)：大型語(yǔ)言模型的算法、技術(shù)和私有化》一書(shū)，對(duì)大型語(yǔ)言模型的知識(shí)體系進(jìn)行了細(xì)致的梳理，并且通過(guò)實(shí)戰(zhàn)幫助讀者從零開(kāi)始搭建自己的ChatGPT模型。但很多讀者反饋這本書(shū)對(duì)大型語(yǔ)言模型應(yīng)用部分的講解不夠細(xì)致，并且隨著技術(shù)和時(shí)代的發(fā)展，大型語(yǔ)言模型如何進(jìn)行場(chǎng)景落地變得尤為重要。
因此，經(jīng)過(guò)一番思考和準(zhǔn)備之后，我們決定從大型語(yǔ)言模型的應(yīng)用落地角度出發(fā)，進(jìn)一步系統(tǒng)梳理大型語(yǔ)言模型的相關(guān)技術(shù)，幫助讀者學(xué)習(xí)如何利用開(kāi)源的大型語(yǔ)言模型優(yōu)化自身領(lǐng)域或場(chǎng)景中的使用效果。
技術(shù)的變化是飛速的，在撰寫(xiě)本書(shū)初期，OpenAI的GPTs應(yīng)用還沒(méi)有提出，不少應(yīng)用還沒(méi)有以產(chǎn)品形態(tài)呈現(xiàn)。隨著新的應(yīng)用的推出，我們修改了相關(guān)章節(jié)，目的是希望本書(shū)介紹的大型語(yǔ)言模型相關(guān)技術(shù)更具前沿性。技術(shù)會(huì)持續(xù)更新?lián)Q代，書(shū)中提到的很多技術(shù)也許在不遠(yuǎn)的將來(lái)會(huì)被更強(qiáng)大的技術(shù)所取代，但這并不影響我們學(xué)習(xí)這一系列技術(shù)，因?yàn)閷W(xué)習(xí)這些技術(shù)本身會(huì)引發(fā)更深層次的思考。
AI已來(lái)，學(xué)無(wú)止境，那么請(qǐng)各位與我們一起來(lái)迎接AGI（人工通用智能）的到來(lái)吧。
讀者對(duì)象
AIGC（生成式人工智能）相關(guān)領(lǐng)域的師生。
初入AI行業(yè)的從業(yè)人員。
對(duì)大型語(yǔ)言模型感興趣的讀者。
本書(shū)特色
本書(shū)是一本集理論、實(shí)戰(zhàn)、應(yīng)用與落地于一體的大型語(yǔ)言模型力作，具備以下特點(diǎn)。
1）理論聯(lián)系實(shí)際。本書(shū)不僅全面講解了大型語(yǔ)言模型的核心理論，如Transformer架構(gòu)和各種主流模型等，還深入探討了領(lǐng)域特定模型的應(yīng)用，如法律、醫(yī)療、金融和教育領(lǐng)域，有助于讀者從多個(gè)維度理解和實(shí)踐大型語(yǔ)言模型。
2）實(shí)戰(zhàn)應(yīng)用落地。本書(shū)詳細(xì)介紹了如何構(gòu)建具有個(gè)性化特點(diǎn)的大型語(yǔ)言模型應(yīng)用，包括大型語(yǔ)言模型的微調(diào)方法、人類(lèi)偏好對(duì)齊技術(shù)，以及構(gòu)建具體應(yīng)用的步驟等。通過(guò)實(shí)戰(zhàn)案例和深入淺出的講解，確保讀者能夠理解模型的構(gòu)建和優(yōu)化過(guò)程。
3）多樣化應(yīng)用場(chǎng)景。本書(shū)通過(guò)展示大型語(yǔ)言模型在多種場(chǎng)景下的應(yīng)用潛力，如角色扮演、信息抽取、知識(shí)問(wèn)答等，引導(dǎo)讀者探索大型語(yǔ)言模型在不同領(lǐng)域的應(yīng)用可能性，以激發(fā)讀者的創(chuàng)新思維，最終實(shí)現(xiàn)大型語(yǔ)言模型的應(yīng)用創(chuàng)新。
4）應(yīng)用發(fā)展洞察。本書(shū)結(jié)合了我們?cè)贏I領(lǐng)域的豐富經(jīng)驗(yàn)，從基礎(chǔ)理論到實(shí)戰(zhàn)應(yīng)用，從簡(jiǎn)單模型應(yīng)用到復(fù)雜系統(tǒng)應(yīng)用，提供了全面的技術(shù)和應(yīng)用視角。通過(guò)分析大型語(yǔ)言模型的行業(yè)應(yīng)用、挑戰(zhàn)、解決方案以及未來(lái)的發(fā)展趨勢(shì)，為讀者在迅速變化的技術(shù)領(lǐng)域中應(yīng)用大型語(yǔ)言模型提供了寶貴的參考。
如何閱讀本書(shū)
本書(shū)從邏輯上分為三部分。
第一部分（第1～3章）為基礎(chǔ)知識(shí)，深入探討大型語(yǔ)言模型的核心概念。第1章詳細(xì)介紹大型語(yǔ)言模型的基礎(chǔ)理論，包括常見(jiàn)的模型架構(gòu)、領(lǐng)域大型語(yǔ)言模型以及如何評(píng)估模型的性能。第2章解析模型微調(diào)的關(guān)鍵步驟，即數(shù)據(jù)的收集、清洗到篩選，直至微調(diào)訓(xùn)練。第3章介紹如何將大型語(yǔ)言模型與人類(lèi)偏好進(jìn)行對(duì)齊，詳細(xì)介紹了基于人工反饋的強(qiáng)化學(xué)習(xí)框架及當(dāng)前主流的對(duì)齊方法，旨在提供一個(gè)全面的視角來(lái)幫助讀者理解大型語(yǔ)言模型的發(fā)展和優(yōu)化路徑。
第二部分（第4～7章）著眼于大型語(yǔ)言模型的實(shí)際應(yīng)用，指導(dǎo)讀者構(gòu)建簡(jiǎn)單但強(qiáng)大的應(yīng)用程序。第4章展示如何利用GPTs來(lái)快速構(gòu)建一個(gè)個(gè)性化的專(zhuān)屬ChatGPT應(yīng)用。第5章介紹Text2SQL應(yīng)用的搭建，以及如何通過(guò)DeepSeek Coder模型進(jìn)行定制化優(yōu)化。第6章探討角色扮演應(yīng)用的構(gòu)建，并介紹了如何通過(guò)微調(diào)Baichuan模型來(lái)增強(qiáng)體驗(yàn)。第7章聚焦于對(duì)話信息抽取應(yīng)用的搭建，展示了如何通過(guò)微調(diào)Qwen模型來(lái)將大型語(yǔ)言模型有效地應(yīng)用于實(shí)際場(chǎng)景中。
第三部分（第8～10章）帶領(lǐng)讀者挑戰(zhàn)更加復(fù)雜的應(yīng)用的搭建。第8章介紹大型語(yǔ)言模型Agent以及常用框架。第9章深入RAG（檢索增強(qiáng)生成）模型的各個(gè)組件，展示了如何構(gòu)建一個(gè)基于知識(shí)庫(kù)的智能問(wèn)答應(yīng)用。第10章則基于LangChain框架，引導(dǎo)讀者構(gòu)建一個(gè)AutoGPT應(yīng)用，展示了大型語(yǔ)言模型在自動(dòng)化任務(wù)執(zhí)行中的潛力。
本書(shū)內(nèi)容豐富，旨在為讀者提供一個(gè)結(jié)構(gòu)清晰的學(xué)習(xí)路徑，無(wú)論是大型語(yǔ)言模型的新手還是有經(jīng)驗(yàn)的開(kāi)發(fā)者，都能從中獲得寶貴的知識(shí)和靈感。
勘誤和支持
由于水平有限，書(shū)中難免存在一些遺漏或者不夠準(zhǔn)確的地方，懇請(qǐng)讀者批評(píng)指正。如果讀者發(fā)現(xiàn)了書(shū)中的錯(cuò)誤，可以將其提交到 https://github.com/liucongg/LLMsBook。同時(shí)，讀者遇到任何問(wèn)題，歡迎發(fā)送郵件至郵箱 logcongcong@gmail.com，我們將在線上提供解答。期待得到讀者的真摯反饋！
致謝
首先要感謝提出ChatGPT的每一位研究員，他們的堅(jiān)持讓人工智能進(jìn)入大型語(yǔ)言模型時(shí)代，讓我有機(jī)會(huì)體驗(yàn)到人工智能的魅力，也讓我對(duì)人工智能有了新的認(rèn)識(shí)。
感謝為大型語(yǔ)言模型開(kāi)源社區(qū)貢獻(xiàn)力量的每一個(gè)人，他們的無(wú)私奉獻(xiàn)讓更多人體會(huì)到了大型語(yǔ)言模型的美好。
感謝我碩士期間的導(dǎo)師侯鳳貞以及本科期間的關(guān)媛、廖俊、胡建華、趙鴻萍、楊帆等老師，他們指引我走到今天。
感謝在“云問(wèn)”共同奮斗的每一位充滿創(chuàng)意和活力的朋友：李平、楊萌、李辰剛、張雅冰、孟凡華、李蔓、付曉東、丁興華。由衷感謝云問(wèn)公司創(chuàng)始人王清琛、茆傳羽、張洪磊對(duì)我工作的支持，十分榮幸可以與各位在一家創(chuàng)業(yè)公司一起為人工智能落地而努力奮斗。
感謝關(guān)注“NLP工作站”的社區(qū)成員以及所有粉絲，他們的支持才讓我有了不斷創(chuàng)作的動(dòng)力。
最后感謝我的爸爸媽媽、爺爺奶奶，他們將我培養(yǎng)成人，并時(shí)時(shí)刻刻給予我信心和力量！
謹(jǐn)以此書(shū)獻(xiàn)給我親愛(ài)的妻子崔天宇！

劉　聰
2024年2月