在生成式人工智能的時(shí)代，我們見(jiàn)證了模型推理對(duì)存儲(chǔ)空間和計(jì)算能力的巨大需求，這對(duì)大語(yǔ)言模型和視覺(jué)生成模型的實(shí)際應(yīng)用提出了前所未有的挑戰(zhàn)。在這樣的背景下，高效模型壓縮和模型設(shè)計(jì)技術(shù)顯得尤為重要，它們是降低模型計(jì)算和存儲(chǔ)需求的關(guān)鍵，使得模型的快速部署和高效運(yùn)行成為可能。本書(shū)系統(tǒng)地介紹了高效模型壓縮和模型設(shè)計(jì)的方法，在編寫(xiě)上兼顧理論和實(shí)踐。本書(shū)主體部分詳細(xì)介紹了模型壓縮的方法論，包括高效模塊設(shè)計(jì)、模型剪枝、模型量化、模型二值化、神經(jīng)網(wǎng)絡(luò)架構(gòu)搜索、知識(shí)蒸餾幾大部分。另外，簡(jiǎn)要介紹了定制化硬件加速器的設(shè)計(jì)及大語(yǔ)言模型的加速和壓縮。