深度學(xué)習(xí)及神經(jīng)網(wǎng)絡(luò)算法涵蓋較廣的計(jì)算機(jī)和數(shù)學(xué)領(lǐng)域，如果使用PyTorch、TensorFlow等深度框架，并記住它們的使用規(guī)則，可能能夠應(yīng)付大部分的情況并繞過(guò)許多細(xì)節(jié)，但知其然而不知其所以然，顯然只是學(xué)習(xí)深度學(xué)習(xí)的第一步，通用的深度學(xué)習(xí)框架并不總是能滿足所有的需求，如果要從使用到擴(kuò)展乃至創(chuàng)造，就需要掌握遠(yuǎn)比簡(jiǎn)單使用更多的知識(shí)和細(xì)節(jié)。
　　得益于PyTorch、TensorFlow等深度學(xué)習(xí)框架都是開(kāi)源的，有些時(shí)候通過(guò)發(fā)掘它們的源碼來(lái)進(jìn)階相對(duì)簡(jiǎn)單，例如我想知道PyTorch是如何實(shí)現(xiàn)Adam的，可以將光標(biāo)移到torch.optim.Adam類名上，使用快捷鍵Ctrl+B或Ctrl+鼠標(biāo)跳轉(zhuǎn)到聲明，便可以發(fā)現(xiàn)它調(diào)用了torch.optim.functional.adam函數(shù)，同樣進(jìn)入torch.optim.functional.adam，在這里可以發(fā)現(xiàn)Adam的算法實(shí)現(xiàn)。但這種方法并不總是能得到想知道的答案（實(shí)際上，大部分時(shí)候都無(wú)法奏效）。
　　作為一個(gè)成熟的框架，PyTorch 1.7.0的源碼已經(jīng)難以全部閱讀（C++/Python代碼行數(shù)都在十萬(wàn)量級(jí)），且出于程序健壯性的考慮，其源碼含有不少條件判斷語(yǔ)句，對(duì)閱讀也會(huì)造成一定的阻礙，因此對(duì)讀者而言閱讀本書(shū)中的代碼和解讀相比直接閱讀深度學(xué)習(xí)框架的源碼應(yīng)該效率更高。在有自研深度框架的經(jīng)驗(yàn)后，使用這些成熟框架顯然會(huì)事半功倍，而且也能知道當(dāng)它們無(wú)法滿足要求時(shí)如何擴(kuò)展。
　　深度學(xué)習(xí)理論由來(lái)已久，但限于計(jì)算機(jī)的運(yùn)算速度近幾年才被推上風(fēng)口浪尖。深度學(xué)習(xí)中的大量運(yùn)算往往以矩陣或張量為載體，它們的運(yùn)算有高度的并行性，因此能夠在具有許多計(jì)算核心的GPU上被加速，這也是深度學(xué)習(xí)興起的現(xiàn)實(shí)基礎(chǔ)。
　　如果你曾關(guān)注過(guò)顯卡，那么可能也聽(tīng)說(shuō)過(guò)“CUDA核心”這個(gè)名詞，NVIDIA介紹一塊新顯卡時(shí)首先會(huì)說(shuō)明它有多少個(gè)CUDA核心（或多少個(gè)流處理器）。CUDA是NVIDIA公司推出的計(jì)算平臺(tái)，目前主流的深度框架如TensorFlow和PyTorch都是以CUDA為核心，本書(shū)也會(huì)在介紹深度學(xué)習(xí)之余介紹它的基本用法，幫助讀者全方位地了解深度學(xué)習(xí)這個(gè)領(lǐng)域。
　　書(shū)中包含大量細(xì)心編寫的代碼，帶著讀者一起思考。本書(shū)在重點(diǎn)及難點(diǎn)處配有視頻講解，掃描書(shū)中提供的二維碼可觀看對(duì)應(yīng)章節(jié)的視頻講解。
　　本書(shū)絕大多數(shù)理論輔以代碼實(shí)現(xiàn)，同時(shí)也建議讀者先按照自己對(duì)理論的理解編寫對(duì)應(yīng)的程序，若有疑問(wèn)再參考本書(shū)的代碼。因?yàn)榫幊淌遣辉试S對(duì)知識(shí)模棱兩可的，理解有偏差時(shí)編寫的代碼往往會(huì)輸出顯而易見(jiàn)的錯(cuò)誤結(jié)果甚至直接報(bào)錯(cuò)無(wú)法運(yùn)行。換言之，如果能將理論轉(zhuǎn)換為代碼，通常對(duì)那個(gè)概念就有一個(gè)初步的認(rèn)識(shí)了。
　　因作者水平有限，書(shū)中難免存在疏漏，敬請(qǐng)讀者批評(píng)指正。