最近中文av字幕在线中文,毛片无遮挡高清免费观看,欧美a级中文完在线看完整版

圖神經(jīng)網(wǎng)絡(luò)是人工智能領(lǐng)域的一個(gè)新興方向，它不僅迅速得到了學(xué)術(shù)界的廣泛關(guān)注，而且被成功地應(yīng)用在工業(yè)界的多個(gè)領(lǐng)域。本書介紹了圖神經(jīng)網(wǎng)絡(luò)和圖深度學(xué)習(xí)的基礎(chǔ)知識(shí)和前沿研究，不僅包括它們的發(fā)展歷史和經(jīng)典模型，還包括圖神經(jīng)網(wǎng)絡(luò)在深層網(wǎng)絡(luò)、無(wú)監(jiān)督學(xué)習(xí)、大規(guī)模訓(xùn)練、知識(shí)圖譜推理等方面的前沿研究，以及它們?cè)诓煌I(lǐng)域（如推薦系統(tǒng)、生化醫(yī)療、自然語(yǔ)言處理等）的實(shí)際應(yīng)用。本書既可作為人工智能領(lǐng)域研究和開發(fā)人員的技術(shù)參考書，也可作為對(duì)圖上的深度學(xué)習(xí)感興趣的高年級(jí)本科生和研究生的入門書。

本書內(nèi)容

本書詳細(xì)討論了圖神經(jīng)網(wǎng)絡(luò)的經(jīng)典模型、前沿發(fā)展及經(jīng)典應(yīng)用，包含了一些與圖深度學(xué)習(xí)相關(guān)的內(nèi)容，如網(wǎng)絡(luò)嵌入、知識(shí)圖譜嵌入等，以幫助讀者構(gòu)建更全面的圖神經(jīng)網(wǎng)絡(luò)知識(shí)體系。在介紹具體的圖神經(jīng)網(wǎng)絡(luò)模型之前，本書先對(duì)圖神經(jīng)網(wǎng)絡(luò)所需要的基礎(chǔ)知識(shí)進(jìn)行了簡(jiǎn)要概括，之后，盡量按照經(jīng)典圖神經(jīng)網(wǎng)絡(luò)模型的發(fā)展順序分類進(jìn)行介紹，最后介紹圖神經(jīng)網(wǎng)絡(luò)中的開放問題和百花齊放的前沿解決方案。希望讀者可以通過閱讀本書，熟悉整個(gè)圖神經(jīng)網(wǎng)絡(luò)的發(fā)展脈絡(luò)，厘清重要模型的設(shè)計(jì)思路和技術(shù)細(xì)節(jié)，了解前人是怎么開創(chuàng)一個(gè)新領(lǐng)域并逐漸將其發(fā)展壯大的。希望本書不僅能幫助想學(xué)習(xí)圖神經(jīng)網(wǎng)絡(luò)知識(shí)的讀者更好地理解技術(shù)，而且能讓想在別的領(lǐng)域做出突破的讀者獲得些許靈感。

閱讀本書需要讀者具有一定的機(jī)器學(xué)習(xí)基礎(chǔ)。本書包含了一些圖神經(jīng)網(wǎng)絡(luò)的公式化理論和模型，并盡量用簡(jiǎn)潔的語(yǔ)言表述，以便讀者更好地理解。書中對(duì)模型的介紹在保持嚴(yán)謹(jǐn)?shù)耐瑫r(shí)，力求將模型背后的設(shè)計(jì)思路清晰地呈現(xiàn)。書中加入了很多近一兩年的新工作，力圖向讀者展現(xiàn)這個(gè)領(lǐng)域的最新研究進(jìn)展。我與朋友合作，在 AAAI 和 KDD 大會(huì)上做了兩次關(guān)于圖神經(jīng)網(wǎng)絡(luò)的前沿專題演講，其中的大部分內(nèi)容都囊括在本書中。希望這些前沿知識(shí)能夠讓想從事圖神經(jīng)網(wǎng)絡(luò)應(yīng)用和研究的讀者少走彎路，更容易找到最適合自己目標(biāo)任務(wù)的新模型。對(duì)于想應(yīng)用圖神經(jīng)網(wǎng)絡(luò)模型的讀者，本書將為你提供方向，例如，如何建圖、如何選擇模型等。

致謝

寫作本書的過程比我預(yù)想的困難許多，花費(fèi)了我大量的時(shí)間和精力，但寫作過程也讓我受益匪淺，不僅彌補(bǔ)了我對(duì)一些子方向中相關(guān)知識(shí)的空白，也讓我對(duì)整個(gè)圖神經(jīng)網(wǎng)絡(luò)的發(fā)展有了更全面的認(rèn)識(shí)。感謝本書責(zé)任編輯鄭柳潔為本書提出了大量有價(jià)值的建議；感謝我的論文合作者們，尤其是陳捷和 Danica，是他們引導(dǎo)我進(jìn)入這個(gè)領(lǐng)域并與我一起進(jìn)步；感謝我的導(dǎo)師和前輩在成書過程中對(duì)我的鼓勵(lì)。

最后，感謝家人對(duì)我的理解和支持，感謝我的父母和姐姐，尤其感謝我的妻子。2020 年是特殊的一年，雖然新冠疫情肆虐，生活受到了極大的困擾，但兒子的出生讓我感到莫大的欣慰。疫情導(dǎo)致父母不能來美國(guó)，這讓我和妻子獲得了全程照顧兒子的機(jī)會(huì)，雖然勞累，但當(dāng)三人擠成一團(tuán)時(shí)，我總是倍感幸福，妻兒的笑容是我完成本書最大的助力！

馬騰飛

美國(guó)紐約州 White Plains

第 1 章當(dāng)深度學(xué)習(xí)遇上圖：圖神經(jīng)網(wǎng)絡(luò)的興起 1
1．1 什么是圖1
1．2 深度學(xué)習(xí)與圖 2
1．2．1 圖數(shù)據(jù)的特殊性質(zhì) 3
1．2．2 將深度學(xué)習(xí)擴(kuò)展到圖上的挑戰(zhàn) 4
1．3 圖神經(jīng)網(wǎng)絡(luò)的發(fā)展 5
1．3．1 圖神經(jīng)網(wǎng)絡(luò)的歷史 5
1．3．2 圖神經(jīng)網(wǎng)絡(luò)的分類 7
1．4 圖神經(jīng)網(wǎng)絡(luò)的應(yīng)用 8
1．4．1 圖數(shù)據(jù)上的任務(wù) 8
1．4．2 圖神經(jīng)網(wǎng)絡(luò)的應(yīng)用領(lǐng)域 8
1．5 小結(jié) 11
第 2 章預(yù)備知識(shí) 13
2．1 圖的基本概念 13
2．2 簡(jiǎn)易圖譜論 15
2．2．1 拉普拉斯矩陣 16
2．2．2 拉普拉斯二次型 17
2．2．3 拉普拉斯矩陣與圖擴(kuò)散 18
2．2．4 圖論傅里葉變換 19
2．3 小結(jié) 20
第 3 章圖神經(jīng)網(wǎng)絡(luò)模型介紹 21
3．1 基于譜域的圖神經(jīng)網(wǎng)絡(luò) 21
3．1．1 譜圖卷積網(wǎng)絡(luò) 21
3．1．2 切比雪夫網(wǎng)絡(luò) 24
3．1．3 圖卷積網(wǎng)絡(luò) 25
3．1．4 譜域圖神經(jīng)網(wǎng)絡(luò)的局限和發(fā)展 27
3．2 基于空域的圖神經(jīng)網(wǎng)絡(luò) 28
3．2．1 早期的圖神經(jīng)網(wǎng)絡(luò)與循環(huán)圖神經(jīng)網(wǎng)絡(luò) 28
3．2．2 再談圖卷積網(wǎng)絡(luò) 29
3．2．3 GraphSAGE：歸納式圖表示學(xué)習(xí) 31
3．2．4 消息傳遞神經(jīng)網(wǎng)絡(luò) 34
3．2．5 圖注意力網(wǎng)絡(luò) 37
3．2．6 圖同構(gòu)網(wǎng)絡(luò)：Weisfeiler-Lehman 測(cè)試與圖神經(jīng)網(wǎng)絡(luò)的表達(dá)力 39
3．3 小試牛刀：圖卷積網(wǎng)絡(luò)實(shí)戰(zhàn) 42
3．4 小結(jié) 46
第 4 章深入理解圖卷積網(wǎng)絡(luò) 47
4．1 圖卷積與拉普拉斯平滑：圖卷積網(wǎng)絡(luò)的過平滑問題 47
4．2 圖卷積網(wǎng)絡(luò)與個(gè)性化 PageRank 50
4．3 圖卷積網(wǎng)絡(luò)與低通濾波 52
4．3．1 圖卷積網(wǎng)絡(luò)的低通濾波效果 52
4．3．2 圖濾波神經(jīng)網(wǎng)絡(luò) 54
4．3．3 簡(jiǎn)化圖卷積網(wǎng)絡(luò) 55
4．4 小結(jié) 56
第 5 章圖神經(jīng)網(wǎng)絡(luò)模型的擴(kuò)展 57
5．1 深層圖卷積網(wǎng)絡(luò) 57
5．1．1 殘差連接 58
5．1．2 JK-Net 60
5．1．3 DropEdge 與 PairNorm 60
5．2 圖的池化 61
5．2．1 聚類與池化 62
5．2．2 可學(xué)習(xí)的池化：DiffPool 63
5．2．3 Top-k 池化和 SAGPool 65
5．3 圖的無(wú)監(jiān)督學(xué)習(xí) 67
5．3．1 圖的自編碼器 67
5．3．2 最大互信息 70
5．3．3 其他 72
5．3．4 圖神經(jīng)網(wǎng)絡(luò)的預(yù)訓(xùn)練 72
5．4 圖神經(jīng)網(wǎng)絡(luò)的大規(guī)模學(xué)習(xí) 74
5．4．1 點(diǎn)采樣 75
5．4．2 層采樣 76
5．4．3 圖采樣 78
5．5 不規(guī)則圖的深度學(xué)習(xí)模型 80
5．6 小結(jié) 81
第 6 章其他圖嵌入方法 83
6．1 基于矩陣分解的圖嵌入方法 83
6．1．1 拉普拉斯特征映射 83
6．1．2 圖分解 84
6．2 基于隨機(jī)游走的圖嵌入方法 86
6．2．1 DeepWalk 86
6．2．2 node2vec 87
6．2．3 隨機(jī)游走與矩陣分解的統(tǒng)一 88
6．3 從自編碼器的角度看圖嵌入 88
6．4 小結(jié) 89
第 7 章知識(shí)圖譜與異構(gòu)圖神經(jīng)網(wǎng)絡(luò) 91
7．1 知識(shí)圖譜的定義和任務(wù) 92
7．1．1 知識(shí)圖譜 92
7．1．2 知識(shí)圖譜嵌入 92
7．2 距離變換模型 94
7．2．1 TransE 模型 94
7．2．2 TransH 模型 95
7．2．3 TransR 模型 96
7．2．4 TransD 模型 97
7．3 語(yǔ)義匹配模型 97
7．3．1 RESCAL 模型 98
7．3．2 DistMult 模型 98
7．3．3 HolE 模型 98
7．3．4 語(yǔ)義匹配能量模型 99
7．3．5 神經(jīng)張量網(wǎng)絡(luò)模型 99
7．3．6 ConvE 模型 100
7．4 知識(shí)圖譜上的圖神經(jīng)網(wǎng)絡(luò) 100
7．4．1 關(guān)系圖卷積網(wǎng)絡(luò) 100
7．4．2 帶權(quán)重的圖卷積編碼器 101
7．4．3 知識(shí)圖譜與圖注意力模型 102
7．4．4 圖神經(jīng)網(wǎng)絡(luò)與傳統(tǒng)知識(shí)圖譜嵌入的結(jié)合：CompGCN 103
7．5 小結(jié) 103
第 8 章圖神經(jīng)網(wǎng)絡(luò)模型的應(yīng)用 105
8．1 圖數(shù)據(jù)上的一般任務(wù) 105
8．1．1 節(jié)點(diǎn)分類 106
8．1．2 鏈路預(yù)測(cè) 106
8．1．3 圖分類 107
8．2 生化醫(yī)療相關(guān)的應(yīng)用 108
8．2．1 預(yù)測(cè)分子的化學(xué)性質(zhì)和化學(xué)反應(yīng) 108
8．2．2 圖生成模型與藥物發(fā)現(xiàn) 109
8．2．3 藥物/蛋白質(zhì)交互圖的利用 116
8．3 自然語(yǔ)言處理相關(guān)的應(yīng)用 117
8．4 推薦系統(tǒng)上的應(yīng)用 121
8．5 計(jì)算機(jī)視覺相關(guān)的應(yīng)用 123
8．6 其他應(yīng)用 124
8．7 小結(jié) 124
參考文獻(xiàn) 127

你還可能感興趣

我要評(píng)論