超碰97人人做人人爱2020,欧美亚洲国产日韩精品播放

《神經(jīng)網(wǎng)絡(luò)機(jī)器翻譯技術(shù)及產(chǎn)業(yè)應(yīng)用》由百度首席技術(shù)官王海峰、百度人工智能技術(shù)委員會(huì)主席何中軍、百度技術(shù)委員會(huì)主席吳華聯(lián)合撰寫(xiě)，以產(chǎn)業(yè)需求為牽引，介紹了新時(shí)期機(jī)器翻譯的產(chǎn)業(yè)需求特點(diǎn)、神經(jīng)網(wǎng)絡(luò)機(jī)器翻譯的原理與方法、技術(shù)進(jìn)展及產(chǎn)業(yè)應(yīng)用。全書(shū)兼具理論與實(shí)踐，既有對(duì)原理與方法的介紹，又有豐富的產(chǎn)業(yè)應(yīng)用案例。

《神經(jīng)網(wǎng)絡(luò)機(jī)器翻譯技術(shù)及產(chǎn)業(yè)應(yīng)用》共九章：
第1章緒論，首先闡述了機(jī)器翻譯發(fā)展的時(shí)代背景和技術(shù)發(fā)展脈絡(luò)，從多個(gè)角度回顧了機(jī)器翻譯的發(fā)展歷程，介紹了當(dāng)前機(jī)器翻譯的發(fā)展現(xiàn)狀以及產(chǎn)業(yè)應(yīng)用需求特點(diǎn)和挑戰(zhàn)。
第2章翻譯語(yǔ)料獲取與譯文質(zhì)量評(píng)價(jià)，介紹了翻譯語(yǔ)料獲取的相關(guān)技術(shù)以及機(jī)器翻譯常用的評(píng)價(jià)方法，包括人工評(píng)價(jià)、自動(dòng)評(píng)價(jià)、面向產(chǎn)業(yè)應(yīng)用的評(píng)價(jià)。
第3章神經(jīng)網(wǎng)絡(luò)機(jī)器翻譯，首先介紹了神經(jīng)網(wǎng)絡(luò)機(jī)器翻譯的基本原理和模型結(jié)構(gòu)，接下來(lái)介紹了多種翻譯模型，后介紹了利用開(kāi)源工具搭建一個(gè)神經(jīng)網(wǎng)絡(luò)機(jī)器翻譯系統(tǒng)的方法。
第4章高性能機(jī)器翻譯，結(jié)合百度、谷歌等公司的機(jī)器翻譯系統(tǒng)實(shí)踐，首先介紹了神經(jīng)網(wǎng)絡(luò)機(jī)器翻譯的產(chǎn)業(yè)化進(jìn)程，然后介紹了常用的提升系統(tǒng)性能的方法，后介紹了開(kāi)源工具平臺(tái)中的高性能實(shí)現(xiàn)方案。
第5章多語(yǔ)言機(jī)器翻譯，首先介紹了數(shù)據(jù)增強(qiáng)技術(shù)以擴(kuò)充訓(xùn)練數(shù)據(jù)規(guī)模，然后介紹了基于無(wú)監(jiān)督的訓(xùn)練方法以及多種翻譯模型，后介紹了近年來(lái)快速發(fā)展的多語(yǔ)言預(yù)訓(xùn)練技術(shù)及其在多語(yǔ)言機(jī)器翻譯上的應(yīng)用。本章結(jié)尾還結(jié)合百度、谷歌、臉書(shū)等公司的實(shí)踐，介紹了大規(guī)模多語(yǔ)言機(jī)器翻譯系統(tǒng)。
第6章領(lǐng)域自適應(yīng)，介紹了領(lǐng)域自適應(yīng)技術(shù)，通過(guò)數(shù)據(jù)增強(qiáng)、優(yōu)化訓(xùn)練等多種手段，使翻譯模型在具體領(lǐng)域上獲得較高的翻譯質(zhì)量。
第7章機(jī)器同聲傳譯，首先介紹了機(jī)器同傳的主要挑戰(zhàn)和發(fā)展現(xiàn)狀，然后介紹了目前常用的機(jī)器同傳數(shù)據(jù)集和評(píng)價(jià)方式，后介紹了如何使用開(kāi)源工具搭建一個(gè)機(jī)器同傳系統(tǒng)。
第8章機(jī)器翻譯產(chǎn)業(yè)化應(yīng)用，著重介紹了現(xiàn)實(shí)生活中機(jī)器翻譯豐富的產(chǎn)品形式和廣泛應(yīng)用。
第9章總結(jié)與展望，對(duì)全書(shū)進(jìn)行了總結(jié)，并對(duì)機(jī)器翻譯的未來(lái)發(fā)展進(jìn)行展望。

語(yǔ)言是人類(lèi)區(qū)別于其他生物重要的特征之一，是人類(lèi)溝通和交流的主要方式。地球上有數(shù)千種語(yǔ)言，體現(xiàn)了人類(lèi)的社會(huì)多元化和文明多樣性。但同時(shí)，跨越語(yǔ)言障礙、自由溝通交流也是人類(lèi)長(zhǎng)久以來(lái)的夢(mèng)想。機(jī)器翻譯技術(shù)的進(jìn)步正在讓夢(mèng)想成為現(xiàn)實(shí)。尤其是近年來(lái)神經(jīng)網(wǎng)絡(luò)翻譯快速發(fā)展，機(jī)器翻譯質(zhì)量大幅提高，能夠?yàn)楦鼜V泛的應(yīng)用提供高品質(zhì)、高效率的翻譯服務(wù)，同時(shí)也激發(fā)了豐富多樣的翻譯需求。技術(shù)的進(jìn)步、時(shí)代的召喚加速了機(jī)器翻譯的大規(guī)模產(chǎn)業(yè)應(yīng)用，機(jī)器翻譯在經(jīng)濟(jì)社會(huì)進(jìn)步、文化交流拓展等方面發(fā)揮著越來(lái)越大的作用。
本書(shū)作者多年來(lái)致力于機(jī)器翻譯技術(shù)研究和產(chǎn)業(yè)化工作。在本書(shū)中，作者以產(chǎn)業(yè)需求為牽引，分析了新時(shí)期機(jī)器翻譯的產(chǎn)業(yè)需求特點(diǎn)和挑戰(zhàn)，介紹了神經(jīng)網(wǎng)絡(luò)翻譯的基本理論、前沿技術(shù)，以及面向產(chǎn)業(yè)應(yīng)用的實(shí)用系統(tǒng)開(kāi)發(fā)方法。本書(shū)特色如下：，緊扣產(chǎn)業(yè)需求特點(diǎn)和產(chǎn)業(yè)應(yīng)用實(shí)踐，厘清技術(shù)發(fā)展脈絡(luò)；第二，著重介紹現(xiàn)階段主流技術(shù)，力圖使讀者能夠快速了解和掌握方法；第三，注重實(shí)踐，讀者可以按照書(shū)中講述，在開(kāi)源平臺(tái)上快速搭建實(shí)用的機(jī)器翻譯系統(tǒng)，學(xué)以致用；第四，力求語(yǔ)言簡(jiǎn)潔，輔以圖表幫助讀者理解相關(guān)原理和方法。
全書(shū)共9章。第1章結(jié)合時(shí)代背景，簡(jiǎn)要概述機(jī)器翻譯的發(fā)展歷程，分析機(jī)器翻譯的產(chǎn)業(yè)需求特點(diǎn)及技術(shù)挑戰(zhàn)。第2章主要探討機(jī)器翻譯語(yǔ)料獲取技術(shù)，大規(guī)模高質(zhì)量語(yǔ)料是構(gòu)建機(jī)器翻譯系統(tǒng)的重要基礎(chǔ)。此外，該章還將討論機(jī)器翻譯常用的評(píng)價(jià)方法，包括人工評(píng)價(jià)、自動(dòng)評(píng)價(jià)以及面向產(chǎn)業(yè)應(yīng)用的評(píng)價(jià)等。第3章介紹目前主流的機(jī)器翻譯方法神經(jīng)網(wǎng)絡(luò)機(jī)器翻譯，包括基本原理、主要模型結(jié)構(gòu)（循環(huán)神經(jīng)網(wǎng)絡(luò)、卷積神經(jīng)網(wǎng)絡(luò)、全注意力機(jī)制網(wǎng)絡(luò)、非自回歸網(wǎng)絡(luò)等），以及如何利用開(kāi)源工具搭建神經(jīng)網(wǎng)絡(luò)機(jī)器翻譯系統(tǒng)。第4章結(jié)合產(chǎn)業(yè)化實(shí)踐，分析高性能機(jī)器翻譯系統(tǒng)，包括模型結(jié)構(gòu)優(yōu)化、模型壓縮、系統(tǒng)部署等。第5章講述多語(yǔ)言機(jī)器翻譯，針對(duì)資源稀缺、語(yǔ)言數(shù)量多、部署難度大等技術(shù)挑戰(zhàn)，從數(shù)據(jù)增強(qiáng)、多語(yǔ)言翻譯統(tǒng)一建模、多語(yǔ)言預(yù)訓(xùn)練等方面展開(kāi)分析，并結(jié)合百度、谷歌、臉書(shū)等公司的實(shí)踐，介紹大規(guī)模多語(yǔ)言機(jī)器翻譯系統(tǒng)。第6章探討領(lǐng)域自適應(yīng)技術(shù)，介紹如何通過(guò)數(shù)據(jù)增強(qiáng)、優(yōu)化訓(xùn)練、術(shù)語(yǔ)翻譯、記憶庫(kù)等，進(jìn)一步提升翻譯模型在具體領(lǐng)域上的翻譯質(zhì)量，滿(mǎn)足不同場(chǎng)景的實(shí)際需求。第7章分析機(jī)器同聲傳譯，包括機(jī)器同傳的主要挑戰(zhàn)、發(fā)展現(xiàn)狀、主流技術(shù)（級(jí)聯(lián)模型以及端到端模型等）、開(kāi)放數(shù)據(jù)集、評(píng)價(jià)方式等，同時(shí)介紹如何使用開(kāi)源工具搭建機(jī)器同傳系統(tǒng)。第8章介紹機(jī)器翻譯豐富的產(chǎn)品形式和廣泛的產(chǎn)業(yè)應(yīng)用。第9章對(duì)全書(shū)進(jìn)行總結(jié)，并對(duì)機(jī)器翻譯的未來(lái)發(fā)展進(jìn)行展望。
本書(shū)由王海峰、何中軍、吳華編著。本書(shū)編寫(xiě)過(guò)程中，還得到很多專(zhuān)家、朋友的大力幫助。宗成慶研究員、劉挺教授、周明博士對(duì)本書(shū)的結(jié)構(gòu)和寫(xiě)作思路提出了寶貴建議。劉占一、劉璇、孫萌、張睿卿、高鵬至、張力文對(duì)本書(shū)的部分內(nèi)容進(jìn)行了校對(duì)，并在參考文獻(xiàn)整理、開(kāi)源系統(tǒng)實(shí)現(xiàn)等方面做了細(xì)致工作。在此表示衷心的感謝！希望本書(shū)能夠?qū)ο嚓P(guān)領(lǐng)域的學(xué)生、科研人員、技術(shù)開(kāi)發(fā)人員以及語(yǔ)言服務(wù)行業(yè)從業(yè)人員等有所幫助。
技術(shù)發(fā)展日新月異，寫(xiě)作過(guò)程如履薄冰。受作者水平所限，掛一漏萬(wàn)，錯(cuò)謬難免。歡迎讀者提出寶貴意見(jiàn)，不勝感激！

作者
2022年8月于北京

王海峰，百度首席技術(shù)官，深度學(xué)習(xí)技術(shù)及應(yīng)用國(guó)家工程研究中心主任。國(guó)際計(jì)算語(yǔ)言學(xué)學(xué)會(huì)（ACL）首位華人主席、ACL亞太分會(huì)創(chuàng)始主席、ACL Fellow、IEEE Fellow、CAAI Fellow。長(zhǎng)期從事機(jī)器翻譯、自然語(yǔ)言處理、深度學(xué)習(xí)等人工智能技術(shù)的研究及產(chǎn)業(yè)化工作。以完成人身份獲國(guó)家技術(shù)發(fā)明二等獎(jiǎng)、國(guó)家科技進(jìn)步二等獎(jiǎng)、中國(guó)專(zhuān)利金獎(jiǎng)、北京市科技進(jìn)步一等獎(jiǎng)、中國(guó)電子學(xué)會(huì)科技進(jìn)步一等獎(jiǎng)，獲光華工程科技獎(jiǎng)、全國(guó)創(chuàng)新?tīng)?zhēng)先獎(jiǎng)、吳文俊人工智能杰出貢獻(xiàn)獎(jiǎng)等。
何中軍，百度人工智能技術(shù)委員會(huì)主席。長(zhǎng)期從事機(jī)器翻譯研究與開(kāi)發(fā)，并致力于推動(dòng)機(jī)器翻譯大規(guī)模產(chǎn)業(yè)化應(yīng)用。曾獲國(guó)家科技進(jìn)步二等獎(jiǎng)、北京市科技進(jìn)步一等獎(jiǎng)、中國(guó)電子學(xué)會(huì)科技進(jìn)步一等獎(jiǎng)、中國(guó)專(zhuān)利銀獎(jiǎng)等多項(xiàng)獎(jiǎng)勵(lì)。被評(píng)為中國(guó)電子學(xué)會(huì)優(yōu)秀科技工作者北京青年榜樣等。
吳華，百度技術(shù)委員會(huì)主席。長(zhǎng)期從事機(jī)器翻譯、自然語(yǔ)言處理、機(jī)器學(xué)習(xí)等技術(shù)的研究及產(chǎn)業(yè)化工作。曾獲國(guó)家技術(shù)發(fā)明二等獎(jiǎng)、國(guó)家科技進(jìn)步二等獎(jiǎng)、中國(guó)專(zhuān)利金獎(jiǎng)、北京市科技進(jìn)步一等獎(jiǎng)、中國(guó)電子學(xué)會(huì)科技進(jìn)步一等獎(jiǎng)。被評(píng)為杰出工程師青年北京學(xué)者等。

第1章緒論 1
1.1 機(jī)器翻譯發(fā)展簡(jiǎn)介 3
1.2 機(jī)器翻譯代表性方法 6
1.2.1 基于規(guī)則的機(jī)器翻譯 6
1.2.2 統(tǒng)計(jì)機(jī)器翻譯 8
1.2.3 神經(jīng)網(wǎng)絡(luò)機(jī)器翻譯 11
1.3 發(fā)展現(xiàn)狀 13
1.4 產(chǎn)業(yè)應(yīng)用需求特點(diǎn)及挑戰(zhàn) 15
1.4.1 高翻譯質(zhì)量 15
1.4.2 高系統(tǒng)性能 17
1.4.3 多語(yǔ)言翻譯 18
1.4.4 領(lǐng)域自適應(yīng) 19
1.4.5 跨模態(tài)翻譯 20
1.5 本書(shū)結(jié)構(gòu) 21
參考文獻(xiàn) 24
第2章翻譯語(yǔ)料獲取與譯文質(zhì)量評(píng)價(jià) 27
2.1 概述 28
2.2 機(jī)器翻譯語(yǔ)料庫(kù)類(lèi)型 31
2.2.1 雙語(yǔ)語(yǔ)料庫(kù) 31
2.2.2 單語(yǔ)語(yǔ)料庫(kù) 33
2.3 公開(kāi)語(yǔ)料庫(kù)及系統(tǒng)評(píng)測(cè) 34
2.3.1 語(yǔ)言數(shù)據(jù)聯(lián)盟與NIST評(píng)測(cè) 34
2.3.2 歐洲議會(huì)語(yǔ)料庫(kù)與WMT評(píng)測(cè) 35
2.3.3 語(yǔ)音翻譯語(yǔ)料庫(kù)與IWSLT評(píng)測(cè) 35
2.3.4 中文語(yǔ)言資源聯(lián)盟與CCMT評(píng)測(cè) 36
2.4 從互聯(lián)網(wǎng)獲取機(jī)器翻譯語(yǔ)料 36
2.4.1 互聯(lián)網(wǎng)雙語(yǔ)語(yǔ)料存在形式 37
2.4.2 互聯(lián)網(wǎng)語(yǔ)料常見(jiàn)問(wèn)題 39
2.4.3 雙語(yǔ)語(yǔ)料挖掘與加工 40
2.5 機(jī)器翻譯質(zhì)量評(píng)價(jià) 44
2.5.1 人工評(píng)價(jià) 44
2.5.2 自動(dòng)評(píng)價(jià) 46
2.5.3 面向產(chǎn)業(yè)應(yīng)用的評(píng)價(jià) 53
參考文獻(xiàn) 55
第3章神經(jīng)網(wǎng)絡(luò)機(jī)器翻譯 57
3.1 概述 59
3.2 基于循環(huán)神經(jīng)網(wǎng)絡(luò)的模型 62
3.2.1 基本模型 63
3.2.2 雙向編碼 65
3.2.3 注意力機(jī)制 66
3.2.4 長(zhǎng)短時(shí)記憶與門(mén)控循環(huán)單元 68
3.3 基于卷積神經(jīng)網(wǎng)絡(luò)的翻譯模型 71
3.4 全注意力模型 75
3.4.1 基本思想 76
3.4.2 模型結(jié)構(gòu) 78
3.4.3 性能分析 79
3.5 非自回歸翻譯模型 80
3.6 搭建一個(gè)神經(jīng)網(wǎng)絡(luò)機(jī)器翻譯系統(tǒng) 85
3.6.1 環(huán)境準(zhǔn)備 85
3.6.2 模型訓(xùn)練 86
3.6.3 解碼 88
3.6.4 效果評(píng)估 88
參考文獻(xiàn) 89
第4章高性能機(jī)器翻譯 93
4.1 概述 94
4.2 早期產(chǎn)業(yè)化神經(jīng)網(wǎng)絡(luò)機(jī)器翻譯系統(tǒng) 96
4.2.1 百度神經(jīng)網(wǎng)絡(luò)機(jī)器翻譯系統(tǒng) 97
4.2.2 谷歌神經(jīng)網(wǎng)絡(luò)機(jī)器翻譯系統(tǒng) 101
4.3 Transformer模型優(yōu)化 104
4.3.1 高效Transformer 105
4.3.2 針對(duì)機(jī)器翻譯的優(yōu)化 109
4.4 模型壓縮 112
4.4.1 剪枝 112
4.4.2 量化 115
4.4.3 知識(shí)蒸餾 119
4.5 系統(tǒng)部署 121
4.5.1 分布式系統(tǒng)部署 121
4.5.2 智能硬件設(shè)備 122
4.6 開(kāi)源工具 123
參考文獻(xiàn) 124
第5章多語(yǔ)言機(jī)器翻譯 131
5.1 概述 133
5.2 數(shù)據(jù)增強(qiáng) 134
5.2.1 基于樞軸語(yǔ)言的合成語(yǔ)料庫(kù)方法 134
5.2.2 回譯技術(shù) 136
5.3 無(wú)監(jiān)督機(jī)器翻譯 138
5.3.1 基本原理 139
5.3.2 跨語(yǔ)言向量映射 140
5.3.3 基于去噪自編碼器和回譯技術(shù)的翻譯模型 142
5.3.4 基于對(duì)偶學(xué)習(xí)的機(jī)器翻譯模型 144
5.4 多語(yǔ)言翻譯統(tǒng)一建模 145
5.4.1 基于多任務(wù)學(xué)習(xí)的翻譯模型 146
5.4.2 基于語(yǔ)言標(biāo)簽的多語(yǔ)言翻譯模型 148
5.5 多語(yǔ)言預(yù)訓(xùn)練 151
5.5.1 預(yù)訓(xùn)練技術(shù)簡(jiǎn)介 152
5.5.2 多語(yǔ)言預(yù)訓(xùn)練模型 158
5.5.3 方法比較 163
5.6 多語(yǔ)言機(jī)器翻譯系統(tǒng) 165
5.6.1 百度多語(yǔ)言機(jī)器翻譯 165
5.6.2 谷歌多語(yǔ)言機(jī)器翻譯 166
5.6.3 臉書(shū)多語(yǔ)言機(jī)器翻譯 168
參考文獻(xiàn) 169
第6章領(lǐng)域自適應(yīng) 177
6.1 概述 179
6.2 領(lǐng)域數(shù)據(jù)增強(qiáng) 180
6.2.1 領(lǐng)域數(shù)據(jù)聚類(lèi) 180
6.2.2 領(lǐng)域數(shù)據(jù)篩選 182
6.2.3 領(lǐng)域數(shù)據(jù)擴(kuò)充 184
6.3 模型訓(xùn)練及優(yōu)化 184
6.3.1 預(yù)訓(xùn)練加微調(diào)技術(shù) 185
6.3.2 領(lǐng)域數(shù)據(jù)加權(quán)訓(xùn)練 186
6.3.3 模型參數(shù)部分調(diào)優(yōu) 187
6.3.4 基于知識(shí)蒸餾的領(lǐng)域自適應(yīng) 188
6.3.5 基于課程表學(xué)習(xí)的領(lǐng)域自適應(yīng) 189
6.4 專(zhuān)有名詞和術(shù)語(yǔ)的翻譯 190
6.4.1 前處理技術(shù) 191
6.4.2 后處理技術(shù) 193
6.4.3 融合專(zhuān)名/術(shù)語(yǔ)翻譯的解碼算法 193
6.5 翻譯記憶庫(kù) 195
6.5.1 基于記憶庫(kù)的數(shù)據(jù)增強(qiáng) 196
6.5.2 融合記憶庫(kù)的翻譯模型 197
6.5.3 k-近鄰翻譯模型 198
6.6 面向產(chǎn)業(yè)應(yīng)用的領(lǐng)域自適應(yīng)解決方案 199
參考文獻(xiàn) 200
第7章機(jī)器同聲傳譯 207
7.1 概述 209
7.2 主要挑戰(zhàn) 211
7.2.1 技術(shù)挑戰(zhàn) 211
7.2.2 數(shù)據(jù)挑戰(zhàn) 213
7.2.3 評(píng)價(jià)挑戰(zhàn) 214
7.3 級(jí)聯(lián)同傳模型 216
7.3.1 wait-k模型 216
7.3.2 語(yǔ)義單元驅(qū)動(dòng)的同傳模型 220
7.3.3 基于強(qiáng)化學(xué)習(xí)的同傳模型 224
7.3.4 基于單調(diào)無(wú)限回溯注意力機(jī)制的同傳模型 226
7.4 端到端語(yǔ)音翻譯及同傳模型 228
7.4.1 從級(jí)聯(lián)模型至端到端模型的過(guò)渡 229
7.4.2 基于多任務(wù)學(xué)習(xí)的端到端模型 231
7.4.3 語(yǔ)音識(shí)別與翻譯交互解碼模型 234
7.4.4 端到端同傳模型 236
7.5 同傳模型魯棒性 241
7.5.1 融合音節(jié)信息的翻譯模型 241
7.5.2 語(yǔ)音識(shí)別糾錯(cuò) 242
7.5.3 魯棒性翻譯模型 244
7.6 同傳數(shù)據(jù) 245
7.6.1 歐洲語(yǔ)言同傳語(yǔ)料庫(kù) 246
7.6.2 日英同傳語(yǔ)料庫(kù) 247
7.6.3 中英同傳語(yǔ)料庫(kù) 247
7.7 同傳評(píng)價(jià) 249
7.7.1 基于閱讀理解的翻譯質(zhì)量評(píng)價(jià) 249
7.7.2 基于平均延遲的同傳時(shí)延評(píng)價(jià) 250
7.7.3 綜合翻譯質(zhì)量和同傳時(shí)延的評(píng)價(jià) 252
7.8 機(jī)器同傳系統(tǒng)及產(chǎn)品 252
7.8.1 機(jī)器同傳系統(tǒng) 253
7.8.2 機(jī)器同傳產(chǎn)品形式 254
7.8.3 機(jī)器輔助同傳 254
7.9 搭建一個(gè)機(jī)器同傳系統(tǒng) 256
7.9.1 數(shù)據(jù)準(zhǔn)備 256
7.9.2 訓(xùn)練 257
7.9.3 解碼 257
參考文獻(xiàn) 258
第

你還可能感興趣

我要評(píng)論