授課時間

授課內(nèi)容

授課時長

第一天

上午

1小時

2小時

下午

3小時

課程小結(jié)、答疑、交流討論與互動環(huán)節(jié)

0.5小時

第二天

上午

2小時

1小時

下午

3小時

課程小結(jié)、答疑、交流討論與互動環(huán)節(jié)

0.5小時

第三天

上午

2小時

1小時

?

下午

2小時

1小時

課程總結(jié)、答疑、交流討論與互動環(huán)節(jié)

0.5小時

培訓(xùn)主題

詳細內(nèi)容

1．ChatGPT概念詮釋及技術(shù)發(fā)展

1.1什么是ChatGPT？（技術(shù)視角、OpenAI、維基百科的定義）

1.2 ChatGPT技術(shù)核心要點詮釋

1.3 ???? 問題：如何理解ChatGPT？-理解ChatGPT的關(guān)鍵點

1.3.1 ChatGPT是如何工作的？

1.3.2 ChatGPT的訓(xùn)練數(shù)據(jù)來源于何處？

1.3.3 ChatGPT如何進行模型預(yù)訓(xùn)練？

1.3.4 ChatGPT是如何自動生成文本的？

1.3.5 ChatGPT如何準(zhǔn)確回答問題？

1.3.6 ChatGPT如何按照人類思維回答問題？

1.4問題：ChatGPT的主要技術(shù)有哪些？

1.5 ChatGPT的主要特點有哪些？

1.6ChatGPT的最大創(chuàng)新點是什么？

1.7ChatGPT優(yōu)化對話語言模型的優(yōu)化目標(biāo)是什么？

1.8ChatGPT與普通聊天機器人的區(qū)別是什么？

1.9 GPT-4的概念及關(guān)鍵技術(shù)

1.9.1什么是GPT-4？GPT-4的核心要點詮釋

1.9.2什么是多模態(tài)生成模型？GPT-4如何實現(xiàn)跨模態(tài)融合？

1.9.3 GPT-4的關(guān)鍵技術(shù)有哪些？

1.9.4 GPT-4的預(yù)訓(xùn)練模型是什么？（預(yù)訓(xùn)練語言模型、預(yù)訓(xùn)練圖像模型、預(yù)訓(xùn)練音頻模型、預(yù)訓(xùn)練視頻模型）

1.9.5 GPT-4如何進行模型預(yù)訓(xùn)練？

1.9.6 GPT-4如何根據(jù)圖形、音頻、視頻等自動生成文本？

1.9.7 GPT-4對于ChatGPT實現(xiàn)哪些方面能力的提升？

1.9.8 GPT-4與GPT系列內(nèi)容窗口對比

1.9.9 GPT-4與ChatGPT的比較

1.9.10 GPT-4技術(shù)與ChatGPT有哪些不同點？

1.10ChatGPT/GPT-4存在的問題與不足是什么？

1.11ChatGPT/GPT-4界面及網(wǎng)址

1.12ChatGPT/GPT-4的基本功能與高級功能

1.13 ChatGPT/GPT-4和AIGC的關(guān)系是什么？

1.14 ChatGPT/GPT-4、AIGC和元宇宙的關(guān)系是什么？

1.15 ChatGPT/GPT-4對推動元宇宙的商用落地與快速發(fā)展有何影響？

1.16ChatGPT/GPT-4的產(chǎn)生、發(fā)展及影響

1.16.1 ChatGPT/GPT-4的產(chǎn)生

1.16.2 ChatGPT/GPT-4的發(fā)展歷程（GTP-1,GTP-2,GTP-3, ChatGPT, GTP-4）

1.16.3 ChatGPT/GPT-4的研究現(xiàn)狀

1.16.4 ChatGPT/GPT-4的產(chǎn)生與發(fā)展對人類社會將帶來什么影響？

1.16.5 ChatGPT/GPT-4對哪些職業(yè)和工作產(chǎn)生挑戰(zhàn)和影響？

1.17 ChatGPT/GPT-4對我們的啟示有哪些？

1.18如何從ChatGPT/GPT-4的技術(shù)方案中學(xué)習(xí)有價值的東西？

1.19?如何運用基于人工智能的ChatGPT/GPT-4技術(shù)方案賦能行業(yè)智慧應(yīng)用與商用落地和快速發(fā)展？

模塊二：架構(gòu)篇-ChatGPT系統(tǒng)架構(gòu)及工作流程

?

?

2.?ChatGPT的系統(tǒng)架構(gòu)及工作流程

2.1?ChatGPT的總體技術(shù)路線是什么？

2.1.1自然語言處理+搜索引擎集成架構(gòu)

2.1.2 GPT3.5+大型語言模型（LLM）+強化學(xué)習(xí)微調(diào)訓(xùn)練模型架構(gòu)

2.1.3 ChatGPT實現(xiàn)的關(guān)鍵要素有哪些？

2.2?構(gòu)建ChatGPT系統(tǒng)架構(gòu)需要考慮哪些關(guān)鍵問題？

2.2.1 ChatGPT技術(shù)架構(gòu)的關(guān)鍵點是什么？

2.2.2 ChatGPT預(yù)訓(xùn)練模型有哪些？

2.2.3 ChatGPT預(yù)訓(xùn)練數(shù)據(jù)集有哪些？

2.2.4 ChatGPT如何進行模型預(yù)訓(xùn)練？

2.2.5 ChatGPT進行模型訓(xùn)練的步驟有哪些？

2.3 ChatGPT的工作流程-理解ChatGPT架構(gòu)的基礎(chǔ)

2.3.1?有監(jiān)督微調(diào)（SFT）

2.3.2?獎勵模型（RM）訓(xùn)練

2.3.3 PPO模型強化學(xué)習(xí)

2.3.4?基于人類反饋的強化學(xué)習(xí)-RLHF

2.3.5?例子：ChatGPT語言處理的工作流程

語言處理數(shù)據(jù)流轉(zhuǎn)流程：輸入文本、語言識別、情感分析、信息抽取、命名實體識別、句子相似性處理、文本分類、全文搜索、文本生成、上下文管理、問題解答、輸出文本

2.4 GPT-4的系統(tǒng)架構(gòu)及工作流程

2.4.1 GPT-4實現(xiàn)的關(guān)鍵要素有哪些？

2.4.2構(gòu)建GPT-4系統(tǒng)架構(gòu)需要考慮哪些關(guān)鍵問題？

2.4.3 GPT-4的技術(shù)路線是什么？

2.4.4 GPT-4的系統(tǒng)架構(gòu)及組成

2.4.5 GPT-4系統(tǒng)架構(gòu)的關(guān)鍵點是什么？

2.4.6 GPT-4的工作原理及工作流程

2.4.7 GPT-4預(yù)訓(xùn)練模型有哪些？

2.4.8 GPT-4預(yù)訓(xùn)練數(shù)據(jù)集有哪些？

2.4.9 GPT-4如何進行模型預(yù)訓(xùn)練？

2.4.10 GPT-4進行模型訓(xùn)練的步驟有哪些？

2.4.11 GPT-4的工作流程

2.5 ChatGPT/GPT-4的系統(tǒng)架構(gòu)-Transformer架構(gòu)

2.51什么是Transformer？

2.5.2 Transformer模型的作用

2.5.3 Transformer總體架構(gòu)及組成

（1）輸入部分，（2）輸出部分，（3）編碼器部分，（4）解碼器部分

2.5.4 Encoder-Decoder編碼器-解碼器框架

2.5.5?輸入部分的實現(xiàn)

（1）文本嵌入層及作用，（2）位置編碼器及作用

2.5.6編碼器部分的實現(xiàn)

（1）掩碼張量，（2）注意力機制，（3）多頭注意力機制，（4）前饋全連接層，（5）規(guī)范化層，（6）子層連接結(jié)構(gòu)，（7）編碼器層，（8）編碼器

2.5.7解碼器部分的實現(xiàn)

（1） 解碼器層，（2）解碼器

2.5.8?輸出部分的實現(xiàn)

（1）線性層，（2）softmax層

2.5.9模型構(gòu)建

2.6案例分析：使用Transformer構(gòu)建語言模型

2.7 GPT3.5預(yù)訓(xùn)練模型架構(gòu)

2.8?大型語言模型（LLM）架構(gòu)

2.9?強化學(xué)習(xí)微調(diào)訓(xùn)練模型架構(gòu)-RLHF架構(gòu)

2.10 ?? ChatGPT/GPT-4應(yīng)用系統(tǒng)架構(gòu)及組成-端邊網(wǎng)云（水平分割）

2.10.1 ?ChatGPT/GPT-4應(yīng)用終端（PC機、智能手機、PAD等）

2.10.2?邊緣計算（邊緣算力）

2.10.3?互聯(lián)網(wǎng)/移動互聯(lián)網(wǎng)

2.10.4?云（超級計算機、超級算力）-云數(shù)據(jù)中心（Microsoft Azure、國資云（國家云）、天翼云、移動云、沃云、華為云、百度云、阿里云、騰訊云等）

2.11 ChatGPT/GPT-4系統(tǒng)架構(gòu)優(yōu)化及應(yīng)用推廣

模塊三：技術(shù)篇-ChatGPT關(guān)鍵技術(shù)及原理詳解

?

?

3.?? ChatGPT關(guān)鍵技術(shù)及原理詳解

3.1 ChatGPT/GPT-4的關(guān)鍵技術(shù)體系

3.2 ChatGPT/GPT-4的技術(shù)基礎(chǔ)-AI：人工智能

3.2.1機器學(xué)習(xí)- ML

3.2.2深度學(xué)習(xí)

3.2.3?神經(jīng)網(wǎng)絡(luò)

3.2.4自然語言處理-NLP

3.2.5?人工智能生成內(nèi)容-AIGC

3.3 ChatGPT/GPT-4的關(guān)鍵技術(shù)-Transformer技術(shù)

3.3.1什么是Transformer？

3.3.2 Encoder-Decoder技術(shù)

3.3.3 Transformer分類模型

3.3.4 Transformer算法-GTP3.5預(yù)訓(xùn)練模型

3.3.5預(yù)訓(xùn)練模型-自然語言理解

3.3.6預(yù)訓(xùn)練模型-長序列建模

3.3.7預(yù)訓(xùn)練模型-模型優(yōu)化

3.3.8 Transformer算法流程

3.3.9?問題:Transformer算法的改進及主要優(yōu)點是什么？

3.4 ChatGPT的關(guān)鍵技術(shù)-GPT：預(yù)訓(xùn)練生成模型

3.5 ChatGPT的關(guān)鍵技術(shù)-LLM：大型語言模型

3.6 ChatGPT的關(guān)鍵技術(shù)-RLHF:基于人類反饋的強化學(xué)習(xí)

3.7 ChatGPT的關(guān)鍵技術(shù)-數(shù)據(jù)標(biāo)注

3.8 GPT-4的關(guān)鍵技術(shù)

3.8.1多模態(tài)生成模型及關(guān)鍵技術(shù)

3.8.2預(yù)訓(xùn)練語言模型及關(guān)鍵技術(shù)

3.8.3預(yù)訓(xùn)練圖像模型及關(guān)鍵技術(shù)

3.8.4預(yù)訓(xùn)練音頻模型及關(guān)鍵技術(shù)

3.8.5預(yù)訓(xùn)練視頻模型及關(guān)鍵技術(shù)

3.8.6多模態(tài)融合關(guān)鍵技術(shù)

4.AIGC概念詮釋與關(guān)鍵能力及創(chuàng)作工具

4.1AIGC的概念及關(guān)鍵能力

4.1.1?什么是AIGC？

4.1.2 AIGC的類型

4.1.3 AIGC的關(guān)鍵能力

4.2 AIGC的關(guān)鍵技術(shù)

4.2.1人工智能生成文本

4.2.2人工智能生成圖形、圖像

4.2.3人工智能生成音頻

4.2.4人工智能生成視頻

4.3 AIGC的體系架構(gòu)及組成

4.4 AIGC的應(yīng)用場景

4.5 AIGC創(chuàng)作工具介紹

5.ChatGPT與AIGC通用大模型

5.1通用大模型應(yīng)用現(xiàn)狀與發(fā)展

5.2國外主要通用大模型分析

5.2.1Transformer語言模型架構(gòu)及功能

5.2.2微軟旗下OpenAI大模型架構(gòu)及功能

5.2.3谷歌大模型架構(gòu)及功能

5.2.4Meta大模型架構(gòu)及功能

5.2.5英偉達大模型架構(gòu)及功能

5.2.6其他公司或機構(gòu)布局

5.3我國主要通用大模型分析

5.3.1國內(nèi)大模型發(fā)展

5.3.2華為盤古大模型架構(gòu)及功能

5.3.3科大訊飛星火大模型架構(gòu)及功能

5.3.4百度文心大模型架構(gòu)及功能

5.3.5騰訊混元大模型架構(gòu)及功能

5.3.6阿里通義大模型架構(gòu)及功能

5.3.7其他公司或機構(gòu)布局

6.?? ChatGPT基本功能及使用體驗

6.1?ChatGPT的基本功能及特征

6.2 ChatGPT的基本功能-語言處理功能及描述

文本生成、文本補全、文本分類、文本校正、詩歌生成、內(nèi)容創(chuàng)建、問答、翻譯、摘要、改寫、情感分析、聊天機器人等

6.3 ChatGPT的高級功能-高端應(yīng)用功能及描述

編寫和調(diào)試計算機程序、程序修改、模擬Linux系統(tǒng)、企業(yè)策劃、方案設(shè)計、項目咨詢、文學(xué)創(chuàng)作、撰寫演講提綱、撰寫分析報告、金融分析、工業(yè)自動化、醫(yī)學(xué)診斷、教育、供應(yīng)鏈管理、銷售和營銷、法律應(yīng)用、科學(xué)研究等。

6.4 ChatGPT使用體驗及效果評估

7.?? ChatGPT/AIGC應(yīng)用場景案例

7.1?????? ChatGPT/GPT-4/AIGC應(yīng)用總體思路：運用ChatGPT/GPT-4/AIGC技術(shù)方案及思想賦能行業(yè)數(shù)智化轉(zhuǎn)型及落地實施

7.2 ChatGPT/GPT-4/AIGC應(yīng)用場景及行業(yè)領(lǐng)域分析

7.3案例： ChatGPT+機器人場景應(yīng)用方案及布局

7.3.1 ChatGPT生成式預(yù)訓(xùn)練模型升級各行業(yè)機器人

7.3.2 ChatGPT+行業(yè)機器人賦能行業(yè)應(yīng)用

7.4?案例：ChatGPT聊天機器人+智慧家庭應(yīng)用方案及布局

7.4.1 ChatGPT聊天機器人精心陪伴老人

7.4.2 ChatGPT聊天機器人陪伴兒童成長

7.5案例：基于ChatGPT聊天機器人的智能客服應(yīng)用

7.6?案例：ChatGPT/GPT-4+工業(yè)場景應(yīng)用方案及布局

7.6.1 ChatGPT/GPT-4+生成式預(yù)訓(xùn)練模型+專家系統(tǒng)融合應(yīng)用

7.6.2 ChatGPT/GPT-4+生成式預(yù)訓(xùn)練模型優(yōu)化專家系統(tǒng)

7.6.3 ChatGPT/GPT-4預(yù)訓(xùn)練優(yōu)化模型提高產(chǎn)品質(zhì)檢效率

6.6.4 ChatGPT/GPT-4預(yù)訓(xùn)練優(yōu)化模型提高設(shè)備預(yù)測性維護的能力

7.6.5 ChatGPT/GPT-4預(yù)訓(xùn)練優(yōu)化模型提高設(shè)備精準(zhǔn)故障定位的能力

7.7ChatGPT/GPT-4+農(nóng)業(yè)場景應(yīng)用方案及布局

7.8 ChatGPT/GPT-4+醫(yī)療場景應(yīng)用方案及布局

7.9 ChatGPT/GPT-4+教育場景應(yīng)用方案及布局

7.10 ChatGPT/GPT-4+金融場景應(yīng)用方案及布局

7.11 ChatGPT/GPT-4+展覽宣傳場景應(yīng)用方案及布局

7.12 ChatGPT/GPT-4+新媒體場景應(yīng)用方案及布局

模塊七：算力篇-ChatGPT算力需求及算力網(wǎng)絡(luò)

?

?

?

8.?? 算力篇-ChatGPT算力需求及算力網(wǎng)絡(luò)

8.1??人工智能（AI）復(fù)雜算法的算力需求分析

8.1.1?人工智能不同算法的算力需求分析

8.1.2 ChatGPT/GPT-4算力需求分析

8.1.3 ChatGPT/GPT-4算力需求舉例

8.2算力的概念及量綱

8.3?算力的分類

8.3.1基礎(chǔ)算力（基于CPU芯片）

8.3.2?智能算力（基于AI芯片，包括GPU/DPU/FPGA/ASIC芯片等）

8.3.3?超算算力（超級計算機、計算集群）

8.3.4?量子算力（量子計算機）

8.4?算效的概念

8.5?綜合算力（算力+存力+運力）

8.6算力應(yīng)用場景

8.7?算力部署策略-“東數(shù)西算”工程

8.7.1“東數(shù)西算”的概念

8.7.2?“東數(shù)西算”的應(yīng)用場景

8.7.3?“東數(shù)西算”的數(shù)據(jù)處理

8.7.4?“東數(shù)西算”工程總體架構(gòu)（8大樞紐中心、10大數(shù)據(jù)中心集群）

8.7.5數(shù)據(jù)中心業(yè)務(wù)類型

8.7.6數(shù)據(jù)中心集群建設(shè)規(guī)模

8.7.7?“東數(shù)西算”工程建設(shè)方案：聯(lián)接力+運力+算力+智力

8.8算力部署方案-算力網(wǎng)絡(luò)

8.8.1?算力網(wǎng)絡(luò)的定義及技術(shù)特點

8.8.2?算力網(wǎng)絡(luò)與現(xiàn)有通信網(wǎng)絡(luò)的區(qū)別

8.8.3?算力網(wǎng)絡(luò)的工作原理及業(yè)務(wù)流程

8.8.4?算力網(wǎng)絡(luò)的標(biāo)準(zhǔn)架構(gòu)與接口

8.8.5?算力網(wǎng)絡(luò)系統(tǒng)架構(gòu)與組成

8.8.6?算力網(wǎng)絡(luò)的建設(shè)方案

8.9?基于“東數(shù)西算”工程的ChatGPT/GPT-4部署策略-安全、高可靠運行等

8.9.1?西部數(shù)據(jù)中心-ChatGPT/GPT-4大模型建模與訓(xùn)練

8.9.1?東部數(shù)據(jù)中心-ChatGPT/GPT-4推理服務(wù)等

8.10?基于“算力網(wǎng)絡(luò)”的ChatGPT/GPT-4部署策略-海量數(shù)據(jù)處理、超級算力、高可靠、低時延、安全等

模塊八：產(chǎn)業(yè)篇-AIGC/GPT產(chǎn)業(yè)發(fā)展及商業(yè)模式

?

?

9.?AIGC/GPT產(chǎn)業(yè)發(fā)展及投資分析

9.1 AIGC/GPT產(chǎn)業(yè)生態(tài)構(gòu)建與參與角色

9.2 ?AIGC/GPT涉及的上下游產(chǎn)業(yè)鏈分析

9.2.1?算力相關(guān)產(chǎn)業(yè)分析（AI芯片/GPU/DPU/FPGA/ASIC芯片等，服務(wù)器、數(shù)據(jù)中心、云計算、邊緣計算等）

9.2.2?算法服務(wù)相關(guān)產(chǎn)業(yè)分析

9.2.3?算力網(wǎng)絡(luò)相關(guān)產(chǎn)業(yè)分析

9.2.4自然語言處理（NLP）相關(guān)產(chǎn)業(yè)分析

9.2.5人工智能生成內(nèi)容（AIGC）相關(guān)產(chǎn)業(yè)分析

9.2.6數(shù)據(jù)標(biāo)注相關(guān)產(chǎn)業(yè)分析

9.2.7 AIGC/GPT下游應(yīng)用場景相關(guān)產(chǎn)業(yè)分析（智能客服、搜索引擎、圖像、文字、代碼生成等）

9.2.8 AIGC/GPT產(chǎn)業(yè)發(fā)展的切入點及路徑分析

9.2.9 AIGC/GPT對我國AI技術(shù)和產(chǎn)業(yè)發(fā)展的示范效應(yīng)分析

9.2.10 AIGC/GPT產(chǎn)業(yè)發(fā)展市場前景分析

9.3 AIGC/GPT產(chǎn)業(yè)投資機會及方向分析

9.4?我國AIGC/GPT相關(guān)上市公司核心競爭力及投資分析

10.?AIGC/GPT商業(yè)模式及商機挖掘

10.1 AIGC/GPT商業(yè)模式架構(gòu)-MaaS（模型即服務(wù)）

10.1.1?什么是MaaS（模型即服務(wù)）？

10.1.2 MaaS（模型即服務(wù)）架構(gòu)

10.1.3 MaaS（模型即服務(wù)）架構(gòu)基座-大模型

10.1.4 MaaS（模型即服務(wù)）整體產(chǎn)業(yè)架構(gòu)

10.1.5 MaaS（模型即服務(wù)）商業(yè)模式的核心：“模型→單點工具（如ChatGPT）→應(yīng)用場景”的服務(wù)路徑

10.2 AIGC/GPT的商業(yè)模式

10.2.1?訂閱制收費模式-直接收費

10.2.2?通過API接口提供技術(shù)服務(wù)-賦能收費（根據(jù)API的使用量和質(zhì)量級別收取費用）

（1）提供大模型服務(wù)-賦能行業(yè)應(yīng)用

（2）許可證銷售服務(wù)

10.3?案例：Hugging Face商業(yè)模式

10.3.1 AutoTrain模式

10.3.2 Interface API & Infinity模式

10.3.3 Private Hub模式

10.3.4 Expert Support模式

10.3 AIGC/GPT的商機挖掘-賦能行業(yè)應(yīng)用