面授+直播

+視頻回放

面授

地點時間

廣州

3月26-28日

北京

6月28-30日

成都

10月27-29日

長沙

12月24-26日

直播時間

面授同步直播

面授同步直播

面授同步直播

面授同步直播

增值服務(wù)

提供視頻回放免費學(xué)習(xí)一年

學(xué)習(xí)平臺

PC端：https://it.zpedu.com/      移動端APP：IT云課

第一天

預(yù)備知識第一節(jié)：

大模型理論知識

1. 初探大模型：起源與發(fā)展

2. GPT模型家族：從始至今

3. 大模型-GPT-ChatGPT的對比介紹

4. 大模型實戰(zhàn)-大模型2種學(xué)習(xí)路線的講解

5. 大模型最核心的三項技術(shù)：模型、微調(diào)和開發(fā)框架

6. OpenAl GPT系列在線大模型技術(shù)生態(tài)

7. OpenAl文本模型A、B、C、D四大模型引擎簡介

8. OpenAl語音模型Whisper與圖像型DALL·E模型介紹

9. 最強Embedding大模型text-embedding-ada模型介紹

10. 全球開源大模型性能評估榜單

11. 中文大模型生態(tài)介紹與GLM 130B模型介紹

12. ChatGLM模型介紹與部署門檻

13. ChatGLM開源生態(tài)：微調(diào)、多模態(tài)，WebUI等項目簡介

預(yù)備知識第二節(jié)：

自注意力機制、Transformer模型、BERT模型

1. RNN-LSTM-GRU等基本概念

2. 編碼器、解碼器

3. 自注意力機制詳解

4. Transformer

5. Mask Multi-Head Attention

6. 位置編碼

7. 特定于任務(wù)的輸入轉(zhuǎn)換

8. 無監(jiān)督預(yù)訓(xùn)練、有監(jiān)督Fine-tuning

9. BERT思路的理解

10. BERT模型下游任務(wù)的網(wǎng)絡(luò)層設(shè)計

11. BERT的訓(xùn)練

12. HuggingFace中BERT模型的推斷

13. 基于上下文的學(xué)習(xí)

14. 代碼和案例實踐：

15. 基本問答系統(tǒng)的代碼實現(xiàn)

16. 深入閱讀理解的代碼實現(xiàn)

17. 段落相關(guān)性代碼實現(xiàn)

第一節(jié)：

GPT1、GPT2、GPT3、ChatGPT原理與實戰(zhàn)

1. 監(jiān)督微調(diào)（SFT）模型

2. 指示學(xué)習(xí)和提示學(xué)習(xí)

3. 簡單提示、小樣本提示、基于用戶的提示

4. 指令微調(diào)

5. RLLHF技術(shù)詳解（從人類的反饋中學(xué)習(xí)）

6. 聚合問答數(shù)據(jù)訓(xùn)練獎勵模型（RM）

7. 強化學(xué)習(xí)微調(diào)、PPO、InstructGPT遵循用戶意圖使用強化學(xué)習(xí)方案

8. Instruct Learning vs. Prompt Learning

9. ChatGPT增加了Chat屬性

10. AI系統(tǒng)的新范式

11. GPT1-GPT2-GPT3-InstructGPT的-chatGPT的技術(shù)關(guān)系

12. 代碼和案例實踐：

13. 使用ChatGPT打造你的私人聊天助理

14. 演示提示詞技巧，翻譯器潤色器、JavaScript 控制臺 、Excel Sheet

15. 網(wǎng)站定制chatgpt-web

第二節(jié)：

Embedding模型實戰(zhàn)

1. 大模型技術(shù)浪潮下的Embedding技術(shù)定位

2. Embedding技術(shù)入門介紹

3. 從Ono-hot到Embedding

4. Embedding文本衡量與相似度計算

5. OpenAl Embedding模型與開源Embedding框架

6. 兩代OpenAl Embedding模型介紹

7. text-embedding-ada-002模型調(diào)用方法詳解

8. text-embedding-ada-002模型參數(shù)詳解與優(yōu)化策略

9. 借助Embedding進行特征編碼

10. Embedding結(jié)果的可視化展示與結(jié)果分析

11. 【實戰(zhàn)】借助Embedding特征編碼完成有監(jiān)督預(yù)測

12. 【實戰(zhàn)】借助Embedding進行推薦系統(tǒng)冷啟動

13. 【實戰(zhàn)】借助Embedding進行零樣本分類與文本搜索

14. Embedding模型結(jié)構(gòu)微調(diào)優(yōu)化

15. 借助CNN進行Embedding結(jié)果優(yōu)化

16. 【企業(yè)級實戰(zhàn)】海量文本的Embedding高效匹配

第三節(jié)：

LLM應(yīng)用程序技術(shù)棧和提示詞工程Prompt Enginerring

1. 設(shè)計模式：上下文學(xué)習(xí)

2. 數(shù)據(jù)預(yù)處理/嵌入

3. 提示構(gòu)建/檢索

4. 提示執(zhí)行/推理

5. 數(shù)據(jù)預(yù)處理/嵌入

6. Weaviate、Vespa 和 Qdrant等開源系統(tǒng)

7. Chroma 和 Faiss 等本地向量管理庫

8. pgvector 等OLTP 擴展

9. 提示構(gòu)建/檢索

10. 提示執(zhí)行/推理

11. 新興的大語言（LLM）技術(shù)棧

12. 數(shù)據(jù)預(yù)處理管道（data preprocessing pipeline）

13. 嵌入終端（embeddings endpoint ）+向量存儲（vector store）

14. LLM 終端（LLM endpoints）

15. LLM 編程框架（LLM programming framework）

16. LangChain的主要功能及模塊

17. Prompts: 這包括提示管理、提示優(yōu)化和提示序列化

18. LLMs: 這包括所有LLMs的通用接口，以及常用的LLMs工具

19. Document Loaders: 這包括加載文檔的標(biāo)準接口，以及與各種文本數(shù)據(jù)源的集成

20. Utils: 語言模型在與其他知識或計算源的交互

21. Python REPLs、嵌入、搜索引擎等

22. LangChain提供的常用工具

23. Indexes：語言模型結(jié)合自定義文本數(shù)據(jù)

24. Agents：動作執(zhí)行、觀測結(jié)果，

25. LangChain的代理標(biāo)準接口、可供選擇的代理、端到端代理示例

26. Chat：Chat模型處理消息

27. 代碼和案例實踐：

28. LLM大模型的使用

29. Prompts的設(shè)計和使用

第二天

第四節(jié)：

LangChain的使用

1. 構(gòu)建垂直領(lǐng)域大模型的通用思路和方法

2. (1) 大模型+知識庫

3. (2) PEFT(參數(shù)高效的微調(diào))

4. (3) 全量微調(diào)

5. (4) 從預(yù)訓(xùn)練開始定制

6. LangChain介紹

7. LangChain模塊學(xué)習(xí)-LLMs 和 Prompts

8. LangChain之Chains模塊

9. LangChain之Agents模塊

10. LangChain之Callback模塊

11. Embedding嵌入

12. 自定義知識庫

13. 知識沖突的處理方式

14. 向量化計算可采用的方式

15. 文檔加載器模塊

16. 向量數(shù)據(jù)庫問答的設(shè)計

17. Lanchain競品調(diào)研和分析

18. Dust.tt/Semantic-kernel/Fixie.ai/Cognosis/GPT-Index

19. LlamaIndex介紹

20. LlamaIndex索引

21. 動手實現(xiàn)知識問答系統(tǒng)

22. 代碼和案例實踐：

23. 動手實現(xiàn)知識問答機器人

24. LangChain文本摘要

25. PDF文本閱讀問答

第五節(jié)：

國產(chǎn)大模型ChatGLM

1. 新一代GLM-4模型入門介紹

2. 智譜Al Mass開放平臺使用方法03GLM在線大模型生態(tài)介紹

3. CharGLM、CogView. Embedding模型介紹

4. GLM在線知識庫使用及模型計費說明

5. GLM模型API一KEY獲取與賬戶管理方法

6. GLM模型SDK調(diào)用與三種運行方法

7. GLM4調(diào)用函數(shù)全參數(shù)詳解

8. GLM4 Message消息格式與身份設(shè)置方法

9. GLM4 tools外部工具調(diào)用方法

10. GLM4 Function calling函數(shù)封裝12GLM4接入在線知識庫retrieval流程

11. GLM4接入互聯(lián)網(wǎng)web_search方法

12. 【實戰(zhàn)】基于GLM4打造自動數(shù)據(jù)分析Agent

13. 【實戰(zhàn)】基于GLM4的自然語言編程實戰(zhàn)

14. 【實戰(zhàn)】基于GLM4 Function call的用戶意圖識別

15. 【實戰(zhàn)】基于GLM4的長文本讀取與優(yōu)化

第六節(jié)：

Sora大模型技術(shù)優(yōu)勢

1. 什么是Sora

2. Sora視頻生成能力

3. Sora技術(shù)獨特之處

4. 統(tǒng)一的視覺數(shù)據(jù)表示

5. 視頻壓縮網(wǎng)絡(luò)

6. 擴散型變換器模型

7. 視頻壓縮與潛在空間

第七節(jié)：

語言理解與字幕生成及其應(yīng)用

1. 使用圖像和視頻作為提示詞

2. 動畫DALL·E圖像

3. 擴展生成的視頻

4. 視頻到視頻編輯

5. 連接視頻

6. 字幕生成

7. 重字幕技術(shù)

8. GPT技術(shù)應(yīng)用

第三天

第八節(jié)：

圖像生成和應(yīng)用實操

1. 新興的仿真功能

2. 長期連續(xù)性和物體持久性

3. 角色和物體的一致性

4. 視頻內(nèi)容的連貫性

5. 與世界互動

6. 簡單影響行為模擬

7. 模擬數(shù)字世界

第九節(jié)：

應(yīng)用場景與潛力分析

1. 電影與娛樂產(chǎn)業(yè)

2. 游戲開發(fā)

3. 教育與培訓(xùn)

4. 廣告與營銷

5. 科學(xué)研究與模擬

6. 生成數(shù)據(jù)

7. 畢業(yè)生職位分類案例研究

8. 提示函數(shù)

9. FunctionCalling

10. 提示工程在模型上的應(yīng)用

11. AI聊天社交應(yīng)用

12. CallAnnie

13. NewBing

14. AI輔助文章創(chuàng)作

15. 迅捷AI寫作

16. ChibiAI

17. AI辦公智能助手

18. GrammaAI

19. AI藝術(shù)領(lǐng)域創(chuàng)作

第十節(jié)：

大模型企業(yè)商用項目實戰(zhàn)講解

1. 使用大模型實現(xiàn)推薦系統(tǒng)（商用案例）

2. 使用大模型實現(xiàn)汽車在線銷售系統(tǒng)

3. 企業(yè)自然語言sql生成（企業(yè)內(nèi)部系統(tǒng)使用）