課程代號:2323050059  

生成式AI大型語言模型實戰課程:從客服機器人到企業智能應用

1.如何將各種 LLM 應用和集成到組織現有的數據基礎架構和系統中。這包括了解 ChatGPT 和 Bard 的開源替代品。 2.了解 Transformer架構的演變和 ChatGPT 背後的歷史背景,包括不同類型的 LLM 及其生命週期(預訓練、微調和推理)。 3.了解 LLM 可應用於的不同下游任務,例如預測、提取、序列標記、序列轉換和生成。 4.將 LLM 理解為更大架構中的組件,包括它們在密集檢索、推薦、合成數據生成、負面挖掘以及通過知識蒸餾、修剪和量化管理模型大小的嵌入中的使用。

課程型態/
混成
上課地址/
中科_工商行服務大樓4樓或9樓教室 【台中市428大雅區中科路6號】或 webex線上直播(依實際上課通知為主)
時  數/
24 小時
起迄日期/
2024/01/06 ~ 2024/02/03
聯絡資訊/
陳文幸   04-25672316
報名截止
課程簡介

  自 2022 11 月首次發布以來,ChatGPT(由 OpenAI GPT 語言模型提供支持)風靡全球。但它並不是唯一使用大型語言模型 (LLM) 重塑企業格局的應用程序。微軟的 Bing AI、谷歌的 Bard Meta LLaMA 也在爭奪生成人工智能領域的主導地位,為從高級搜索到對話代理的技術提供動力。當塵埃落定後,顛覆將無異於對組織運作方式的重塑。

  隨著 OpenAI GPT-4 語言模型的最新發布,摩根士丹利財富管理部門正在使用它來組織其龐大的知識庫,Be My Eyes 用於改變視覺可訪問性,Stripe 用於簡化用戶體驗和打擊欺詐,以及政府冰島保留其語言。

  作為數據專業人員和開發人員,重要的是要了解這些工具在幕後如何工作,以及如何在您的工作中利用大語言模型 (LLM)

  LLMs徹底改變了自然語言處理 (NLP) 領域,並越來越多地被用於解決各行各業的各種 NLP 問題。

了解 LLM 可以幫助像您這樣的開發人員和數據科學家:

1.構建更好的 NLP 模型LLM 是許多 NLP 任務的最先進模型,了解它們的工作原理可以幫助開發人員和數據科學家構建更好的模型並在其 NLP 任務中實現更好的性能。

2.開發自定義 NLP 應用程序:LLM 可以針對特定的 NLP 任務進行微調,使其高度適應不同的領域和用例。了解 LLM 的開發人員和數據科學家可以利用這種靈活性來開發滿足其特定需求的自定義 NLP 應用程序

3.優化模型性能:了解 LLM 可以幫助開發人員和數據科學家通過為其特定用例選擇合適的架構、提示工程、微調策略和下游任務來優化模型性能。

 

 

課程目標

1. 如何將各種 LLM 應用和集成到組織現有的數據基礎架構和系統中。這包括了解 ChatGPT Bard 的開源替代品。

2. 了解 Transformer架構的演變和 ChatGPT 背後的歷史背景,包括不同類型的 LLM 及其生命週期(預訓練、微調和推理)。

3. 了解 LLM 可應用於的不同下游任務,例如預測、提取、序列標記、序列轉換和生成。

4. LLM 理解為更大架構中的組件,包括它們在密集檢索、推薦、合成數據生成、負面挖掘以及通過知識 蒸餾、修剪和量化管理模型大小的嵌入中的使用。

 

 

課程大綱

【課程綱要】

【課程內容

日期

單元一:

從生成模型到下游任務:

探索語言模型在NLP中的應用

1.   了解生成式模型演變,從馬可夫鏈開始

2.   了解使用不同機器學習範例(監督、非監督、生成式)的用例。

3.   解釋 LLM 生命週期:預訓練、微調、推理。

4.   了解並處理不同類型的下游任務:文本分類、文本相似性、摘要、翻譯、命名實體識別。

5.   實作WordCountNER、文本分類等實作案例。

01/06
(
)

 

6H

單元二:

LLM架構及應用:打造智慧客服 Chatbot

1.   大型語言模型架構 SPRLO 介紹:
Streamlit, Pinecone , RedisCache , LangChain , OpenAI

2.   LLM 基礎介紹、元素解說、應用場景說明:QAGPTChatDocsSQLGPT

3.   分享大型語言模型應用開發流程,檔案拆分、向量存放檢索、向量資料庫。

4.   基於文件對話,實作法律文件機器人,以Uber為例

01/20
(
)

 

6H

單元三:

深入了解LangChain:掌握NLP平台開發和應用的進階知識

1.    介紹 LangChain 關鍵元素:ModelPromptChainAgentindex

2.    介紹 Prompt Engineering 基礎知識與進階技巧 3. 實作多種資料來源應用技巧,包含:DocxExcelPDFEmail

3.    實作大型語言模型應用,建構公司內部文件GPT

01/27
(
)

 

6H

單元四:

向量資料庫應用:從資料檢索到自然語言理解的應用實踐

1.   開源模型應用,從 LLama Dolly 2.0

2.   開源向量資料庫應用,從 Chroma Redis

3.   實作大型語言模型應用,建構客服機器人

02/03
(
)

 

6H

 

 

講師簡介

黃老師暨團隊講師

【經歷】資訊科技專家、大學講師、RiskValFinancial Solution量化資料科學家,軟體架構師、Smart Tech Inc.主工程師、Dynamic  Service Inc(DSI)軟體工程師等…實務經驗

【學歷】New York University - Courant Institute of Mathematical Sciences Master of Science, Computer Science (碩士)、 厦門大學王業南經濟研究院金融(博士)


課程建議對象

1. 軟件工程師和開發人員。

2. 機器學習/人工智能工程師。

3. 希望將 NLP、機器學習和提示工程應用到系統的開發人員。

4. 欲瞭解生成式AI、客服機器人到企業智能應用之工程師或主管或有興趣者

 

 

建議修課參考

l 熟悉Python讀寫代碼(了解不同的資料格式和物件導向開發的基礎知識)。

l 具有數據和機器學習 Python 庫(例如 NumpyScikit-Learn Pandas)開發經驗。

l 具有 Web 應用程序開發經驗(了解網站與伺服器溝通知識)

l 擁有使用 API 開發經驗,並能夠編寫簡單的 Python 代碼來發送請求和解析來自API的響應。

 

 

價格

l 自備NB (操作系統為 windows 10 以上,優先建議使用linux-base 作業系統)

l具備OpenAI 帳戶以及 API 金鑰 (第一次註冊會有18美元額度可做為課程時開通實作練習用)

l本課程符合勞委會"協助事業單位人力資源提升計畫"的補助方案,

l 歡迎企業踴躍報名參加迎企業包班,請來電洽詢 課程承辦人陳小姐(Joan) 04-25675621

       類別 (含軟體實作、餐點、講義、稅額等)

課程價格

課程原價《會 員》

$21,600/

早鳥優惠價

$19,400/

相揪同行報名~優惠價

$18,300/

 

 

結訓與證書

參加【生成式AI大型語言模型實戰課程:從客服機器人到企業智能應用】之學員,研習期滿,出席率達到80%()以上,且參與課程實作與討論者,即可獲工研院頒發的培訓證書。

 

 

報名方式/繳費方式

上課日期:113/01/06、01/20、01/27、02/03(週六)(休息:1/13選舉) 
上課時間:09:30~16:30,每天6小時,共計24hrs
-----------
上課地點:工研院產業學院 台中學習中心-訓練教室或WEBEX線上直播 (實際上課教室請依據上課通知函為準!)
上課地址:台中市大雅區中科路6(中科-工商服務大樓-4樓或9樓教室) WEBEX線上直播
上課地圖(公設場地)https://reurl.cc/xObA0N   
交通資訊: (台中市民-使用【悠遊卡】、【一卡通】 搭乘台中市區公車-10公里內免費)
-可搭乘『高鐵接駁公車161』:高鐵台中站至中科管理局工商服務大樓往返 (平日/假日均行駛
-
或搭乘『中科免費巡迴巴士(西屯線)』:統聯中港轉運站至中科管理局工商服務大樓往返(平日行駛)
-搭乘仁友客運:
45、巨業客運:68、台中客運:69、統聯客運77/79(平日行駛)
-中科管理局近250個地下室平面停車位,停車便利憑『車牌辬識』入場,本單位貼心免費消磁

-----------
預計招生名額:20名為原則,依報名及繳費完成之順序額滿為止(本班預計10人即開課
報名方式:
1.線上報名:請點選頁面右上角「線上報名」

2.電子郵件報名:E-mailitri533882@itri.org.tw

課程洽詢:(04)2567-2316 / (04) 2568-7661 陳小姐

-----------
繳費資訊: 
()ATM轉帳(線上報名):
繳費方式選擇「ATM轉帳」者,系統將給您一組轉帳帳號「銀行代號、轉帳帳號」,但此帳號只提供本課程轉帳使用各別學員轉帳請使用不同轉帳帳號!
(
)信用卡(線上報名):
繳費方式選「信用卡」,直到顯示「您已完成報名手續」為止,才確實完成繳費。
(
)銀行匯款(公司或個人電匯付款)
土地銀行工研院分行,帳號156-005-00002-5(土銀代碼:005),戶名「財團法人工業技術研究院」。

()計畫代號扣款(工研院同仁)
請從產業學院學習網直接登入工研人報名;俾利計畫代號扣款。

※採ATM轉帳或銀行匯款繳費者,請於收據上註明「公司名稱、課程訊息、姓名、聯絡電話」,回傳至上列【E-MAIL】或傳真至產業學院04-25690361陳小姐 收

  

 

歡迎加入粉絲專頁

加入LINE@粉絲團(請點選)https://reurl.cc/VakDdQ

加入FB粉絲團(請點選) https://reurl.cc/Ob9AOR   

 

注意事項

以下注意事項─敬請您的協助,謝謝!

1、課程3天前,學員將收到【E-mail上課通知】,敬請留意信件。
2
、為尊重講師之智慧財產權,請勿錄影、錄音,恕無法提供課程講義電子檔。
3
、請註明服務機關之完整抬頭,以利開立收據;未註明者,一律開立個人抬頭,恕不接受更換發票之要求。
4
、若報名者不克參加者,可指派其他人參加,並於開課前一日通知。
5
、退費辦法:學員於開訓前退訓者,將依其申請退還所繳上課費用90%,另於培訓期間若因個人因素無法繼續參與課程,將依上課未逾總時數1/3,退還所繳上課費用之50%,上課逾總時數1/3,則不退費。

6. 本課程若有不可抗力因素將擇期辦理,本單位保留修改課程與講師的權利,敬請見諒。

------------

◆其它課程參考:(點選課程名稱可連結至課程)

【全數位學習】課程專區

時數

AMR技術整合學程(系列) 【全數位課程】
(A1)各式通訊協定實務
(Ab)【AI】Python網頁資料擷取與視覺化呈現課程
(A2)產線配置機器人系統概論
(B1)基於ROS之移動機器人的建圖與定位
(B2)智慧機器人
(B3)控制器原理與操作
(B4)控制器與伺服驅動整合應用
(B5)電動機/油氣壓系統原理

27.5

2
5.5
1
2.5
3.2
7.3
3
3

電控與工業通訊聯網暨大數據AI應用系列【全數位課程】
單元一 電控與控制基礎
單元二 工業通訊與機聯網
單元三 智慧製造趨勢與工業大數據AI應用

8.5
3
3
2.5

SolidWorks曲面設計技術基礎實作【全數位課程】

7

人機共創導引-設計思考與創新實踐【全數位課程】

2.5

 

 

貼心提醒/推薦課程

◆其它課程參考:(點選課程名稱可連結至課程)

【智慧機械/智慧製造】技術類-課程專區

時數

【德國FESTO工業4.0關鍵核心】智慧製造理論與實作種子人才培訓班【實機上課】

15

製程設備SECS及GEM連線技術培訓班【電腦實作】

15

ANSYS結構分析技術師培訓班【電腦實作】

36

ANSYS進階結構分析技術師培訓班【電腦實作】

42

SolidWorks零組件工程圖與CSWA實務培訓班(台中班)【電腦實作】

38

SolidWorks進階零組件工程圖與CSWP實務培訓班(台中班)【電腦實作】

56

SolidWorks零組件工程圖與CSWA實務培訓班(台北班)【電腦實作】

38

SolidWorks進階零組件工程圖與CSWP實務培訓班(台北班)【電腦實作】

56

科技產業ESD測試(含車規)實務&規範與失效分析

14

生成式AI大型語言模型實戰課程:從客服機器人到企業智能應用

24

高速主軸設計與應用

12

機械結構設計技術實務培訓班

12

量測與校正實務培訓班

12

夾治具設計與應用實務培訓班

12

工業生產線ESD控管與ESD防制標準實現(ANSI/ESD S20.20- 2021新版)

14

產線電磁干擾(EMI)防制設計與接地工程培訓班

14

馬達驅動器開發與設計工程師培訓班

12

永磁無刷馬達之分析、設計與實例模擬

12

《全系列課程》機械產業工程師暨主管人才認證班【初階】
課程一 機械製圖基礎與實務應用
課程二 機械公差基礎與應用解析
課程三 機械元件設計與應用
課程四 金屬材料加工性質與熱處理技術
▲課程五 加工製造技術

40
10
7.5
7.5
7.5
7.5

《全系列課程》公差設計與量測應用工程師培訓班
課程一 尺寸及幾何公差基礎與選配應用
課程二 公差原則與設計應用實務
課程三 幾何公差與量測應用實務
課程四 公差分析與尺寸鏈應用實務

30
7.5
7.5
7.5
7.5

《全系列課程》【齒輪與齒輪傳動系統設計探討課程】
單元一: 圓柱齒輪設計製造與應用
單元二: 蝸桿蝸輪傳動系統設計、製造與應用
單元三: 傘齒輪與行星齒輪技術探討
單元四: 齒輪傳動系統的功能檢測與振動噪音探討

25
7
6
6
6

《全系列課程》【專業射出工程師培訓認證班】 
單元一: 射出成型機與射出不良之關聯性
單元二: 射出成型現場模擬與塑膠材料選擇應用 
單元三: 模具設計與應用實務
單元四: 射出成型不良原因分析與改善

24
6
6
6
6

《全系列課程》【進階射出技術應用專業人才培訓班】
單元一: 塑膠模具設計及成本估價實務
單元二: 塑膠射出模具設計與射出不良之關聯性 
單元三: 試模關鍵技術提升9大步驟
單元四: 建構模具量產優質工法及環境

24
6
6
6
6