::: 運用大型語言模型打造RAG智能代理(台北班)-工研院產業學習網 :::

課程代號：2324040061

運用大型語言模型打造RAG智能代理(台北班)

1.學員能夠深入理解並實踐大型語言模型(LLMs)，特別是在檢索式系統的應用中。 2.學員能學會如何設計並實施有效的對話管理系統，掌握利用嵌入模型進行高效內容檢索和相似性查詢的技巧，後續進而能獨立部署檢索增強生成(RAG)代理。 3.逐步培養學員使用微服務和其他先進工具進行LLM管道開發之能力。

課程型態/

實體課程

上課地址/

台灣文創訓練中心-台北長安館

時數/

12 小時

起迄日期/

2024/07/10 ~ 2024/07/11

聯絡資訊/

謝小姐 03-5913417

報名截止

課程介紹

讓生成式AI變聰明的關鍵-RAG模型

RAG檢索增強生成(Retrieval-Augmented Generation,RG)的基本原理是將「檢索」和「生成」兩個步驟結合起來。RAG會先使用檢索模型從外部的資料庫中檢索與用戶查詢相關的資訊，然後接著使用生成模型對檢索到的訊息進行處理，生成更準確且更符合使用者想要的答案。RAG 架構適用於需要外部知識來輔助回答的問答系統、智能對話系統及其他自然語言處理應用。

課程搭配NVIDIA DLI認證，為專業能力加值

NVIDIA人工智慧專家預測，隨著企業加速人工智慧的部署，現成的人工智慧和微服務應用將成為主流。由此可知，未來企業客製化的大型語言模型都具有RAG功能，能將資料來源連接到生成的人工智慧模型，讓使用者獲得更準確、更聰明的回應。目前像是Amdocs、Dropbox、Genentech、SAP、ServiceNow、Snowflake等領先企業都已使用RAG和大型語言模型建立新的生成式人工智慧服務。正因企業需求龐大，特別推出此課程，希冀讓業界從業人員能深入理解並實踐大型語言模型，特別是RAG與智能代理的應用。

課程目標

1.學員能夠深入理解並實踐大型語言模型，特別是在檢索式系統的應用中。

2.學員能學會如何設計並實施有效的對話管理系統，掌握利用嵌入模型進行高效內容檢索和相似性查詢的技巧，後續進而能獨立部署檢索增強生成(RAG)代理。

3.逐步培養學員使用微服務和其他先進工具進行LLM管道開發之能力。

課程對象

對於生成式AI的大語言模型開發或RAG應用有學習興趣者。
想理解大型語言模型能如何驅動創新並提升業務的工程師、技術主管及管理階層。
目前在公司擔任數據分析、機器學習/深度學習、資訊軟體開發與整合、AI技術開發、AI應用等研發工程師或相關從業人員。

講師簡介

工研院特聘專業講師-曾老師

【現任】CAVEDU教育團隊技術總監

【專長】邊緣運算裝置、機器人控制、深度學習神經網路、生成對抗網路、視覺辨識應用

課程大綱

上課時間

時數

課程大綱

7/10(三)

6小時

1.介紹自迴歸模型與大型語言模型

2.探索大型語言模型和向量數據庫的可擴展部署策略

3.學習微服務的運作方式並如何開發自己的微服務

4.認識RAG技術如何讓大型語言模型更厲害

7/11(四)

6小時

1.利用現代LangChain範式開發對話管理和文檔檢索解決方案

2.實踐最新的LLM模型，並清楚了解有關產品化和框架探索的下一步

3.NVIDIA【Building RAG Agents with LLMs】認證測驗與實作

4.NVIDIA 【Building RAG Agents with LLMs】認證測驗解題與說明

課程資訊

上課時間：113/7/10(三)、7/11(四)，09:30-16:30，共2天12小時。
上課地點：台灣文創訓練中心(TCCC)台北長安館/台北市中山區長安東路一段27號2樓(實際教室以上課通知為主)
報名方式：
◎線上報名：請學員前往工研院「產業學習網」報名課程
◎信箱報名：將報名資訊填完並寄至VHsieh@itri.org.tw 謝小姐
◎課程諮詢：有任何課程或報名上的問題，請洽服務專線03-5913417 謝小姐

課程費用

【實體課程】