課程代號:2324110090  

生成式AI與大型語言模型應用實作

本課程以實作補強學員在生成式AI與大語言模型領域的實務技能,掌握以下知識與技能: 1、理解大型語言模型的原理與應用:深入探討大型語言模型(LLM)的基本原理和演算法,並學習其在自動化和自然語言處理中的應用,進一步提升工作效率。 2、培養AI模型實現與整合能力:學習如何利用LangChain框架設計檢索增強生成模型(RAG),並整合至LineBot和其他聊天機器人,實現動態問答功能。 3、掌握資料處理與模型微調技術:學習如何微調開源LLM模型,設計資料處理流程,並使用LlamaIndex建立高效的向量索引庫,以提升資料檢索效率。

課程型態/
實體課程
上課地址/
時  數/
21 小時
起迄日期/
2025/02/07 ~ 2025/02/21
聯絡資訊/
陳俐潔   02-23701111#310
報名截止日期:2025/02/05
課程介紹

掌握大型語言模型技術,解鎖AI應用無限可能!

生成式人工智慧(Generative AI)與大型語言模型(LLM)已成為當今科技領域中引人矚目的焦點。本課程從技術原理到實際應用,帶領學員深入學習文本生成、自動化流程、問答系統及聊天機器人等開發技能,透過實作練習全面掌握這些核心技術。

課程使用開源工具進行模型調用與測試,並教授檢索增強生成模型(RAG)的設計與部署方法。透過實際案例演練,學員將在真實場景中運用所學,解決實務問題,快速應對產業需求。本課程特別適合具備相關基礎的專業人士,包括資料分析師、軟體工程師及資料科學家等。無論您已有機器學習基礎或剛踏入生成式AI領域,都可透過本課程深化您的實戰能力,進一步拓展技術應用的可能性。

課程目標/特色

本課程以實作補強學員在生成式AI與大語言模型領域的實務技能,掌握以下知識與技能:

1、   理解大型語言模型的原理與應用深入探討大型語言模型(LLM)的基本原理和演算法,並學習其在自動化和自然語言處理中的應用,進一步提升工作效率。

2、   培養AI模型實現與整合能力:學習如何利用LangChain框架設計檢索增強生成模型(RAG),並整合至LineBot和其他聊天機器人,實現動態問答功能。

3、   掌握資料處理與模型微調技術:學習如何微調開源LLM模型,設計資料處理流程,並使用LlamaIndex建立高效的向量索引庫,以提升資料檢索效率。

培訓證書

 總出席率達80%,將由工業技術研究院產業學院核發培訓證書。

課程時間

11427日、214日、221(隔週五)09:00~17:003天共21小時。

課程大綱

 

日期

主題

大綱

2/7

()

大型語言模型

原理與應用實作

原理與發展

大型語言模型(如GPTLlama)的理論基礎、演算法原理及其發展歷程。

實作應用

Python環境中部署與操作LLM,並使用如Hugging Face等工具進行模型調用與測試。

案例演練:自動化文本生成、問答系統、文本分類

LangChain RAG

LineBot

整合應用

LangChain框架介紹

理解LangChain的角色及其在RAG中的應用,學習如何整合外部資料庫以提升訊息檢索效果。

RAG整合實作

設計檢索增強生成模型(RAG),並整合至LineBot,實現動態問答功能。

案例演練:LangChainLineBot的整合與測試

2/14

()

LlamaIndex RAGChatbots

整合應用

LlamaIndex框架介紹

介紹LlamaIndexRAG中的應用場景及特色,有效利用LlamaIndex強化訊息檢索效率。

RAG整合實作

LlamaIndexRAG設置及與Chatbots的整合。

案例演練:LlamaIndex的基本配置及與Chatbots整合應用測試

2/21

()

掌握從模型調用、資料檢索到對話機器人整合的全流程操作

整合架構解析

  了解LangChainLlamaIndex的整合流程,利用這兩個框架實現資料檢索增強生成(RAG)。

  探討LLM-RAG應用在對話系統中的實際效果及優勢。

資料處理與索引

  使用LlamaIndex將資料轉換為向量嵌入,並建立向量索引庫以供高效檢索。

  設計LangChain的檢索模組,實現對LlamaIndex的檢索呼叫。

Chatbots整合與測試

  開發Chatbots介面,設置接收使用者輸入、呼叫LLM進行回答並回應用戶的流程。

  測試ChatbotsLangChainLlamaIndex的整合,確保問答的準確性和流暢度。

先備知識

1、   基本的機器學習和深度學習概念。

2、   熟悉Python程式設計語言。

3、   了解基本的資料庫、資料科學和統計學原理。

注意事項

請學員自備具網路連網功能的筆記型電腦。

講師介紹

工研院特聘講師 蔡副教授

現職:國立臺北教育大學 數學暨資訊教育學系 副教授

專長:機器學習、深度學習、資料科學暨大數據分析應用、擴增實境/虛擬實境

經歷:教育部112-1135G新科技學習示範學校計畫輔導教授

教育部補助中小學校人工智慧教育計畫輔導教授

中華民國淡江大學跨業合作協進會理事

全球職涯發展師GCDF/國際職業策略規劃師SCPC

台灣人工智慧青少年發展學會常務理事

德明財經科技大學資訊科技系副教授/助理教授

美國加州SCAG研究訪問學者

資格:Microsoft Certified: Power Platform Fundamentals

Microsoft Certified: Power BI Data Analyst Associate

Microsoft Certified: Azure AI Engineer Associate

IBM Data Science Foundations Level 1 & Level 2

IBM Python for Data Science

【課程辦理資訊】

v 上課時間:114年2月7日、2月14日、2月21日(隔週五),09:00~17:00,3天共21小時。

v 上課地點:工研院產業學院 產業人才訓練一部(台北)實際地點依上課通知為準!

v 報名方式:線上報名 http://college.itri.org.tw

v 課程聯絡人:(02)2370-1111分機310,陳小姐。

本課程歡迎企業包班,請來電洽詢02-23701111#309徐小姐

收費標準

方案

一般報名(原價)

早鳥優惠價

需課前三週報名且繳費

團體優惠價

3()以上

價格

18,900/

17,000/

16,100/