課程代號:2324040054 智慧資通訊

生成式AI與大型語言模型應用實作

本課程以實際操作補強學員在生成式AI與大語言模型領域的能力,掌握以下知識與技能: 1、LLM基礎概念與流程自動化:了解LLM的基本原理和流程,並學會利用自動化工具平台進行辦公室流程自動化,提高工作效率。 2、掌握自然語言處理技術:了解詞嵌入、語言模型和文本生成等NLP技術,並透過案例實作掌握相關技能。 3、具備AI模型實現能力:了解LLM運作原理及主流AI模型,並學會使用LangChain框架、PyTorch模型訓練等工具進行AI模型的實現與應用。 4、進行LLM微調、建立及部署:學習如何微調開源LLM模型,探討檢索增強等提升LLM性能的框架,以及建立/部署聊天機器人。

課程型態/
實體課程
上課地址/
工研院產業學院 產業人才訓練一部。實際地點依上課通知為準!
時  數/
21 小時
起迄日期/
2024/06/07 ~ 2024/06/21
聯絡資訊/
黃靖棻   02-23701111#304
報名截止
課程介紹

生成式人工智慧(Generative AI)與大型語言模型(LLM)已成為當今科技領域中引人矚目的焦點。這門課程將深入探討LLM的基本概念、原理、發展和應用,並介紹如何利用其生成能力來實現工作流程自動化、進行自然語言處理(NLP)、建立聊天機器人等應用。

透過結合理論與實際操作應用的方式,帶領學員深入了解LLM的應用場景、優勢、以及未來的發展趨勢,以更迅速地應對產業需求。特別適合已具有相關基礎的專業人士,包括資料分析師、軟體工程師和科學家等。您可能已經對機器學習有一些基本了解,可通過更深層次的學習,提升在生成式AI領域的實戰能力。

課程特色/目標

本課程以實際操作補強學員在生成式AI與大語言模型領域的能力,掌握以下知識與技能:

1、 LLM基礎概念與流程自動化:了解LLM的基本原理和流程,並學會利用自動化工具平台進行辦公室流程自動化,提高工作效率。

2、 掌握自然語言處理技術:了解詞嵌入、語言模型和文本生成等NLP技術,並透過案例實作掌握相關技能。

3、 具備AI模型實現能力:了解LLM運作原理及主流AI模型,並學會使用LangChain框架、PyTorch模型訓練等工具進行AI模型的實現與應用。

4、 進行LLM微調、建立及部署:學習如何微調開源LLM模型,探討檢索增強等提升LLM性能的框架,以及建立/部署聊天機器人。

培訓證書

 總出席率達80%,將由工業技術研究院產業學院核發培訓證書。

課程時間

11367()613()621()3天共21小時。

課程大綱

日期/時間

主題

大綱

67

()

9:00~17:00

大型語言模型LLM介紹

LLM 的基本概念、原理、發展和應用

認識 LLM 的利弊和未來趨勢

ChatGPTBingClaude LLM 的功能統整

ChatGPT流程自動化

自動化工作流程概念介紹

自動化工具平台介紹

辦公室流程自動化實作

NLP自然語言處理理論基礎

詞嵌入技術

語言模型與文本生成

案例實作

613

()

9:00~17:00

LLM 運作原理與理論基礎

LLM相關模型框架簡介(Transformer, BERT, GPT)

常用文本處理技術簡介(TokenizationWord Embedding)

文本相似度計算與應用

向量資料庫功能簡介

LLM工程應用

LangChainLangFlow框架

AutoGen多代理人框架

案例實作:部落格寫手助理

621

()

9:00~17:00

LLM 模型微調

PyTorch模型微調訓練和應用實例

使用與微調開源LLM模型

提升大型語言模型性能的框架

檢索增強(Retrieval Augmented Generation, RAG)

案例實作:客製化商店客服機器人

LLM 建立及部署方法

LLM pipeline工程技巧總結與應用場景搭配

建立及部署聊天機器人

相關實例分享

先備知識

1、 基本的機器學習和深度學習概念。

2、 熟悉Python程式設計語言。

3、 了解基本的資料科學和統計學原理。

注意事項

 請學員自備筆電(具網路連網功能)

講師介紹

工研院特聘講師 張家凱助理教授

經歷:

國立中央大學 通識教育中心 專任助理教授

資訊工業策進會 數位教育研究所 資深工程師

工業技術研究院 材料與化工研究所 研究員

國家實驗研究院 台灣儀器科技研究中心 助理研究員

專長:

數位學習、認知神經科學、運動科學、人工智慧、影像分析與演算法設計、CUDA平行計算

【課程辦理資訊】

v 上課時間:11367()613()621()3天共21小時。

v 上課地點:工研院產業學院 產業人才訓練一部。實際地點依上課通知為準!

v 報名方式:線上報名 http://college.itri.org.tw

v 課程聯絡人:(02)2370-1111分機304 黃小姐 finn@itri.org.tw。

收費標準

 

方案

一般報名(原價)

早鳥優惠價

需課前三週報名且繳費

團體優惠價

3()以上

價格

18,900/

17,000/

16,100/

推薦課程

聯發科發表「達哥」讓每個員工都有AI助理,其中RAG應用就是讓AI變精準的秘密武器!

課程日期

課程名稱 (詳情點選)

時數

7/25()7/30()

打造企業專屬知識GPT - RAG向量資料庫建構與應用工作坊

12小時