課程代號:2325060041  

大型語言模型(LLM)應用開發實戰-假日班

2023年以來,大型語言模型(LLM)如ChatGPT、Claude、Gemini、Llama等快速演進,掀起全球生成式AI革命。從行銷文案、客服自動化、知識搜尋到程式輔助開發,LLM正逐步改變企業的工作流程與人機互動方式。本課程為期五天,總時數30小時,從大語言模型(LLM)理論基礎到實務應用全面涵蓋,適合對生成式AI技術有興趣的工程師、資料科學家或開發者參與,學員從理論進入實務,最終具備開發與部署高互動性、可整合工具與知識LLM系統能力。

課程型態/
混成
上課地址/
新竹恆逸教育訓練中心/新竹市東區光復路二段295號3樓之2(實際教室以上課通知為主),本課程同步開放線上連線授課。
時  數/
30 小時
起迄日期/
2025/11/08 ~ 2025/12/06
聯絡資訊/
彭小姐   03-5916197
報名截止日期:2025/11/07
課程介紹

       2023年以來,大型語言模型(LLM)如 ChatGPTClaudeGeminiLlama 等快速演進,掀起全球生成式 AI 革命。從行銷文案、客服自動化、知識搜尋到程式輔助開發,LLM 正逐步改變企業的工作流程與人機互動方式。根據麥肯錫顧問公司的預測,生成式 AI 將在未來十年內為全球創造數兆美元的經濟價值,而具備LLM應用開發能力的技術人才也將成為職場的核心競爭力。

 

       本課程為期五天,總時數 30 小時,從大語言模型(LLM)理論基礎到實務應用全面涵蓋,適合對生成式 AI 技術有興趣的工程師、資料科學家或開發者參與,學員從理論進入實務,最終具備開發與部署高互動性、可整合工具與知識 LLM 系統能力。

課程特色

        特色一、從基礎到進階,全面掌握LLM應用技術

        深入理解大型語言模型的核心原理與應用場景,掌握 Transformer 架構、訓練方法、

        Gemini API、Hugging Face及本地部署工具,逐步建構LLM技術基礎,為實務開發打下根基。

        特色二、實作導向,打造可運行的智慧應用專案

        從提示詞工程、RAG 檢索式生成、微調技巧(LoRA、PEFT)到Function Calling

        AI Agent整合,全方位實作LLM應用開發流程,最終以Gradio打造一個可互動的智慧應用。

課程對象

        1. 在企業擔任資訊人員(IT)AI軟體開發、AI模型運用、AI程式應用等工程師等研發從業人員。

        2. 有興趣欲投入資通訊產業之轉職人士。

先備知識

         具備基本程式概念為佳。

講師簡介

      陳講師

  • 現任:台灣人工智能產業協會講師、實踐大學推廣中心講師等 
  • 專長:機器學習、影像識別、大型語言模型、生成式AI、數位電路與嵌入式系統、程式設計
  • 經歷:中原大學電子所博士、中央研究院資訊科學所博士後研究員,曾任資深工程師與資料科學家,並擁有豐富授課經驗,擔任公協會講師多年

課程大綱

 

日期

課程單元

課程內容

時數

11/8(六)

單元一

大語言模型基礎

1. 大語言模型原理與簡介

    -認識大語言模型LLM發展歷程與背景

    Transformer 架構核心概念

    LLM 的訓練方式(預訓練與微調)

    -大語言模型的應用場景與限制

2. 大語言模型的操作

    -控制生成行為

       temperaturetop-ktop-p 等參數介紹)

    Token 與輸出長度的概念與限制

    -使用 API 操作語言模型(Gemini

    Hugging face模型操作

    -本地端的大語言模型部屬平台

       OllamaLM-Studio

6hr

11/15(六)

單元二

檢索增強生成RAG

3. 提示詞工程

    -提示詞設計原則

    -常見提示詞技巧

    -多輪對話中的提示詞設計

    -提示詞調試技巧

4. RAG基本概念

    -為何需要RAG:語言模型與知識庫關聯

    -檢索型模型 vs 生成型模型

    RAG 的工作流程

    -向量資料庫簡介

    RAG系統實作

5. Langchain簡介

    LangChain 框架概述

    -使用LangChain建立RAG系統示範

6hr

11/22(六)

單元三

大語言模型

微調與實戰

6. 大語言模型微調

    LoRALow-Rank Adaptation)、PEFT

       等輕量化微調技術介紹

    -開源模型微調流程

      (使用 Hugging Face Transformers

    -訓練資料準備與格式

      Instruction Tuning / SFT

    -實作:微調小型語言模型進行特定任務

7. 大語言模型動手實作

   -本單元將以工作坊形式進行,鼓勵學員將

       前兩日所學整合,利用Grdaio來親手打造

       一個具體的大語言模型應用系統

6hr

11/29(六)

單元四

Tools/Function

功能擴充

8. LLM工具功能擴充概念

   -工具使用(Tools)與函式調用(Function

       Calling)的應用背景

   -為什麼語言模型需要工具:LLM 的推論限

       制與外部功能需求

   -工具調用 vs 插件系統 vs Agent

       Framework

9. Function Calling 機制實作

   Google Gemini Tool Use 概念解析

   -函式定義與 JSON Schema 規範介紹

   -範例實作:自定義函式供模型呼叫

   -多工具整合技巧與錯誤處理設計

10.工具應用場景實作

   -串接外部 API

   -搭配Gradio建立互動式多功能應用介面

   -動手練習:建構一個支援多工具呼叫的智慧助手

6hr

12/6(六)

單元五

AI Agent

11.AI Agent 核心概念

   -什麼是 AI Agent:從單一回應到自主行動

       的轉變

   ReActReasoning + Acting)架構與

       Agent Thought 模型解析

   Agent 與工具的整合:計劃、決策與執行

       流程

   -知識記憶與狀態管理概念

      Short-term vs Long-term memory

12.MCP

   MCP 簡介與核心概念

   MCP 架構與元件解析

   MCP 的實作與開發

13.實作與綜合演練

   -分組實作一個具備多工具與任務管理能力的 AI Agent

6hr

 主辦單位保留講師及課程變更之權利

課程費用

 

報名方案

一般報名

早鳥價

(10/18前報名)

團報優惠價

工研人

全系列

$27,000/

$24,300/

$22,900/

$21,600/

培訓證書

  • 總出席率達 80%,將由工業技術研究院產業學院核發培訓證書

課程資訊

     •  上課日期:114年11月8日(六)、11月15日(六) 、11月22日(六) 、11月29日(六) 、

                          12月6日(六) ,09:30-16:30,為期五天,總時數 30 小時。

     •  上課地點:教室課程新竹恆逸教育訓練中心/新竹市東區光復路二段2953樓之2

                       (實際教室以上課通知為主

                          本課程同步開放線上直播課程Webex軟體線上同步連線授課(課前通知信發送)

     •  報名方式:

                        - 線上報名:請學員前往工研院「產業學習網」報名課程。

                        - 信箱報名:將報名資訊填完並寄至 yvonnepeng@itri.org.tw 小姐。

                        - 課程洽詢:請洽服務專線 03-5916197 小姐或聯絡信箱:yvonnepeng@itri.org.tw

課程注意事項及提醒

      •  為確保上課權益,報名後或開課前未收到任何通知信件,請學員務必來電詢問

         是否完成報名。我們會在開課前幾天發送上課通知,敬請學員留意信件。

      •  因教材、講義製作及餐點等皆需提前準備,若您不克前來,請於開課前三日告知,以利行政
         作業進行並愛護資源。
      •  若原報名者因故不克參加,但欲更換他人參加,敬請於開課前二日通知。
      •  學員於開訓前退訓者,用將依其申請退還所繳上課費90%;若上課當天臨時取消則不退費。
         在培訓期間因個人因素無法繼續參與課程,若上課未逾總時數1/3,將退還所繳交上課費用
         之50%,上課已逾總時數1/3,則不予退費。
      •  為保障講師智慧財產權,學員上課期間不得進行錄音、錄影及拍照。
      •  如因天災或是不可抗力之特殊原因導致無法辦理課程時,主辦單位有權決定取消、 終止、
         修改或延後課程。