課程代號:2326080005  

【全新改版】大型語言模型(LLM)應用開發實戰-平日班(第四梯)

隨著大型語言模型(LLM)快速成熟,生成式 AI 已廣泛應用於客服、知識管理、文件處理、程式開發及智慧助理等領域。企業要有效導入 LLM,除了提示詞設計,更需結合檢索增強生成(RAG)、向量資料庫、Tools/Function Call 與 Model Context Protocol(MCP)等關鍵技術,打造具備知識檢索、工具整合與流程自動化能力的智慧應用系統。 本課程為期三天,共 18 小時,從 LLM 應用開發基礎到進階整合,透過實務案例與實作,協助學員掌握提示詞工程、RAG、向量資料庫、Tools/Function Call 與 MCP 等核心技術,具備開發企業級 LLM 應用系統的能力。

課程型態/
混成
上課地址/
新竹恆逸教育訓練中心/新竹市東區光復路二段295號3樓之2(實際教室以上課通知為主),本課程同步開放線上連線授課。
時  數/
18 小時
起迄日期/
2026/11/25 ~ 2026/11/27
聯絡資訊/
彭小姐   03-5916197
報名截止日期:2026/11/24
課程介紹

【 大型語言模型(LLM)應用實戰 】全新改版

 課程納入新一代 AI Agent 核心技術,完整學習 Prompt Engineering、RAG、Function Calling、MCP 與 Agent 開發,快速打造企業級生成式 AI 應用!         

         隨著大型語言模型(LLM)技術快速成熟,企業已逐步將生成式 AI 導入客服、知識管理、文件處理、程式開發及智慧助理等多元應用。然而,要讓 LLM 真正落地於企業場域,除了提示詞設計外,更需要結合檢索增強生成(RAG)、向量資料庫、工具串接(Tools/Function Call)及 Model Context Protocol(MCP)等關鍵技術,才能打造具備知識查詢、自動決策與流程整合能力的智慧應用系統。

         本課程為期三天,總時數 18 小時,循序漸進帶領學員掌握 LLM 應用開發流程,內容涵蓋提示詞工程、對話機器人設計、RAG 與向量資料庫應用,以及 Tools/Function Call、MCP(Model Context Protocol)等進階整合技術,並透過翻譯系統、客服機器人、資料庫查詢助手及簡易版 Vibe Coding Agent等實務案例進行展示與實作,協助學員建立開發具備知識檢索、工具整合、AI 輔助程式開發與高互動性 LLM 應用系統的能力。

🎁 凡報名本梯次課程,即贈《大型語言模型應用實戰:從 Prompt Engineering 到 Agentic RAG 與 MCP》乙本!

課程特色

特色一、循序漸進學習LLM核心技術,建立生成式AI開發基礎

從開發環境建置開始,深入認識雲端與本地端大型語言模型(LLM)、API串接方式及 Ollama 本地推理伺服器,並透過提示詞工程(Prompt Engineering)掌握與 LLM 高效互動的方法,結合翻譯、人資履歷篩選、會議摘要、商品標籤生成及智慧對話機器人等實作案例,建立完整的 LLM 應用開發能力。

特色二、實作RAG技術,打造企業專屬知識問答系統

深入學習 Retrieval-Augmented Generation(RAG)架構,涵蓋文字嵌入模型、向量資料庫、多格式文件載入、文本切分、Reranker、提示詞注入(Prompt Injection)防護及語意護欄等關鍵技術,並以電商客服、博物館導覽等案例實作,培養建置企業知識庫與智慧客服系統的能力。

特色三、整合Tools、MCP與AI Agent技術,開發智慧自動化應用

掌握 Function Calling、Tools 與 Model Context Protocol(MCP)等新一代 AI Agent 核心技術,學習 MCP Server 與 Client 建置方式,透過程式與文件助手、自然語言查詢資料庫、匯率換算及網路搜尋等實作案例,完成具備外部工具整合能力的智慧代理(AI Agent)應用,提升生成式 AI 在企業流程自動化與系統整合的實務能力。

課程對象

1. 在企業擔任資訊人員(IT)、AI軟體開發、AI模型運用、AI程式應用等工程師等研發從業人員。 

2. 有興趣欲投入資通訊產業之轉職人士。

先備知識

  • 具備基本程式概念為佳。

講師簡介

       陳講師

  • 現任:台灣人工智能產業協會講師、實踐大學推廣中心講師等。
  • 專長:機器學習、影像識別、大型語言模型、生成式AI、數位電路與嵌入式系統、程式設計。
  • 經歷:中原大學電子所博士、中央研究院資訊科學所博士後研究員,曾任資深工程師與資料科學家,並擁有豐富授課經驗,擔任公協會講師多年。

課程大綱

日期

課程單元

課程內容

時數

2026/11/25(三)

單元一

大語言模型與提示詞工程

1. 開發環境與大型語言模型

  • 開發工具安裝與環境建置

  • 常見大型語言模型介紹(雲端與本地端模型)

  • LLM API 串接方式

  • LLM 推理伺服器 Ollama 架設

2. 提示詞工程

  • 透過對話訊息列表控制 LLM 行為

  • 提示詞設計技巧與實作

  • 範例展示:翻譯系統、人資履歷篩選、社群留言情緒分析

  • 實作練習:會議摘要、商品標籤產生

3. 對話機器人設計

  • 透對話機器人原理與開發流程

  • 範例展示:遊戲 NPC、SQL 指令對話機器人、勞動基準法諮詢機器人

  • 實作練習:英文教學、猜人物遊戲、旅遊規劃助手

6hr

2026/11/26(四)

單元二

檢索增強生成RAG

4. RAG 基礎概念

  • RAG 系統架構與工作流程

  • 文字嵌入模型(Embedding)

  • 向量資料庫原理與應用

  • 多格式文件載入與文本切分

5. RAG 系統實作

  • RAG 系統整合實務:電商客服

  • Reranker 重排序機制

  • 提示詞注入(Prompt Injection)防護

  • 語意護欄(Guardrails)設計

  • 進階 RAG 技術介紹

  • 實作練習:博物館導覽員

6hr

2026/11/27(五)

單元三

Tools/Function Call 與 MCP

6. Tools/Function Call

  • Tools/Function Call 原理與應用

  • Tools 技術探索與實作

  • Tools 對話機器人開發

  • 範例實作:程式與文件助手(簡易版 Vibe Coding Agent)

  • 實作練習:匯率換算、網路搜尋

7. Model Context Protocol(MCP)

  • MCP 架構與核心概念

  • MCP Server 實作

  • 範例:資料庫查詢助手(自然語言查詢資料庫)

  • MCP Client 實作

6hr

 主辦單位保留講師及課程變更之權利

課程費用

報名方案一般報名

早鳥價

(11/04前報名)

團報優惠價工研人
全系列$18,000/$16,500/$15,000/$14,500/

課程注意事項

  • 總出席率達 80%,將由工業技術研究院產業學院核發受訓證明。
  • 若報名教室課程,於電腦教室上課,無需自備筆記型電腦;若報名線上直播課程,請依下表說明確認所需的設備與環境。

使用設備與需求

說明

電腦或筆記型電腦

作業系統:Windows, macOS,  Linux

建議配置:四核處理器、16GB RAM 或以上

網路連線

穩定的網路連線

開發環境

Python, Google Colab

課程資訊

     •  上課日期:115年11月25日、115年11月26日 、115年11月27日 ,09:30-16:30,為期三天,
                              總時數 18 小時。

     •  上課地點:教室課程-新竹恆逸教育訓練中心/新竹市東區光復路二段295號3樓之2

                             (實際教室以上課通知為主)

                                 本課程同步開放線上直播-Microsoft Teams線上同步連線授課(課前通知信發送)

                                 無論報名教室或直播課程,課後均提供回放錄影檔,複習期滿全數下架

                             (觀看日期至 2027/03/05止)

     •  報名方式:

                        - 線上報名:請學員前往工研院「產業學習網」報名課程。

                        - 信箱報名:將報名資訊填完並寄至 yvonnepeng@itri.org.tw 彭小姐。

                        - 課程洽詢:請洽服務專線 03-5916197 彭小姐或聯絡信箱:yvonnepeng@itri.org.tw

報名確認與取消提醒

     •  為確保上課權益,報名後或開課前未收到任何通知信件,請學員務必來電詢問

             是否完成報名。我們會在開課前幾天發送上課通知,敬請學員留意信件。

      •  因教材、講義製作及餐點等皆需提前準備,若您不克前來,請於開課前三日告知,以利行政

         作業進行並愛護資源。

      •  若原報名者因故不克參加,但欲更換他人參加,敬請於開課前二日通知。

      •  學員於開訓前退訓者,用將依其申請退還所繳上課費90%;若上課當天臨時取消則不退費。

         在培訓期間因個人因素無法繼續參與課程,若上課未逾總時數1/3,將退還所繳交上課費用

         之50%,上課已逾總時數1/3,則不予退費。

      •  為保障講師智慧財產權,學員上課期間不得進行錄音、錄影及拍照。

      •  如因天災或是不可抗力之特殊原因導致無法辦理課程時,主辦單位有權決定取消、 終止、

         修改或延後課程。