課程代號:2324020044  

大型語言模型微調技術工作坊(台北班)

深入理解大型語言模型:掌握LLM的基本原理和架構,了解其在產業中的應用。 掌握模型微調技巧:學習如何對預訓練的語言模型進行有效微調,以適應特定的應用場景。 實作問答機器人開發:透過實際案例,學習如何構建和部署功能強大的問答機器人。 LangChain技術應用:獲得LangChain的實際操作經驗,了解如何將其與LLM結合以創造多樣化應用。 解決實際問題的能力:提升在實際項目中運用語言模型解決問題的能力。

課程型態/
混成
上課地址/
工研院 產業學院 台北學習中心+Webex線上直播 (實際上課教室請依據上課通知函為準!)
時  數/
18 小時
起迄日期/
2024/08/02 ~ 2024/08/16
聯絡資訊/
李小姐   23701111#316 or 827316
活動取消
課程介紹

這個課程專為開發者、資料科學家和自然語言處理(NLP)愛好者設計的進階工作坊。18小時的課程旨在深入探討大型語言模型的微調技術,並實際應用於問答機器人等項目。參與者將學習如何利用Hugging Face平台和LangChain工具來自定義和優化語言模型,從而滿足特定的業務需求和挑戰。

 

課程特色/目標

  • 深入理解大型語言模型:掌握LLM的基本原理和架構,了解其在產業中的應用。
  • 掌握模型微調技巧:學習如何對預訓練的語言模型進行有效微調,以適應特定的應用場景。
  • 實作問答機器人開發:透過實際案例,學習如何構建和部署功能強大的問答機器人。
  • LangChain技術應用:獲得LangChain的實際操作經驗,了解如何將其與LLM結合以創造多樣化應用。
  • 解決實際問題的能力:提升在實際項目中運用語言模型解決問題的能力。

 

課程對象

  • 軟體工程師:對機器學習和自然語言處理有基本了解,希望在實際項目中運用這些技術。
  • 資料科學家:想要深入瞭解和應用大型語言模型和微調技術。
  • 自然語言處理專業人士:尋求擴展其在語言模型領域的知識和技能。
  • 學術研究人員:對大型語言模型的最新趨勢和技術感興趣。
  • 產品經理和技術領導者:希望了解語言模型技術如何驅動創新和解決業務問題。

 

講師簡介-蔡講師

  • 學歷:淡江大學資訊工程學系博士
  • 現職:國立臺北教育大學數學暨資訊教育學系副教授
  • 經歷:
  1. 教育部112-1135G新科技學習示範學校計畫輔導教授
  2. 教育部補助中小學校人工智慧教育計畫輔導教授
  3. 中華民國淡江大學跨業合作協進會理事
  4. 全球職涯發展師GCDF/國際職業策略規劃師SCPC
  5. 台灣人工智慧青少年發展學會常務理事
  6. 德明財經科技大學資訊科技系副教授/助理教授
  7. 美國加州SCAG研究訪問學者
  • 資格:
  1. Microsoft Certified: Power Platform Fundamentals
  2. Microsoft Certified: Power BI Data Analyst Associate
  3. Microsoft Certified: Azure AI Engineer Associate
  4. IBM Data Science Foundations – Level 1 & Level 2
  5. IBM Python for Data Science

 

課程大綱

課程主題

課程內容

Day1 了解大型語言模型與Hugging Face平台

大型語言模型概論

(3小時)

  • 大型語言模型(LLM)的基本原理和架構。
  • Prompt Engineering
  • LLM在自然語言處理中的應用。
  • 預訓練模型的示例和案例分析。

Hugging Face平台入門

(3小時)

  • Hugging Face平台介紹:重要性、主要功能
  • Hugging Face Transformers套件的安裝和配置。
  • 使用Hugging Face套件載入和測試預訓練模型
  • 模型調整和基礎實作技巧。

Day2 LangChain:大型語言模型應用開發框架

LangChain框架介紹

(3小時)

  • 模型、提示詞與輸出解析器。
  • Chains in LangChain
  • 基於文件的問答系統。
  • LangChain應用案例實作與評估。

實作:建構問答機器人

(3小時)

  • 問答機器人的基本架構和開發流程。
  • 使用微調後的LLM構建問答機器人。
  • 使用程式碼文件的LangChain問答機器人。

Day3 開源LLM模型微調與檢索增強生成

開源LLM模型微調實戰演練

(3小時)

  • 微調方式:流程步驟和技巧。
  • 大型語言模型訓練方式。
  • 大型語言模型的高效微調。
  • 微調過程中的問題解決和調試。

檢索增強生成

(3小時)

  • 檢索增強的原理和應用。
  • 如何結合檢索增強與LLM提高模型性能。
  • 檢索增強在不同領域的應用。
  • 檢索增強在問答系統和聊天機器人中的應用。

1:因應天候或不可抗力因素,主辦單位保有調整議程之權利。
2:學習者之先備知識與能力: Python程式基礎、機器學習概念,及有GPTFine-tuning等概念更好
3:學員需自備電腦

 

價格(實體/數位皆適用)

 

報名方案

費用

說明

原價(含稅、午餐、講義)

16,200/

實體台北授課/

線上Webex直播

課前3週報名(早鳥優惠)

14,600/

實體台北授課/

線上Webex直播

3人以上團體報名

13,800/

實體台北授課/

線上Webex直播

1:報名各方案可選擇
2:線上授課,線上授課會提前寄送課程講義,於課程當天同步直播(建議一台上課直播、一台進行實作),本數位課程無補課機制。

 

常見問題

【主辦單位】:財團法人福琳工商發展基金會、工業技術研究院 產業學院
【上課日期】:202482(五)、8月9日(五) 、8月16(五)09:30~16:30;每日6小時, 共計18小時
【上課地點】:工研院 產業學院 台北學習中心+Webex線上直播  (實際上課教室請依據上課通知函為準!) 
【招生人數】:本班預計20人為原則,依報名及繳費完成之順序額滿為止。(預計10人即開課)
【課程費用】:課程學費、講義(線上供國內郵寄服務)
【培訓證書】:參加本課程之學員,研習期滿,出席率超過80%()以上,即可獲得工研院頒發的培訓證書。
【報名方式】:線上報名
【課程洽詢】:02-2370-1111#316 李小姐
【繳費方式】:確定開班再付款,報名時選擇信用卡線上繳費或ATM轉帳
【退費標準】:請於開課前三日以傳真或email告知主辦單位,並電話確認申請退費事宜。若未於期限內申請退費,則不得於任何因素要求退費,惟可轉讓與其他人參訓。

 

貼心提醒

  1. 為確保您的上課權益,報名後若未收到任何回覆,敬請來電洽詢方完成報名。
  2. 為配合講師時間或臨時突發事件,主辦單位有調整日期或更換講師之權利。
  3. 報名時請註明欲開立發票完整抬頭,以利開立收據;未註明者,一律開立個人抬頭,恕不接受更換發票之要求,課程開始當天不得以任何因素要求退費。
  4. 為尊重講師之智慧財產權,恕無法提供課程講義電子檔。