課程代號:2324070050  

生成式AI大型語言模式(LLM)開發與部署實務

本課程將帶您深入淺出地了解生成式AI的基本原理,並通過實作掌握各種LLM應用技術: 1.聊天機器人開發:打造專屬的AI秘書 2.提示工程(Prompt Engineering):提升AI生成內容的品質 3.專屬對話流程設計(LangChain):自定義您的服務流程與互動體驗 4.資料檢索增強生成(RAG):讓LLM分析並檢索您的私有文件 5.搜尋引擎整合:讓LLM連上網際網路搜尋最新資訊 6.微調開源LLM模型(Fine-Tuning):客制專屬LLM來解決特定問題

課程型態/
實體課程
上課地址/
工研院產業學院 產業人才訓練一部(台北),實際地點依上課通知為準!!!!
時  數/
28.5 小時
起迄日期/
2024/11/11 ~ 2024/11/20
聯絡資訊/
黃靖棻   02-23701111#304
報名截止日期:2024/11/07
課程緣起

生成式AI大型語言模型(LLM)已成為現代人工智慧領域中的核心技術,應用範圍涵蓋自然語言處理、對話系統、自動摘要、機器翻譯等多個方面。本課程旨在培養學員掌握LLM的開發、部屬及應用技巧,從基礎理論到實際操作,全面提升參與者的專業技能和實踐能力。

~本課程歡迎企業包班,請來電洽詢 課程承辦人 黃小姐02-23701111#306 ~

課程目標

本課程將帶您深入淺出地了解生成式AI的基本原理,並通過實作掌握各種LLM應用技術:

🔹 聊天機器人開發:打造專屬的AI秘書
🔹 提示工程(Prompt Engineering):提升AI生成內容的品質
🔹 專屬對話流程設計(LangChain):自定義您的服務流程與互動體驗
🔹 資料檢索增強生成(RAG):讓LLM分析並檢索您的私有文件
🔹 搜尋引擎整合:讓LLM連上網際網路搜尋最新資訊
🔹 微調開源LLM模型(Fine-Tuning):客制專屬LLM來解決特定問題

適合對象

在企業內部擔任資訊人員(IT)、AI軟體開發、AI模型運用、AI程式應用等工程師或研發人員等。具備基本程式概念者。

課程注意事項

請學員自備筆電。

課程日期

113年11/11、11/13、11/18、11/20,週一三白天9:00 ~12:00,13:00~17:00 ,共4天、計28小時。

雲端自學:0.5小時,開啟帳密起~90天。

上課地點

主辦單位:財團法人工業技術研究院 產業人才訓練一部(台北)

舉辦地點:工研院產業學院 產業人才訓練一部(台北),實際地點依上課通知為準!!

報名方式

線上報名:至工研院產業學院官網報名

課程洽詢:02-2370-1111 分機304或306黃小姐

課程大綱

單元

內容

大型語言模型(LLM)介紹

  • 深度學習、循環神經網路(RNN)與長短期記憶 (LSTM)
  • 把文字轉成向量 Word Embedding
  • 注意!注意! Attention & Transformer
  • 免費AI開發工具: Colab, Kaggle, Hugging Face
  • LLM之提示工程(Prompt Engineering)

LLM之應用程式開發

  • OpenAI常見的LLM應用程式
  • LLM之百家爭鳴: ChatGPT, Gemini, Claude, LLaMA, 台灣繁體模型TAIDE
  • 使用OpenAI Assistant開發專屬line聊天機器人
  • 替LLM裝上眼睛和耳朵: 生成照片和與聲音

設計專屬的對話流程(LangChain)

  • 提示模板(PromptTemplate)
  • 使用LangChain設計對話流程鍊
  • 記憶與儲存對話紀錄(Memory)
  • 替LLM裝上翅膀: 呼叫外部搜尋引擎和工具
  • 用LLM使用額外資料擴展新知識(Retrieval-Augmented Generation)
  • 追蹤流程鍊的資料傳遞過程(LangSmith)

安裝與部署專有LLM

  • 架設雲端伺服器與部署Discord聊天機器人
  • 辦公室文件查詢AI小秘書
  • YouTube影片懶人包機器人
  • 上市櫃公司財報AI分析師

微調專屬的LLM

  • 指令式微調(Instruction Fine-tuning)
  • 多任務式微調與漸進式學習(Multi-task Fine-tuning: Progressive Learning)
  • 高效參數微調與遷移式學習(Parameter Efficient Fine-tuning (PEFT): Transfer) LearningW

 * 課程執行單位保留調整課程內容、日程與講師之權利

雲端自學

單元

內容

講者

時數

可信任AI打造資安韌性環境

  • 可信任AI全球趨勢
  • 歐盟AI Act
  • AI的安全性議題

資通所

王邦傑經理

40min

課程費用與繳費

1.    本課程費用含課程、講義、餐點。

項目

課程費用

課程原價 (每人)

$26,000

14天前報名 優惠價(每人)

$23,400

14天前報名+3()以上揪團同行 優惠價(每人)

$22,100

2.    課程若未如期開班,費用將全額退還。

3.    繳費方式

  • ATM轉帳(線上報名):繳費方式選擇「ATM轉帳」者,系統將給您一組轉帳帳號「銀行代號、轉帳帳號」,但此帳號只提供本課程轉帳使用,各別學員轉帳請使用不同轉帳帳號!!
  • 信用卡(線上報名):繳費方式選「信用卡」,直到顯示「您已完成報名手續」為止,才確實完成繳費。
  • 銀行匯款(公司逕行電匯付款):土地銀行 工研院分行,帳號156-005-00002-5(土銀代碼:005)。戶名「財團法人工業技術研究院」,請回傳「帳號後五碼」與「收據」至finn@itri.org.tw黃小姐 收。
  • 計畫代號扣款(工研院同仁) :請從產業學院學習網直接登入工研人報名;俾利計畫代號扣款。

報名確認與取消

  1. 已完成報名與繳費之學員,課程主辦單位將於開課三天前以E-mail方式寄發上課通知函;若課程因故取消或延期,亦將以E-mail方式通知,如未收到任何通知,敬請來電確認。
  2. 已完成繳費之學員如欲取消報名,請於實際上課日前以書面通知業務承辦人,主辦單位將退還80% 課程費用。
  3. 學員於培訓期間如因個人因素無法繼續參與課程,將依課程退費規定辦理之:上課未逾總時數三分之一,欲辦理退費,退還所有上課費用之二分之一,上課逾總時數三分之一,則不退費。
  4. 本單位保留是否接受報名之權利。
  5. 如遇不可抗拒之因素,課程主辦單位保留修訂課程日期及取消課程的權利。