課程代號:2325040059  

【免費課程】在AMD平台打造您的大型語言模型(LLM)應用

本課程旨在用於AI導入指南,提供給有興趣在 ROCm 上部署大型語言模型(LLM)解決方案的學習者參考。內容涵蓋 LLM 背景的高層次概述,並包含學員可實作操作的實務範例。

課程型態/
數位課程
上課地址/
Webex線上直播
時  數/
3 小時
起迄日期/
2025/05/14 ~ 2025/05/14
聯絡資訊/
葛珊妮   03-5912994
報名截止
課程介紹

開啟你的 AI 開發旅程,從 LLM 實作開始!

本課程專為想踏入 LLM(大型語言模型)應用開發的新手設計,帶領你從零開始理解 LLM原理,結合 AMD 平台的效能優勢,無論使用AMD AI PC 還是搭載 GPU 的開發環境,都能跟著實作示範、快速上手。課程內容涵蓋從環境建置、模型部署到應用整合的完整流程,幫助你打造實用的 AI 工具!

 

課程目標

本課程旨在用於AI導入指南,提供給有興趣在 ROCm 上部署大型語言模型(LLM)解決方案的學習者參考。內容涵蓋 LLM 背景的高層次概述,並包含學員可實作操作的實務範例。

 

課程對象

1.對高效運算、AI技術開發有興趣者

2.對生成式AI應用、HPC、AMD ROCm平台開發有興趣的大專院校學生

3.欲評估從CUDA轉移到ROCm的平台使用者

4.在企業擔任資訊(IT)、AI軟體開發、AI模型運用、AI程式應用工程師或研發人員等

※符合以上條件者 免費上課

 

課程內容

 

課程形式

課程大綱

時數

線上直播課程

  1.LLM 基礎介紹(Introduction to LLM)

  2.AMD 環境建置與支援(AMD Platform Setup)
  • ROCm環境安裝(Linux)

  3.LLM 模型部署(LLM Deployment)
  • 使用 LM Studio 於 Windows 平台部署模型
  • 使用 Ollama 在 Linux 上執行本地模型

  4.LLM 應用整合(App Integration)
  • 建構 RAG 架構
  • 使用 Agent 技術

3H

 

講師簡介

黃講師

現職:工研院電光所 副工程師
專業領域:LLM及CNN微調、應用及整合。

 

開課資訊

【上課日期】:114年5月14日(三),13:30~16:30,共3小時

【上課地點】:Webex線上直播

【課程費用】:學費全免

【主辦單位】:AMD_ITRI聯合實驗室

 

課程洽詢

工研院產業學院 葛小姐,itri537667@itri.org.tw,03-5912994

工研院產業學院 高小姐,itriB00058@itri.org.tw,03-5916092