課程代號:2325040059  

在 AMD 平台打造您的大型語言模型(LLM)應用

本課程旨在用於AI導入指南,提供給有興趣在 ROCm 上部署大型語言模型(LLM)解決方案的學習者參考。內容涵蓋 LLM 背景的高層次概述,並包含學員可實作操作的實務範例。

課程型態/
實體課程
上課地址/
Webex線上直播
時  數/
3 小時
起迄日期/
2025/05/14 ~ 2025/05/14
聯絡資訊/
葛珊妮   03-5912994
課程介紹

開啟你的 AI 開發旅程,從 LLM 實作開始!

本課程專為想踏入 LLM(大型語言模型)應用開發的新手設計,帶領你從零開始理解 LLM原理,結合 AMD 平台的效能優勢,無論使用AMD AI PC 還是搭載 GPU 的開發環境,都能跟著實作示範、快速上手。課程內容涵蓋從環境建置、模型部署到應用整合的完整流程,幫助你打造實用的 AI 工具!

課程目標

本課程旨在用於AI導入指南,提供給有興趣在 ROCm 上部署大型語言模型(LLM)解決方案的學習者參考。內容涵蓋 LLM 背景的高層次概述,並包含學員可實作操作的實務範例。

課程對象

1.對生成式AI應用、HPC、AMD ROCm平台開發有興趣的大專院校學生

2.在企業擔任資訊人員(IT)、AI軟體開發、AI模型運用、AI應用等研發工程師或相關領域之從業人員

※符合以上條件者 免費上課

課程內容

 

課程形式

課程大綱

時數

實體課程

  1.  LLM 基礎介紹(Introduction to LLM

  2. AMD 環境建置與支援(AMD Platform Setup)
  ROCm 環境安裝(Linux)


  3. LLM 模型部署(LLM Deployment)
  • 使用 LM Studio 於 Windows 平台部署模型
  • 使用 Ollama 在 Linux 上執行本地模型

  4.  LLM 應用整合(App Integration)
  • 建構 RAG 架構
  • 使用 Agent 技術

3H

 

講師簡介

黃講師

現職:工研院電光所 副工程師
專業領域:LLM及CNN微調、應用及整合。

開課資訊

【上課日期】:114年5月14日(三),13:30~16:30,共3小時

【上課地點】:Webex線上直播

【課程費用】:學費全免

【主辦單位】:AMD_ITRI聯合實驗室

課程洽詢

工研院產業學院 葛小姐,itri537667@itri.org.tw,03-5912994

工研院產業學院 高小姐,itriB00058@itri.org.tw,03-5916092