課程代號:2325090027  

【免費報名/數位自學】人工智慧模型加速技術: GPU基礎入門篇

本課程是AI模型GPU加速的入門學習指南,主要是給有興趣在ROCm平台上部署深度學習模型的學習者作為參考。課程涵蓋CPU與GPU架構的基本概念,並介紹ROCm架構下的開發環境與效能特性,更透過實作的範例說明,有助學員學會如何在ROCm GPU上進行AI模型的部署與優化,加速AI推論應用的開發流程。

課程型態/
雲端自學
時  數/
2 小時
起迄日期/
可依照公告內容期限觀看
聯絡資訊/
沈先生,謝小姐   03-5915497,03-5913417
報名截止日期:2025/12/30
課程介紹

人工智慧模型加速技術-基礎入門篇+進階篇為AI模型GPU加速的入門指南,專為初學者與有志投身AI加速器軟硬體研究的學習者所規畫設計。課程主軸以ROCm平台為核心,帶領學員從基礎認識CPUGPU架構,逐步建立在ROCm架構下的開發環境,並深入理解其效能與特性。

基礎篇課程以基礎核心觀念建立為導向,課程內容涵蓋CPU與GPU架構的基本概念,並介紹ROCm架構下的開發環境與效能特性,更透過實作的範例說明,有助學員學會如何在ROCm GPU上進行AI模型的部署與優化,加速AI推論應用的開發流程。

★★★建議以下二門課程同時報名,以達最佳的學習效果與實作體驗★★★

(一)數位自學課程-人工智慧模型加速技術:GPU基礎入門篇(1H)

(二)實體+線上同步課程-人工智慧模型加速技術:GPU進階篇(2H)

 

課程目標

  • 建立CPU與GPU架構的核心基礎知識,理解GPU加速在AI推論中的角色與價值。
  • 熟悉ROCm平台的開發環境與效能特性,進而掌握AI模型在GPU上的部署流程。
  • 透過實作範例學會模型優化技巧,加速AI推論應用並提升開發效率。

 

課程對象

【歡迎企業先進、學界教授與學生 免費報名學習】
  1. 對高效運算、AI技術開發有興趣者
  2. 對生成式AI應用、大型語言模型(LLM)開發有興趣的大專院校學生
  3. 欲評估從CUDA轉移到ROCm的平台使用者
  4. 在企業擔任資訊(IT)AI軟體開發、AI模型運用、AI程式應用工程師或研發人員等

 

課程大綱

課程形式

課程大綱

課程時數

數位自學

  • C語言簡介: From source code to assembly
  • 編譯器簡介: GCC vs. Clang
  • 多執行緒CPU程式介紹

1H

 

講師簡介

蘇講師

現職:工研院電光所 副工程師

學歷:國立清華大學資訊工程系博士候選人

專業領域:LLM on GPU 開發

 

開課資訊

【上課日期】隨時上課(開通帳密後的30天內)

【上課期間】收到開通帳密的信件通知後,即可在30天內無限次數的觀看與自主學習。

【課程費用】學費全免 

【上課方式】數位自學/學員完成課程報名後,將於5個工作天內收到觀看網址及開通帳密的信件通知。

【主辦單位】AMD_ITRI聯合實驗室

 

 

課程洽詢

工研院產業學院 沈先生  itri536505@itri.org.tw  03-5915497

工研院產業學院 謝小姐  VHsieh@itri.org.tw  03-5913417