工研院產業學習網

CUDA GPU 平行運算基礎 x 高效能運算（HPC）應用，掌握未來運算趨勢

        NVIDIA 在 2007 年推出圖形處理器 (GPU: Graphics Processing Unit) 程式開發工具 CUDA (Compute Unified Device Architecture)，讓開發者可以在通用圖形處理器 (GPGPU: General Purpose GPU) 上開發各類的科學運算 (Scientific Computing)，促成許多 HPC (High Performance Computing) 應用領域的進步；具有高度運算需求的科學領域包括：人工智慧 (Artificial Intelligence)、機器學習 (Machine Learning)、深度學習 (Deep Learning)、影音 3D 多媒體、生物醫學、國防科學、石油探勘、財務工程、土木建築、電腦輔助製造（CAM: Computer Aided Manufacturing）、計算機輔助工程（CAE: Computer Aided Engineering）、電腦輔助設計（CAD：Computer Aided Design）、氣體煙霧模擬、火焰模擬、模流水流模擬等。 隨著半導體技術的迅速成長，至今在單一個 GPU 中，處理器核心（processor core）的個數已增加到數萬核以上，使得 GPU 的計算能力也跟著快速成長；至今 CUDA 開發環境已經相當成熟，超高速運算時代已經來臨。
        

        因應人工智慧與高效能運算時代的來臨，本課程以 CUDA GPU 平行運算為核心，課程聚焦於「基礎 ➜ 實作 ➜ HPC 應用 ➜ 產業趨勢」四大主軸，每個單元搭配「實務案例及應用場景」，最大目標是引導 CUDA 初學者能夠快速瞭解 CUDA 的平行理念，培養學員具備程式設計、效能最佳化與多 GPU 應用能力。 首先從 CUDA 的基礎平行計算模式開始介紹，針對在撰寫 CUDA 平行程式時，使用特殊記憶體該注意的事項、大量資料在平行處理時的各種切割方式、從多執行緒（multiple threads）到多 GPU 處理核心的分配方法、進而跨越多 GPU 晶片（multiple GPUs）的多串流（multiple streams）處理等議題，都是本課程要探討的內容。 同時，基於新版 CUDA SDK、新款 GPU 及 NVIDIA AI Supercomputer 架構等新功能，本課程也將介紹其發表的新架構及新技術。 為加強學習效果，本課程的安排特別著重於由淺而深，逐步引導從理解進而以最快的速度上手 CUDA 平行程式開發；只要具備 C 程式語言的設計基礎就可參加此課程，快速瞭解 CUDA 平行處理程式的設計技巧及 GPU 的平行概念。

★ 如果您是相關產業、及欲跨領域投入的你，這堂課就非常適合你！

    歡迎加入課程行列，成為產業即戰力人才

1. 建立 GPU 平行運算與 CUDA 核心觀念
   理解 GPU 平行運算架構、CUDA 程式模型與記憶體階層，奠定高效能運算基礎。
2. 培養 CUDA 平行程式設計與效能最佳化能力
   透過實作課程，學習資料切割、執行緒配置、多串流與多 GPU 設計技巧。
3. 應用 GPU 平行運算於 AI 與高效能運算領域
   將 CUDA 技術實際應用於人工智慧、科學計算與工程模擬，銜接產業需求與未來運算最新趨勢。

1. 具備程式基礎的開發者：熟悉 C 語言或其他程式語言，想學習 GPU 平行運算技術者。
2. 人工智慧與資料科學相關領域的從業人員：希望利用 GPU 加速 AI 訓練、深度學習模型或科學計算者。
3. 高效能運算或科學工程領域的研究者與工程師：需要處理大量資料或複雜模擬運算者。
4. 對 GPU 技術與產業應用感興趣的人士：希望了解 CUDA、NVIDIA GPU 架構及其應用趨勢者。

鄭羽熙講師

• 現任：兌全有限公司 總經理。
• 主要研究領域：Modern Artificial Intelligence application, Multi-core parallel processing and GPU massive processing, Image AI application, Edge AI and LLM application, Embedded SOC system, FPGA and Chip design。
• 學經歷：畢業於國立臺灣大學 電機系(博士)，曾任中山科學研究院簡聘技正、德碩半導體股份有限公司晶片設計經理、麗臺科技股份有限公司副總工程師。

• 具備 C 程式語言的設計基礎，或具備基本程式概念為佳。

• 總出席率達 80%，將由工業技術研究院產業學院核發受訓證明

    •  上課日期：115年5月13日(三)、115年5月14日(四) ，09:00-17:00，為期兩天，總時數 14 小時。

     •  上課地點：新竹恆逸教育訓練中心/新竹市東區光復路二段295號3樓之2

                        （實際教室以上課通知為主）。

     •  報名方式：

                        - 線上報名：請學員前往工研院「產業學習網」報名課程。

                        - 信箱報名：將報名資訊填完並寄至 yvonnepeng@itri.org.tw 彭小姐。

                        - 課程洽詢：請洽服務專線 03-5916197 彭小姐或聯絡信箱：yvonnepeng@itri.org.tw。

• 為確保上課權益，報名後或開課前未收到任何通知信件，請學員務必來電詢問是否完成報名。我們會在開課前幾天發送上課通知，敬請學員留意信件。
• 因課前教材、講義製作及餐點等皆需提前準備，若您不克前來，請於開課前三日告知，以利行政作業進行並共同愛護資源。
• 若原報名者因故不克參加，但欲更換他人參加，敬請於開課前二日通知。
• 學員於開訓前臨時有事取消報名，將退還所繳交之全額費用；若上課當天臨時取消則不退費。在培訓期間若因個人因素無法繼續參與課程且上課未逾總時數1/3，退還所繳交上課費用之50％，上課逾總時數1/3，則不退費。
• 為保障講師權益，學員於上課期間不得進行錄音、錄影及拍照。