課程代號:2326060083  

半導體產業生成式 AI 私有化部署與資安治理實務班

從資料不出廠、模型選型到企業級 AI 平台建置

課程型態/
混成
上課地址/
台中中科管理局教室或Webex線上直播
時  數/
6 小時
起迄日期/
2026/07/29 ~ 2026/07/29
聯絡資訊/
李瑜珊,廖芃萁   04-25685000#7201,04-25685000#7133
報名截止日期:2026/07/24
課程介紹

生成式 AI 正快速進入半導體產業應用場景,從製程知識管理、設備維運、品質分析到企業內部知識助理,皆帶來全新的效率提升機會。然而,對高度重視資安、法遵與智慧財產保護的半導體企業而言,如何在「資料不出廠」的前提下安全導入 AI,已成為企業數位轉型的重要課題。

本課程聚焦半導體產業生成式 AI 私有化部署與資安治理實務,帶領學員掌握 LLM 核心技術、模型選型、RAG 知識庫建置、AI Agent 應用開發,以及企業級 AI 平台架構與維運管理。課程結合技術解析與實作專題,協助企業建立安全、可控、可落地的生成式 AI 導入藍圖。

★企業導入生成式 AI 必修課:從資料不出廠、模型選型到 AI Agent 應用,打造半導體產業安全可控的企業級 AI 平台★

課程目標

1. 掌握生成式 AI 與 LLM 技術趨勢:瞭解大型語言模型發展、導入情境及半導體產業應用機會。
2. 規劃私有化 AI 部署架構:學習地端部署、混合雲架構、模型選型與成本效益評估重點。 
3. 建置企業 RAG 知識庫應用:掌握企業內部文件、技術資料與知識庫導入 AI 的實務方法。
4. 瞭解 AI Agent 應用開發方向:探討 AI Agent 在半導體流程、知識工作與自動化任務中之應用。
5. 強化資安治理與維運管理能力:建立資料保護、法遵、智慧財產保護及企業級 AI 治理思維。

課程對象

1. 半導體製造、封裝測試、IC 設計相關企業主管
2. IT/MIS/資訊安全部門主管與工程師
3. 數位轉型、智慧製造及知識管理推動人員
4. AI 專案經理、資料工程師與系統架構師
5. 對企業級生成式 AI 導入有興趣之技術決策者

講師簡介

馬講師/ 國立清華大學電機所 碩士

【經歷】

  • 曾任工業研究院資訊與通訊研究所
  • 曾任台灣積體電路製造股份有限公司
  • 現任美洲中國工程師學會舊金山分會

【專長】人工智慧應用、機器學習、電腦架構、無線通訊系統、半導體產業

【著作】23 US patents, NVIDIA-Certified Associate: Generative AI LLMs
 

課程大綱

※主辦單位保有議程修改權利

課程形式

課程大綱

7/29(三)

實體/線上直播

第一單元:AI 模型基礎與演進
• 傳統人工智能與機器學習
• CNN 架構與典型應用
• Transformer 架構原理
• 其他一些重要模型架構 

第二單元:生成式 AI 與半導體產業應用趨勢
• 生成式 AI 技術發展現況 
• LLM、VLM、Agent 技術演進 
• 半導體產業 AI 導入場景分析 
• 製程、設備、品質與知識管理應用案例
第三單元:大型語言模型(LLM)核心技術解析
• Token 是什麼
• Embedding 與 Vector 表示法
• Attention 與 KV Cache 機制
• Inference 計算流程解析 
• GPU Memory、Bandwidth 與運算瓶頸
• Hugging Face 生態系與模型管理
• 開源模型發展現況與選型考量
第四單元:半導體產業資料治理與資安挑戰
• AI 導入常見資安風險 
• 資料分類分級與權限控管 
• AI 治理框架建立
第五單元:企業級 AI 平台架構與維運
• 私有雲、公有雲與混合雲架構比較 
• 資料不出廠部署策略 
• GPU 伺服器與推論平台規劃 
• 平台監控與維運管理
第六單元:生成式 AI 資安治理與風險管理
• Prompt Injection 攻擊解析 
• 資料外洩與權限濫用風險 
• Model Poisoning 
• 模型輸出安全管理 
第七單元:生成式 AI 私有化部署實作
• 本地端 LLM 部署流程 
• Ollama 與 vLLM 架構介紹 
• 模型下載、量化與推論優化 
• 私有知識庫串接示範 
• 資料不出廠部署實作

第八單元:AI Agent 開發與應用實作
• AI Agent 架構解析 
• Function Calling 與 Tool Use 
• RAG 與 Agent 整合模式 
• 多 Agent 協作架構 
• 半導體知識助理建置

【實作專題1】企業級 LLM 私有化部 
【實作專題2】半導體知識助理 Agent 開發

課程資訊

【實體及線上直播課程】開課日期:115/07/29(三)9:00~16:00,共計6小時

上課地點:中科管理局工商服務大樓4樓或9樓(台中市大雅區中科路6號)或Webex線上直播  *依上課通知為準

受訓證明發放準則:參與課程研習及課程實作,出席率達80%(含)以上者,將取得工研院產業學院之受訓證明

課程費用:

  • 課程原價:每人5,400元
  • 同一公司三人(含)報名優惠價:每人4,600元
  • 早鳥報名(開課前15天報名): 每人4,850元
    報名方式:皆採線上報名 *報名無須先繳費,後續確認開課會寄送繳費通知再行完成繳費即可

課程聯絡人:04-25685000#7133 廖小姐、#7201 李小姐

【備註】

  1. 為確保您的上課權益,報名後若未收到任何回覆,請來電洽詢方完成報名。
  2. 若報名者不克參加者,可指派其他人參加,並於開課前3日通知。
  3. 請以學員於開訓前1日退訓者,將依其申請退還所繳上課費用 90%,另於培訓期間若因個人因素無法繼續參與課程,將依上課未逾總時數 1/3,退還所繳上課費用之50%,上課逾總時數 1/3,則不退費。
  4. 為尊重講師之智慧財產權,恕無法提供課程講義電子檔。

繳費方式

(一)信用卡(線上報名):

繳費方式選「信用卡」,直到顯示「您已完成報名手續」為止,才確實完成繳費。

(二)銀行匯款(限由公司逕行電匯付款):

土地銀行工研院分行,帳號156-005-00002-5(土銀代碼:005)。戶名「財團法人工業技術研究院」,請填具「報名表」與「收據」回傳資訊EMAIL(EMAIL:itri464792@itri.org.tw 李小姐收,謝謝)

※繳費後請於收據上註明「公司名稱、課程訊息、姓名、聯絡電話」,傳真至產業學院 04-25690361 李小姐 收