課程代號:2326100070  

AI資安攻略:強化生成式AI資安防護力

1. 瞭解生成式人工智慧、大型語言模型與人工智慧代理的基本運作方式及其資安風險來源。 2. 認識提示注入、資料外洩、權限失控、帳號憑證與人工智慧工具供應鏈等常見安全問題。 3. 學習資料、權限、工具、網路、操作紀錄、備份與事件應變等防護方法,並透過實際案例強化風險判斷與防護能力。

課程型態/
實體課程
上課地址/
工研院 新竹中興院區78館
時  數/
12 小時
起迄日期/
2027/03/10 ~ 2027/03/11
聯絡資訊/
劉懿萱   03-5743729
報名截止日期:2027/03/03
課程簡介

生成式人工智慧正從單純的內容產生工具,逐步發展成能查詢資料、使用工具並自動執行任務的人工智慧代理。隨著功能與自主性提升,資料外洩、權限失控、工具濫用及供應鏈等資安風險也隨之增加。對資訊安全、稽核及資訊技術維運人員而言,瞭解其運作方式與潛在風險,已成為重要的實務能力。

本課程將介紹生成式人工智慧與人工智慧代理的基本原理、常見資安風險及防護方式,並透過個別實作、案例分析與情境演練,協助學員建立從風險辨識、權限控管到事件應變的完整人工智慧資安防護觀念。

課程目標

  1. 瞭解生成式人工智慧、大型語言模型與人工智慧代理的基本運作方式及其資安風險來源。

  2. 認識提示注入、資料外洩、權限失控、帳號憑證與人工智慧工具供應鏈等常見安全問題。

  3. 學習資料、權限、工具、網路、操作紀錄、備份與事件應變等防護方法,並透過實際案例強化風險判斷與防護能力。

課程特色

  1. 從人工智慧原理到人工智慧代理,完整了解生成式人工智慧資安風險的形成原因。

  2. 結合最新資安事件與個別實作,認識提示注入、權限、帳號憑證、供應鏈及自動化操作等實務風險。

  3. 從風險辨識延伸至權限控管、安全防護與事件應變,建立可落實的人工智慧資安防護能力。

  4. LM Studio操作及社交工程情境 ChatGPT、Gemini 實際演練。

適合對象

  1. 資訊安全人員

  2. 內部稽核與電腦稽核人員

  3. ISO/CNS 27001 輔導及建置相關人員

  4. IT 和 MIS 部門有意強化資訊安全管理系統與稽核技能的從業人士

課程內容

時間

單元

內容

時數

116年

03月10日

生成式AI

簡介

  • 人工智慧與生成式人工智慧的發展及應用差異

  • 生成式人工智慧的基本運作方式與資安風險形成原因

  • 人工智慧如何查詢資料、使用工具並自動執行任務

1.5

生成式AI

教學及演練

  • 生成式人工智慧提示詞撰寫與任務設定技巧

  • 資料查證、最少資料使用與檔案上傳安全

  • 提示注入、人工智慧瀏覽器與權限控管風險

1.5

生成式AI

資安風險概述

  • 生成式人工智慧常見的資料、內容與使用風險

  • 人工智慧代理在權限、工具、帳號憑證與記憶資料上的安全問題

  • 人工智慧外掛、供應鏈、多代理協作及自動化行動可能帶來的資安風險

1.5

本地大型語言模型建置與安全

  • 本地大型語言模型與內部資料查詢的運作方式

  • 文件整理、語意搜尋與資料存取權限管理

  • 本地人工智慧在資料、網路、帳號與系統操作上的安全風險

1.5

115年

03月11日

生成式AI的

防護策略

  • 人工智慧代理的權限控管與人工確認機制

  • 身分、資料、工具、網路與操作紀錄等多層安全防護

  • 程式開發型人工智慧的程式碼變更、帳號憑證、備份與事件應變管理

2.5

實戰演練與

案例分析

  • 生成式人工智慧與人工智慧代理的最新資安事件及案例分析

  • 從實際事件了解權限失控、資料破壞、供應鏈與自動化攻擊等風險

  • 實作:事件重建、風險分析與防護措施規劃

3

未來展望與

行動計畫

  • 人工智慧與人工智慧代理的最新管理與治理趨勢

  • 外掛、技能、多代理協作、隱私與自動化行動等新興風險

  • 實作:人工智慧資產盤點、風險分級與階段性改善計畫

1.5

價格收費

團報 3 人(含)以上即享團報優惠價

本課程歡迎企業包班,請來電或來信洽詢 課程承辦人劉小姐(Ivy) 03-5743729,itri537622@itri.org.tw

課程原價

早鳥優惠價

(開課前14天報名)

團報優惠價

(同單位3人(含)以上)

每人 $12,000 元整

每人 $10,800 元整

每人 $10,200 元整

開課資訊

【主辦單位】:工業技術研究院 產業學院 
【上課日期】:2027/03/10~03/11,9:00~16:00;共2天、計12小時
【上課地點】:工研院 新竹中興院區78館(實際上課教室請依據上課通知函為準!) 
【招生人數】:本班預計20人為原則,依報名及繳費完成之順序額滿為止。(報名人數達12人即開班)
【課程費用】:課程學費、午餐 
【受訓證明】:參加本課程之學員,出席率超過80%(含)以上,即可獲得工研院頒發的受訓證明。
【課程洽詢】:洪小姐: (03) 5732154(課程行政或庶務問題窗口)
                        劉小姐: (03) 5743729(課程內涵或技術問題窗口)
【繳費方式】:

  • 信用卡(線上報名):繳費方式選「信用卡」,直到顯示「您已完成報名手續」為止,才確實完成繳費。
  • 銀行匯款(公司逕行電匯付款):主辦單位將於確認開班後通知您相關匯款帳號,若有任何相關疑問,歡迎洽詢洪小姐,電話:(03) 5732154。
  • 計畫代號扣款(工研院同仁):請至工研院產業學習網直接登入工研人報名;俾利計畫代號扣款。
     

貼心提醒

  1. 參訓學員需自備筆記型電腦。

  2. 為確保您的上課權益,報名後若未收到任何回覆,敬請來電洽詢方完成報名。

  3. 為配合講師時間或臨時突發事件,主辦單位有調整日期或更換講師之權利。

  4. 為尊重講師之智慧財產權,恕無法提供課程講義電子檔。

  5. 報名時請註明欲開立發票完整抬頭,以利開立收據;未註明者,一律開立個人抬頭,恕不接受更換發票之要求,課程開始當天不得要求退費。

退費標準

請於開課前 3 天以傳真或 Email 告知主辦單位,並電話確認申請退費相關事宜。若未於期限內申請退費,則不得於任何因素要求退費,惟可轉讓與其他人參訓。