生成式人工智慧正從單純的內容產生工具,逐步發展成能查詢資料、使用工具並自動執行任務的人工智慧代理。隨著功能與自主性提升,資料外洩、權限失控、工具濫用及供應鏈等資安風險也隨之增加。對資訊安全、稽核及資訊技術維運人員而言,瞭解其運作方式與潛在風險,已成為重要的實務能力。
本課程將介紹生成式人工智慧與人工智慧代理的基本原理、常見資安風險及防護方式,並透過個別實作、案例分析與情境演練,協助學員建立從風險辨識、權限控管到事件應變的完整人工智慧資安防護觀念。
瞭解生成式人工智慧、大型語言模型與人工智慧代理的基本運作方式及其資安風險來源。
認識提示注入、資料外洩、權限失控、帳號憑證與人工智慧工具供應鏈等常見安全問題。
學習資料、權限、工具、網路、操作紀錄、備份與事件應變等防護方法,並透過實際案例強化風險判斷與防護能力。
從人工智慧原理到人工智慧代理,完整了解生成式人工智慧資安風險的形成原因。
結合最新資安事件與個別實作,認識提示注入、權限、帳號憑證、供應鏈及自動化操作等實務風險。
從風險辨識延伸至權限控管、安全防護與事件應變,建立可落實的人工智慧資安防護能力。
LM Studio操作及社交工程情境 ChatGPT、Gemini 實際演練。
資訊安全人員
內部稽核與電腦稽核人員
ISO/CNS 27001 輔導及建置相關人員
IT 和 MIS 部門有意強化資訊安全管理系統與稽核技能的從業人士
時間單元內容時數116年03月10日生成式AI簡介人工智慧與生成式人工智慧的發展及應用差異生成式人工智慧的基本運作方式與資安風險形成原因人工智慧如何查詢資料、使用工具並自動執行任務1.5生成式AI教學及演練生成式人工智慧提示詞撰寫與任務設定技巧資料查證、最少資料使用與檔案上傳安全提示注入、人工智慧瀏覽器與權限控管風險1.5生成式AI資安風險概述生成式人工智慧常見的資料、內容與使用風險人工智慧代理在權限、工具、帳號憑證與記憶資料上的安全問題人工智慧外掛、供應鏈、多代理協作及自動化行動可能帶來的資安風險1.5本地大型語言模型建置與安全本地大型語言模型與內部資料查詢的運作方式文件整理、語意搜尋與資料存取權限管理本地人工智慧在資料、網路、帳號與系統操作上的安全風險1.5115年03月11日生成式AI的防護策略人工智慧代理的權限控管與人工確認機制身分、資料、工具、網路與操作紀錄等多層安全防護程式開發型人工智慧的程式碼變更、帳號憑證、備份與事件應變管理2.5實戰演練與案例分析生成式人工智慧與人工智慧代理的最新資安事件及案例分析從實際事件了解權限失控、資料破壞、供應鏈與自動化攻擊等風險實作:事件重建、風險分析與防護措施規劃3未來展望與行動計畫人工智慧與人工智慧代理的最新管理與治理趨勢外掛、技能、多代理協作、隱私與自動化行動等新興風險實作:人工智慧資產盤點、風險分級與階段性改善計畫1.5
時間
單元
內容
時數
116年
03月10日
生成式AI
簡介
人工智慧與生成式人工智慧的發展及應用差異
生成式人工智慧的基本運作方式與資安風險形成原因
人工智慧如何查詢資料、使用工具並自動執行任務
1.5
教學及演練
生成式人工智慧提示詞撰寫與任務設定技巧
資料查證、最少資料使用與檔案上傳安全
提示注入、人工智慧瀏覽器與權限控管風險
資安風險概述
生成式人工智慧常見的資料、內容與使用風險
人工智慧代理在權限、工具、帳號憑證與記憶資料上的安全問題
人工智慧外掛、供應鏈、多代理協作及自動化行動可能帶來的資安風險
本地大型語言模型建置與安全
本地大型語言模型與內部資料查詢的運作方式
文件整理、語意搜尋與資料存取權限管理
本地人工智慧在資料、網路、帳號與系統操作上的安全風險
115年
03月11日
生成式AI的
防護策略
人工智慧代理的權限控管與人工確認機制
身分、資料、工具、網路與操作紀錄等多層安全防護
程式開發型人工智慧的程式碼變更、帳號憑證、備份與事件應變管理
2.5
實戰演練與
案例分析
生成式人工智慧與人工智慧代理的最新資安事件及案例分析
從實際事件了解權限失控、資料破壞、供應鏈與自動化攻擊等風險
實作:事件重建、風險分析與防護措施規劃
3
未來展望與
行動計畫
人工智慧與人工智慧代理的最新管理與治理趨勢
外掛、技能、多代理協作、隱私與自動化行動等新興風險
實作:人工智慧資產盤點、風險分級與階段性改善計畫
團報 3 人(含)以上即享團報優惠價
本課程歡迎企業包班,請來電或來信洽詢 課程承辦人劉小姐(Ivy) 03-5743729,itri537622@itri.org.tw
課程原價
早鳥優惠價
(開課前14天報名)
團報優惠價
(同單位3人(含)以上)
每人 $12,000 元整
每人 $10,800 元整
每人 $10,200 元整
【主辦單位】:工業技術研究院 產業學院 【上課日期】:2027/03/10~03/11,9:00~16:00;共2天、計12小時【上課地點】:工研院 新竹中興院區78館(實際上課教室請依據上課通知函為準!) 【招生人數】:本班預計20人為原則,依報名及繳費完成之順序額滿為止。(報名人數達12人即開班)【課程費用】:課程學費、午餐 【受訓證明】:參加本課程之學員,出席率超過80%(含)以上,即可獲得工研院頒發的受訓證明。【課程洽詢】:洪小姐: (03) 5732154(課程行政或庶務問題窗口) 劉小姐: (03) 5743729(課程內涵或技術問題窗口)【繳費方式】:
參訓學員需自備筆記型電腦。
為確保您的上課權益,報名後若未收到任何回覆,敬請來電洽詢方完成報名。
為配合講師時間或臨時突發事件,主辦單位有調整日期或更換講師之權利。
為尊重講師之智慧財產權,恕無法提供課程講義電子檔。
報名時請註明欲開立發票完整抬頭,以利開立收據;未註明者,一律開立個人抬頭,恕不接受更換發票之要求,課程開始當天不得要求退費。
請於開課前 3 天以傳真或 Email 告知主辦單位,並電話確認申請退費相關事宜。若未於期限內申請退費,則不得於任何因素要求退費,惟可轉讓與其他人參訓。