本課程將介紹當代大語言模型的原理和應用,學習大語言模型的核心概念和相關技術。課程將以Python套件TensorFlow和PyTorch為基礎,引導學員實作不同的NLP/NLU任務。
自然語言, Chat, GPT, Open, AI, 大語言, 模型, 原理, 文本生成, 機器翻譯, 語言模型
課程代碼 2323090043 Loading...

自然語言處理 ChatGPT大語言模型原理介紹與實作 - 課程總覽 - 產業學習網

Loading...

課程型態/ 混成(實體+線上同步)
上課地址/ 實體:台北學習中心,實際地點依上課通知為準! 線上:線上直播會議室
時數/ 12小時
起迄日期/ 2024/05/28~2024/05/29
聯絡資訊/ 陳小姐 (02)2370-1111 #303
報名截止日/ 2024/05/21
標題的icon

課程簡介

  生成式預訓練模型(Generative Pre-Training, GPT)是基於變形金剛(transformer)的大語言模型(Large Language Models, LLM),它包含一千七百五十億個模型參數,透過OpenAI公司開發的應用程式介面(Applications Programming Interface, API),任何人均可存取這個大語言模型,實現模型作為服務(model-as-a-service)的人工智慧民主化。

  變形金剛模型改變了自然語言處理(Natural Language Processing, NLP)與理解(Understanding, NLU)的樣貌,它開啟了人工智慧的新時代,成為語言模型、聊天機器人、個人助理、問題回答、文本分類、文本摘要、語音轉文字、情感分析、機器翻譯、命名實體辨識等的支柱。

  本課程「自然語言處理ChatGPT大語言模型原理與實作」從卷積與遞歸神經網路基礎開講,細說傳統自然語言模型的發展瓶頸與沿革,靜態與動態詞嵌入重要概念,漸次引入模仿人類閱讀學習記憶的並行注意力機制,最後說明摒除人工標記束縛的基於變形金剛的雙向編碼器表示技術(Bi-directional Encoder Representations from Transformers, BERT),幫助學員理解ChatGPT背後大語言模型的原理,並運用Python語言實作NLP/NLU任務,進一步觸發學員思考工作場域中的新應用。

課程提供【數位同步學習】報名方案,歡迎學員報名參加。

標題的icon

課程目標

  1. 熟悉自然語言處理與理解等模型,奠定學習當代大語言模型原理的基礎。
  2. 運用Python套件TensorFlow、PyTorch實作NLP/NLU任務。
標題的icon

課程特色

從傳統模型瓶頸走向最新的技術突破,幫助學員瞭解大語言模型背後的重要技術細節,活用自然語言資料分析建模技術,並抓住未來發展趨勢。

標題的icon

適合對象

  1. 建議學員具備基本的程式設計概念,例如C、Python、R、Java…等;學員不須非常熟悉撰寫電腦程式語言亦可,課堂中會提供案例程式碼,讓學員實際練習,學員不用從零開始寫程式,只要會操作、運用,從中學習到AI大數據的概念和應用方法,適合有志跨入AI人工智慧與大數據分析應用領域的人。
  2. 電機/電子/機械/資訊/生醫/工工/化工/土木/環工等相關工程師、資料分析師/科學家、程式設計師、醫師、教育人員、統計人員、公務機關人員。
標題的icon

課程內容與大綱

單元

課程大綱

自然語言模型基礎

(6小時)

 1. 自然語言序列資料與神經網路

 文本的各種表示方式

 一維卷積神經網路

  遞歸神經網路(recurrent neural network)

 長短期記憶(long short term memory)

 2. 文本分類模型

 3. 文本生成(text generation)模型

當代大語言模型技術

(6小時)

  1. 機器翻譯與編碼器解碼器(encoder-decoder)模型
  2. 注意力與多頭注意力(multi-head attention)機制
  3. 變形金剛(transformers)模型
  4. 動態詞詞嵌入模型(ELMo)
  5. 基於變形金剛的雙向編碼器表示技術(BERT)
  6. 生成式預訓練模型(GPT)

備註:大綱與各單元時間均為預估規劃,講師有權視參訓學員狀況進行調整

標題的icon

課程資訊

  1. 舉辦地點:台北學習中心,實際地點依上課通知為準!
  2. 舉辦日期:113年5月28日(二)、5月29日(三),09:30am~16:30pm,共計12小時
  3. 報名方式:線上報名,或請以正楷填妥報名表傳真至02-2381-1000
  4. 課程洽詢:02-2370-1111 分機303 陳小姐
標題的icon

講師簡介-鄒講師

  • 現任:國立臺北商業大學資訊與決策科學研究所暨智能控制與決策研究室教授、CSQ大數據品質應用委員會主任委員
  • 經歷:明志科技大學機械工程系特聘教授兼人工智慧暨資料科學研究中心主任、美國辛辛那提大學工程與應用科學學院訪問教授、新加坡國立大學解析與作業學系訪問教授、西交利物浦大學計算機科學與軟件工程學系暨大數據解析研究院訪問教授、南京理工大學管理科學與工程學系訪問教授、中華R軟體學會創會理事長、臺灣資料科學與商業應用協會創會理事長、世新大學資訊管理學系副教授、中華大學企業管理學系副教授
  • 專長:人工智慧與機率統計學習、賽局理論應用、進化式多目標最佳化、等候網路、系統模擬、彈性製造與工業控制
  • 著作:大數據分析與應用實戰:統計機器學習之資料導向程式設計(東華書局總經銷)。鄒慶士、賴逢輝譯(2003),服務業作業管理,雙葉書廊(原著:Haksever, C., Render, B., Russell, R.S. and Murdick, R.G. (2000), Service Management and Operations, 2nd ed., Pren-tice Hall)。賴慶松、鄒慶士譯(2001),生產與作業管理,滄海書局(原著:David, M.M., Aquilano, N.J. and Chase, R.B. (1999), Fundamentals of Operations Management, 3rd ed., Ir-win/McGraw-Hill)。
標題的icon

課程費用(實體/線上皆適用)

 方案(實體/數位同步)

課程費用

課程原價(個人)

10,800

早鳥優惠(21天前)

9,800

3人以上團報優惠

9,200

 

標題的icon

注意事項

  1. ATM 轉帳(線上報名):繳費方式選擇「ATM 轉帳」者,系統將給您一組轉帳帳號「銀行代號、轉帳帳號」,但此帳號只提供本課程轉帳使用,各別學員轉帳請使用不同轉帳帳號!!轉帳後,寫上您的「公司全銜、課程名稱、姓名、聯絡電話」與「收據」傳真至 02-2381-1000。
  2. 信用卡(線上報名):繳費方式選「信用卡」,直到顯示「您已完成報名手續」為止,才確實完成繳費。
  3. 銀行匯款(公司逕行電匯付款):土地銀行 工研院分行,帳號 156-005-00002-5 (土銀代碼:005)。戶名「財團法人工業技術研究院」,請填具「報名表」與「收據」回傳真至 02-2381-1000 。
  4. 即期支票或郵政匯票:抬頭「財團法人工業技術研究院」,郵寄至:106 台北市大安區復興南路二段 237 號 4 樓 收。
  5. 計畫代號扣款(工研院同仁):請從產業學院學習網直接登入工研人報名;俾利計畫代號扣款。
  6. 本課程需上機實作,請自備筆電上課。
標題的icon

附件

標題的icon

相關課程

Loading...
標題的icon

推薦課程

Loading...
標題的icon

相關文章

Loading...
網頁Top按鈕 (網頁回到頂端)