::: 打造專屬的大型語言模型與實作(台北班)-工研院產業學習網 :::

課程代號：2324040044

打造專屬的大型語言模型與實作(台北班)

1.能深入理解自然語言處理技術，包括詞性標記、時間序列模型及大型語言模型的建構與應用。 2.能清楚如何進行大型語言模型的開發與實作，不僅學會如何操作相關工具和平台，更能掌握微調模型的核心觀念與技巧，以應對實際自然語言處理之挑戰。

課程型態/

實體課程

上課地址/

台灣文創訓練中心-台北長安館(實際教室以上課通知為主)

時數/

12 小時

起迄日期/

2024/08/15 ~ 2024/08/22

聯絡資訊/

謝小姐 03-5913417

報名截止

課程介紹

ChatGPT帶動全球生成式AI浪潮 AI成為企業推動轉型的關鍵

依據國際數據公司(IDC)的預測報告，2023年全球企業在生成式人工智慧解決方案上的投資已達194億美元，預計在2024年翻倍。此外，預期到2027年，生成式人工智慧軟體、相關硬體和服務等支出將達到1511億美元，年均成長率高達86.1%。透過數據解讀，可清楚得知企業對於AI應用的需求正在急速上升。

因應生成式AI與數位轉型之趨勢，企業導入大型語言模型不僅可以解決問答，還可以支援許多自然語言處理的功能，例如文章摘要、分類、比較、索引、生成和語意分析等。目前大多數企業以自建客製化大語言模型與專屬知識庫作為首要的AI應用，期待透過人與AI工具的協作，快速處理過往需耗費大量人力與時間的工作，並藉此幫助員工把專注力放回核心業務上。為了幫助國內廠商掌握趨勢脈動，加速數位轉型並開創更多價值，工研院將推出一系列生成式AI的主題課程，希冀讓國內廠商與業界從業人員能藉由學習深入理解自然語言處理技術並實踐大型語言模型的開發與應用。

課程特色

📍瞭解背後原理，掌握AI應用依據｜深入淺出介紹自然語言處理技術，包括詞性標記、時間序列模型及大型語言模型的建構與應用，幫助學員建構完整知識體系。

📍單元主題實作，增強學習效果｜課程搭配主題實作，帶領學員操作相關工具和平台，掌握微調模型的技巧與心法，因應後續自然語言處理之挑戰。

📍站在巨人肩膀上，善用現有工具與最新AI模型來開發｜讓學員認識最新的AI技術模型，並介紹如何使用Llama2.0、QRola、RAG等工具來打造自己專屬的大語言模型。

課程目標

1.學員能深入理解自然語言處理技術，包括詞性標記、時間序列模型及大型語言模型的建構與應用。

2.學員能清楚如何進行大型語言模型的開發與實作，不僅學會如何操作相關工具和平台，更能掌握微調模型的核心觀念與技巧，以應對實際自然語言處理的挑戰。

課程對象

對大型語言模型(LLM)開發有興趣者
適合目前在企業擔任資訊(IT)、AI軟體開發、AI模型運用、AI程式應用等工程師或研發人員來修習
【先備知識與能力】具Python程式語言基礎、熟悉Colab平台使用(若有基本PyTorch語法觀念者更佳)，有助課程學習。
【上課需求】建議學員攜帶具高運算筆電(配有GPU/獨立顯示卡為佳)，以達更好的學習效果。

講師介紹

工研院特聘專業講師-林老師

【現任】國立大學資訊工程學系副教授

【專長】影像處理、機器學習、機器視覺、自然語言處理

課程大綱

上課時間	課程單元	課程大綱
8/15(四)	一、自然語言處理及詞性標記	1.理解自然語言處理中詞性標記的基本概念和原理。 2.實際操作詞性標記工具，掌握詞性標記的方法和技術。 3.藉由實作來加深對詞性標記的理解和應用。
8/15(四)	二、時間序列模型以及三字經朗讀	1.了解時間序列模型的基本原理和應用場景。 2.學習建立時間序列模型並進行預測。 3.通過三字經朗讀實作演練，將時間序列模型應用於文本生成任務，培養實際應用能力。
8/22(四)	三、Bert模型解析：(1)使用Hugging Face平台(2)行政單位QA 分類及模型凍結與微調	1.掌握Bert模型在自然語言處理中的基本原理和架構。 2.學習使用Hugging Face平台進行Bert解析與應用。 3.通過行政單位多分類及模型凍結與微調實作，加深對Bert模型應用的理解和技能。
8/22(四)	四、打造自己的大型語言模型與微調實作(Llama2.0 + QRola+ RAG)	1.理解大型語言模型的基本概念和發展趨勢。 2.學習使用 Llama2、QRola、RAG等工具來打造自己的大型語言模型。 3.藉由實作演練，將上述所學知識應用於實際場景，逐步培養構建大型語言模型的能力和技巧。