課程主題

課程內容

大型語言模型(LLM)介紹 

。 深度學習、循環神經網路(RNN)與長短期記憶 (LSTM)
。 把文字轉成向量 Word Embedding
。 注意!注意! Attention & Transformer
。 免費AI開發工具: Colab, Kaggle, Hugging Face
。 LLM之提示工程(Prompt Engineering)

LLM之應用程式開發

。OpenAI常見的LLM應用程式
。LLM之百家爭鳴: ChatGPT, Gemini, Claude, LLaMA, 台灣繁體模型TAIDE
。使用OpenAI Assistant開發專屬line聊天機器人
。替LLM裝上眼睛和耳朵: 生成照片和與聲音

設計專屬的對話流程(LangChain)

。提示模板(PromptTemplate)
。使用LangChain設計對話流程鍊
。記憶與儲存對話紀錄(Memory)
。替LLM裝上翅膀: 呼叫外部搜尋引擎和工具
。用LLM使用額外資料擴展新知識(Retrieval-Augmented Generation)
。追蹤流程鍊的資料傳遞過程(LangSmith) 

安裝與部署專有LLM 

。架設雲端伺服器與部署Discord聊天機器人
。辦公室文件查詢AI小秘書
。YouTube影片懶人包機器人
。上市櫃公司財報AI分析師

微調專屬的LLM 

。指令式微調(Instruction Fine-tuning)
。多任務式微調與漸進式學習(Multi-task Fine-tuning: Progressive Learning)
。高效參數微調與遷移式學習(Parameter Efficient Fine-tuning (PEFT): Transfer) LearningW