課程代號:2325110090  
確定開班

用Ollama部署本地端大型語言模型實作班

講師將帶領學員認識Ollama開源AI工具,並協助學員架設基本網站介面,方便後續與地端的大型語言模型對談,進而打造離線版的生成式AI應用。

課程型態/
實體課程
上課地址/
工研院中興院區21館(實際地點以上課通知為主)
時  數/
12 小時
起迄日期/
2026/01/12 ~ 2026/01/13
聯絡資訊/
謝小姐   03-5913417
報名截止
課程介紹

立即體驗Ollama優勢,開啟本地端大型語言模型部署之路

Ollama是一個專注於本地端部署的大型語言模型管理工具,主要以簡化大型語言模型的部署流程,同時提供靈活的控制和高效運算性能作為主要目標。本課程以實作為導向,講師將帶領學員完整認識Ollama這個開源工具,並協助在自己的電腦使用大型語言模型(像是Meta Llama, Microsoft Phi-3等),更同時架設基本網站介面,方便後續與大型語言模型對談,進而打造離線版的生成式AI應用。

 

課程特色

  • 地端運行,保護企業隱私與安全採用Ollama部署大語言模型,不僅能在企業內安心使用,還能建立企業專屬聊天機器人。
  • 模型可控性和自定義使用Ollama部署能隨時調整與微調模型,滿足企業的特定業務需求,擁有完全自主功能開發的彈性與好處。
  • 成本低、離線運行且低延遲一次性硬體投資後即可長期運行,具低延遲性且離線情況下也能正常使用。

 

課程對象

1.在企業內部擔任資訊人員(IT)、AI軟體開發、AI模型運用、AI程式應用等工程師或研發人員等。 

2.對大型語言模型(LLM)開發實務有興趣者。

 

講師簡介

鐘老師

Microsoft MVP微軟全球最有價值專家

■Microsoft 微軟國際工作坊指定講師(人工智慧/資料科學/網站開發)

專長:機器學習、深度學習、產業AI化應用、AI應用程式開發等

 

課程大綱

課程單元

 

授課大綱

 

Ollama與大型語言模型

 

1.安裝Ollama

2.下載大型語言模型

3.設定開發環境VS Code

 

大型語言模型下載

 

1.llama 3.2(1b/3b) / llama 3.1(8b)

2. ph3(3.8b/14b)

與大型語言模型對話

 

1.呼叫大型語言模型

2.建立對話式介面

3.系統提示設定

 

RAG向量資料庫

與資料檢索

 

1.建立向量資料庫

2.打造企業專屬資料聊天機器人

備註:若有企業包班上課或客製化培訓需求,歡迎直接聯繫課程承辦人:03-5913417 謝小姐

 

課程費用

  • 課程原價:11,000元
  • 開課前14天報名,享早鳥優惠價:9,900元
  • 工研人優惠價:9,900元
  • 團報優惠價:9,400元

 

課程資訊

上課日期:115/1/12(一)、1/13(二)09:30-16:30,共2天12小時。

上課地點:工研院中興院區21/新竹縣竹東鎮中興路四段195(實際教室以上課通知為主)。

上課需求:本課程有實作,請學員務必攜帶筆電來上課,以達最佳學習效果。

報名方式:

-線上報名:請學員前往工研院「產業學習網」報名課程。

-信箱報名:將報名資訊填完並寄至 VHsieh@itri.org.tw 謝小姐。

-課程洽詢:請洽服務專線 03-5913417 謝小姐 聯絡信箱:VHsieh@itri.org.tw。

 

課程注意事項與提醒

  • 為確保上課權益,報名後或開課前未收到任何通知信件,請學員務必來電詢問是否完成報名。我們會在開課前幾天發送上課通知,敬請學員留意信件。
  • 因課前教材、講義製作及餐點等皆需提前準備,若您不克前來,請於開課前三日告知,以利行政作業進行並共同愛護資源。
  • 若原報名者因故不克參加,但欲更換他人參加,敬請於開課前二日通知。
  • 學員於開訓前退訓者,用將依其申請退還所繳上課費90%;若上課當天臨時取消則不退費。在培訓期間因個人因素無法繼續參與課程,若上課未逾總時數1/3,將退還所繳交上課費用之50%,上課已逾總時數1/3,則不予退費。
  • 為保障講師智慧財產權,學員上課期間不得進行錄音、錄影及拍照。