上門AI教學課程內容

Google Gemma 4是什麼? 

Google Gemma 4 是 Google 最新開源 AI 模型，專為本地端部署設計，讓開發者輕鬆在個人電腦或伺服器上運行強大 AI，無需雲端依賴。

 

Google Gemma 4 AI 本地端模型課程

 

課程簡介

這堂 2 小時精華實戰班，帶你從零上手 Gemma 4 的本地部署與應用，聚焦最強開源模型的四大版本（E2B、E4B、26B MoE、31B），學習 Ollama 一鍵啟動、硬體優化與 API 封裝。
適合程式初學者到進階開發者，親手打造離線 AI 助理，支援多模態（圖像、影片、語音）、長上下文與代理工作流，Apache 2.0 授權讓你自由商用。

 

課程目標

• 理解 Gemma 4 架構、多模態能力與本地優勢。

• 掌握三種部署工具：Ollama、llama.cpp、vLLM。

• 實作模型運行、API 服務化與簡單 Agent 應用。

• 優化硬體配置，跑出高效本地 AI。

 

兩小時大綱

1. Gemma 4 核心解析（20分）

• 模型家族介紹：E2B/E4B（輕量手機級）、26B MoE（性價比王）、31B（頂級效能）。

• 亮點：原生函數呼叫、多模態輸入、256K 上下文、140+語言支援（含繁中）。

• 為何本地端？隱私、無延遲、零 API 費。

2. 環境準備與硬體指南（15分）

• PC/Mac 推薦規格：12G 顯存跑 26B，Mac Mini 用 Metal 加速。

• 安裝依賴：CUDA、Ollama、Python 環境快速檢查。

• 下載模型來源：Google AI Studio、Hugging Face。

3. Ollama 一鍵部署實戰（30分）

• 安裝指令：curl 安裝 + ollama run gemma4:26b（現場 demo）。

• 測試對話、多模態輸入（圖片/影片解析）。

• 常見坑點：量化版本選擇、環境變數設定。

4. 進階部署：llama.cpp 與 API（25分）

• llama.cpp 編譯與 GGUF 運行（CPU/GPU 優化）。

• 封裝 OpenAI 相容 API：localhost:11434 即連工具如 OpenClaw。

• vLLM 伺服器模式：企業級批次處理。

5. 應用實測與優化（25分）

• 建簡單 Agent：邏輯推理、程式輔助、生產力工具。

• 效能調校：溫度、top-p、上下文長度調整。

• Mac/Windows 相容性。

6. 課後實踐與延伸（5分）

• 首選 Gems 清單：寫作助手、程式除錯、語音轉文字。

• Q&A：自訂微調、邊緣設備部署。

 

適合對象

• AI 開發者、程式老師、創業團隊。

• 想脫離雲端付費的個人用戶。

• Mac/PC 硬體玩家、開源愛好者。

 

學習成果

學員結束後，能獨立在本地跑 Gemma 4，建 API 服務並應用到工作流，開啟「技術主權」時代，邏輯推理與多模態任務媲美付費模型。