專欄 AI 管理編年史 第 31/217 講 查看課程目錄

Google 發表開源模型 Gemma,主打端側與資源有限環境

21/02/2024 76
3:05
Google 發表開源模型 Gemma,主打端側與資源有限環境

Google DeepMind 於2024年2月21日發表開源模型系列 Gemma,提供 2B 與 7B 兩種規模,以 Gemini 研究技術為基礎打造,鎖定可在本地端、資源有限環境部署的輕量化應用。

2024年2月21日,Google DeepMind 正式發表開源模型系列 Gemma,提供 2B(20億參數)與 7B(70億參數)兩種規模,供開發者與研究者免費下載、微調與部署。Google 表示 Gemma 是以打造 Gemini 系列模型的同一套研究與技術為基礎精簡而成,並同步釋出經過指令調校(instruction-tuned)與預訓練(pretrained)兩種版本,搭配負責任 AI 工具包(Responsible Generative AI Toolkit)與跨框架的技術支援,包括 JAX、PyTorch、TensorFlow,並可直接在 Kaggle、Colab、Vertex AI 上取用。

技術意義:把「輕量化」做成可落地的選項

Gemma 的重點不在追求最大參數量,而是鎖定「能在單一 GPU、甚至筆電或行動裝置上跑」的規模。Google 公布的評測顯示,7B 版本在多項語言理解、推理與程式碼生成基準上,優於同量級的開源模型(如 Llama 2 7B、13B)。對開發者而言,這代表不必仰賴龐大雲端算力,就能在本地端或私有環境部署一套具備一定水準的語言模型,特別適合對資料隱私敏感、或需要離線運作的場景。

與競品比較:開源賽道再添重量級玩家

Gemma 的發表,讓 Google 正式加入 Meta(Llama 2)、Mistral AI 等既有開源陣營的競爭。與 Llama 2 的授權相比,Google 這次採用允許商業使用的授權條款,但仍保留部分使用限制與責任條款。業界普遍將此舉解讀為 Google 一方面回應開源社群對「閉源大廠壟斷」的批評,另一方面也是為了擴大 Gemini 生態系的影響力——透過釋出輕量模型,讓更多開發者熟悉 Google 的模型架構與工具鏈,進而增加日後升級使用 Gemini 付費 API 的機會。

業界反應:開發者社群關注授權與效能雙重指標

Gemma 發表後,開發者社群(如 Hugging Face、Reddit 相關討論)迅速展開實測,討論焦點集中在兩點:一是實際跑分是否如官方宣稱優於 Llama 2;二是授權條款是否真正對商用友善(例如是否有訂閱門檻或使用量限制)。多數初步反應正面,認為 Google 釋出的技術支援文件與工具鏈完整度高,降低了企業導入的門檻,但也有聲音提醒,開源「模型權重」不等於「完全透明」,訓練資料與方法仍未公開。

對管理者而言,Gemma 的意義不在於立即導入複雜的自建 AI 系統,而是多一個「低成本試驗」的選項:若企業內部有 IT 或工程資源,可考慮讓技術團隊評估用 Gemma 7B 在內部文件整理、客服初篩、品質檢驗輔助等場景做小規模概念驗證,先確認是否符合資料不外流、成本可控的需求,再決定要不要投入更完整的 AI 導入計畫。

測驗檢核:驗證你的理解
5 篇 · 答對 80% 通過,通過後計入學習履歷 登入後即可測驗
問 AI:這篇文章怎麼用在我的管理上?
內容由 AI 根據本文輔助生成,僅供參考,請自行判斷準確性。
下一講・AI 管理編年史 Stability AI 發表 Stable Diffusion 3 早期預覽:多主體構圖與文字拼寫大躍進

相關文章

我們使用必要 Cookie 維持登入與語言設定,並記錄使用行為以改善服務。你可以只保留必要項目。 隱私權政策