專欄 AI 管理編年史 第 39/217 講 查看課程目錄

Google Cloud Next 2024:Gemini 1.5 Pro 開放公開預覽

09/04/2024 255
3:39
Google Cloud Next 2024:Gemini 1.5 Pro 開放公開預覽

Google 在 Cloud Next 2024 大會宣布 Gemini 1.5 Pro 開放公開預覽,開發者與企業客戶可實際串接這款支援百萬 token 上下文的模型,是繼 2 月有限預覽後的更大規模開放。

Google 於 2024 年 4 月 9 日至 11 日舉辦的 Google Cloud Next 2024 大會上,正式宣布將 Gemini 1.5 Pro 開放給 Google Cloud 客戶與開發者「公開預覽」(Public Preview)。這是繼今年 2 月首度發表 Gemini 1.5 Pro、僅提供少數受邀對象「有限預覽」(Private Preview)之後,一次規模明顯放大的開放——這次任何具備 Google Cloud 帳號的企業與開發者,都可以透過 Vertex AI 平台實際申請使用並串接到自己的應用程式中,不再需要等待邀請。

Gemini 1.5 Pro 最受矚目的規格,是它能穩定處理長達 100 萬個 token 的上下文視窗——換算下來大約相當於一小時的影片、11 小時的音訊,或是超過 70 萬字的文字內容可以一次性放入模型中處理,且不需要額外的檢索或分段技巧。這個上下文長度遠超過當時市面上大多數主流模型(包含 GPT-4 Turbo 的 128k token),也是 Gemini 1.5 系列相較於前代 Gemini 1.0 最核心的技術突破。

技術意義:長上下文成為新戰場

過去企業若想讓 AI 模型「讀懂」整份合約、整套年報或整段會議錄影,往往得先把內容切成一小段一小段餵給模型,再靠額外的檢索技術(如 RAG)拼湊上下文,容易漏掉跨段落的關聯資訊。Gemini 1.5 Pro 的百萬 token 上下文,讓模型可以一次「看完」整批資料再回答問題,這對需要處理大量文件、影音或程式碼庫的應用場景,是實質的能力躍升,也讓 Google 在這場上下文長度競賽中,暫時站上明顯領先的位置。

與前代和競品比較

相較於 2 月發表時僅供少數合作夥伴測試,這次公開預覽代表 Google 對這項技術的穩定性與成本控管已有一定把握,才敢大規模開放給付費雲端客戶。對比同期 OpenAI 的 GPT-4 Turbo(128k token)與 Anthropic 當時剛發表不久的 Claude 3 系列,Gemini 1.5 Pro 的上下文長度是數量級的差距,這也讓 Google Cloud 在企業客戶爭奪戰中多了一張明確的差異化籌碼。

業界反應

Cloud Next 大會現場與開發者社群普遍將百萬 token 上下文視為此次發表的最大亮點,許多討論聚焦在「這樣的長上下文是否能取代傳統的向量檢索架構」;同時也有聲音提醒,長上下文的推論成本與延遲仍是企業導入前必須實際測試評估的變數,公開預覽的意義正是讓更多開發者能親自驗證這些疑慮。

對管理者的意義

對管理者而言,這則新聞代表「餵給 AI 整份文件、整段會議錄影一次分析」的門檻正在快速降低——不必再依賴 IT 部門先做複雜的資料前處理,未來評估導入 AI 工具時,可以把「能否一次讀完我們最臃腫的那份文件」當作實際的測試題目。

測驗檢核:驗證你的理解
5 篇 · 答對 80% 通過,通過後計入學習履歷 登入後即可測驗
問 AI:這篇文章怎麼用在我的管理上?
內容由 AI 根據本文輔助生成,僅供參考,請自行判斷準確性。
下一講・AI 管理編年史 xAI 發表 Grok-1.5 Vision,首個具視覺能力的 Grok 版本

相關文章

我們使用必要 Cookie 維持登入與語言設定,並記錄使用行為以改善服務。你可以只保留必要項目。 隱私權政策