專欄 AI 管理編年史 第 69/217 講 查看課程目錄

Claude 3.5 Haiku 正式上線:Anthropic最快模型全面開放

04/11/2024 98
3:54
Claude 3.5 Haiku 正式上線:Anthropic最快模型全面開放

Anthropic旗下最快速的模型Claude 3.5 Haiku於11月4日正式上線,陸續開放於API、Bedrock、Vertex AI三平台,先推文字版,官方強調編碼、工具使用與推理能力全面提升,維持200K上下文,鎖定客服機器人與即時程式碼補全等低延遲場景。

Anthropic宣布旗下最新輕量模型Claude 3.5 Haiku於2024年11月4日正式上線,陸續開放於三大平台:Anthropic自家API、Amazon Bedrock,以及Google Cloud Vertex AI。這款模型早在10月22日就已隨著升級版Claude 3.5 Sonnet與Computer Use功能一併預告,如今是正式可供開發者串接的版本。目前僅開放文字輸入,官方表示圖像輸入能力將於後續跟進。

根據Anthropic公布的資訊,Claude 3.5 Haiku在編碼、工具使用(tool use)與推理三項技能上,相較前一代Haiku有全面提升,同時維持200K token的長上下文窗口。最關鍵的定位是「Claude系列中速度最快的模型」,設計目標鎖定需要高互動性、低延遲的應用場景,例如即時客服聊天機器人,或是程式碼編輯器裡的即時自動補全功能。

為什麼「快」是這次的重點

在Claude 3.5 Sonnet與Opus等旗艦模型持續比拼推理深度的同時,Anthropic選擇讓Haiku走另一條路線:犧牲部分能力上限,換取回應速度與成本效率。這反映出當前主流AI供應商的產品策略已明顯分層——大型模型處理複雜任務,小型高速模型負責高頻、即時互動的工作流。對需要每秒回應多次請求、或大量呼叫API的應用(如客服系統、即時翻譯、程式碼補全)而言,延遲與費用往往比模型的「聰明程度」更具決定性。

與前代Haiku及同期模型的落差

Anthropic官方通稿強調Claude 3.5 Haiku在編碼與工具使用上「全面提升」,但並未在此次公告中附上與競品(如GPT-4o mini或Gemini 1.5 Flash)的正面評測比較,也未公開圖像輸入的具體上線時間表。值得留意的是,這款「輕量版」模型仍維持200K的長上下文,代表Anthropic並未在容量上妥協,只是把推理速度與成本作為優化重點。

業界反應:先文字後圖像的分階段策略並不罕見

先推出文字版、圖像輸入隨後補上,是近期主流模型廠商常見的發布節奏,一方面降低單次上線的風險與資源投入,另一方面也讓開發者能提前針對純文字場景進行整合測試。這次Claude 3.5 Haiku選擇陸續登陸Anthropic API、Amazon Bedrock與Google Cloud Vertex AI三個平台,也顯示Anthropic持續強化透過雲端合作夥伴擴大企業客戶觸及的策略,讓已經在使用AWS或GCP的企業能更低門檻地導入。

對管理者而言,這則新聞的意義在於:企業導入AI客服或內部工具時,不必每個場景都用最頂級、最貴的模型,可依任務性質選擇「快模型」與「強模型」搭配使用,兼顧回應速度與成本控制。

測驗檢核:驗證你的理解
5 篇 · 答對 80% 通過,通過後計入學習履歷 登入後即可測驗
問 AI:這篇文章怎麼用在我的管理上?
內容由 AI 根據本文輔助生成,僅供參考,請自行判斷準確性。
下一講・AI 管理編年史 Google 發表實驗模型 Gemini-exp-1114,社群投票登頂 LMArena 綜合榜

相關文章

我們使用必要 Cookie 維持登入與語言設定,並記錄使用行為以改善服務。你可以只保留必要項目。 隱私權政策