GPT-4 Turbo與GPTs發表:不寫程式也能做出專屬企業小幫手
OpenAI DevDay同天發表GPT-4 Turbo與GPTs,128K長文本、價格大降、免寫程式自訂客服機器人,IT主管排程壓力當天就能緩解一部分。
每週三下午,IT主管的信箱總會多出幾封「能不能幫我們部門做個小機器人」的請求——業務要一個能回答常見問題的客服助手,門市要一個能查庫存話術的小工具,行銷要一個能生成社群貼文的草稿機。問題是IT排程早就滿了,這些需求往往要等上兩三個月才能排到,業務單位只能繼續用最土法煉鋼的方式手動回覆。今天(2023年11月6日),OpenAI在舊金山的第一屆DevDay發表會,讓這個排隊等待的情況出現了鬆動的可能。
DevDay一次端出三件事,對企業最有感的是這兩項
OpenAI這場發表會內容不少,但對台灣、中國、泰國的一般企業主管來說,真正有感的是兩件事。第一是GPT-4 Turbo正式上線,context window從先前的8K、32K大幅拉高到128K token,等於一次可以塞進一整份合約、一份完整的月報,甚至一本操作手冊讓AI消化。第二是GPTs——一個不需要寫程式碼,靠對話就能自訂專屬AI助手的功能,今天起ChatGPT Plus付費用戶就能自己動手建立。價格方面,GPT-4 Turbo的輸入輸出費用同步大幅調降,對已經在用API做內部工具的技術團隊,是直接的成本利多。
GPTs真正改變的,是「誰能做」這件事
過去要做一個客製化的AI客服或內部知識助手,幾乎一定要工程師寫程式串接API、處理提示詞、串資料庫,業務部門只能提需求、排隊等待。GPTs把這個門檻大幅降低:透過對話描述你要的助手長什麼樣子、上傳幾份參考文件,系統就能組出一個具備特定知識與語氣的專屬助手。門市經理可以自己做一個「排班規則問答機」,電商小編可以自己做一個「品牌語氣文案助手」,不必再等IT那一關。要注意的是,今天能建立的GPTs目前只能自用或用連結私下分享,對外公開瀏覽選購他人GPT的商店功能還沒上線,實質效益仍以「企業內部自建工具」為主。
128K與降價,改變的是IT的成本結構與規劃邏輯
對IT與產品主管而言,128K context window的意義不只是「能塞更多字」,而是原本需要拆段、做摘要、做向量檢索才能處理的長文件,現在有機會直接整份丟進去讓模型讀懂上下文。價格下降同時降低了「先做原型測試看看」的心理門檻,不必等到年度預算核准才敢試。這兩件事合起來,代表IT主管可以把一部分過去必須排入開發排程的小型AI需求,轉交給業務單位自己用GPTs先做出雛型,IT團隊則專注在真正需要深度整合的專案上。
🔧 AI 動手做:今天就能自建一個部門專屬小幫手
如果你的公司已經有ChatGPT Plus帳號,今天就能用GPTs功能,依照下面的提示詞,把某個部門的常見問答整理成一個雛型小幫手,再手動貼上幾則常見問題與標準答案讓它學習語氣與內容。
你是一位[部門名稱,例如:門市客服]的內部助手。 你的任務是: 1. 用[語言,例如:泰文與中文]回答同事提出的常見問題 2. 只根據我提供的參考資料回答,不確定時要說明「這題需要再確認」 3. 回答語氣要[例如:簡短、口語、附上具體步驟] 以下是這個部門目前的常見問答,請先熟悉: [貼上5-10則常見問題與標準答案] 準備好之後,請先跟我確認你理解的角色與規則,再開始回答同事的提問。
本週就能做的一步:找一個部門(建議先選IT排程壓力最大的門市或客服單位),用今天的提示詞模板做出一個雛型小幫手,讓部門主管自己試用三天,收集哪些問題答得好、哪些還需要補資料,再決定要不要正式導入。