AI 導入成本怎麼算？用 Cohere 與 OpenAI 框架拆解 AI 總持有成本（AI TCO）

公司準備導入 AI 時，會議上最常出現的問題通常是：「模型一個月多少錢？」或是「每百萬 token 的價格是多少？」，這些數字當然要看，但只看模型報價，很容易算錯成本。 假設客服人員按下一次生成按鈕，畫面上只出現一段回覆，後端可能已經查過知識庫、呼叫兩次模型、檢查公司政策，再因格式不符重新生成一次。若這則回覆還需要主管覆核，企業支付的就不只是模型輸出的那幾百個字。真正的 AI 導入成本，是整條工作流程從接收任務、取得資料、呼叫模型，到驗證與交付結果所花掉的全部資源。 Cohere 在 2026 年 7 月 15 日發布的官方部落格文章中，以 AI 總持有成本（AI TCO）的角度，整理企業導入 AI 時容易漏算的支出，也就是 AI TCO；兩天後，OpenAI 也從成果端補上一個很現實的問題，企業花出去的每一美元，究竟換回多少品質達標、可以實際使用的工作成果？ 把兩套框架放在一起看，AI 成本的計算方式會清楚很多。 AI 導入成本為什麼不能只看模型單價？ 模型單價是最容易取得的數字，也最容易讓人產生「這就是全部成本」的錯覺，實際上，Token 不只用在輸入與回覆，也會消耗在檢索文件、Agent 步驟、工具呼叫、驗證與失敗重試。 一個使用者看來很簡單的回答，背後可能包含多次模型呼叫、文件搜尋、工具操作與驗證，企業最後支付的是完整執行鏈，而不是畫面上看到的單一結果，這也是 AI 成本比一般軟體訂閱更難預估的地方。 傳統 SaaS 常以帳號數、儲存空間或固定方案收費；AI 的支出則會受到任務長度、context 大小、模型選擇、重試率及工作流複雜度影響。同一套介面沒有改版，後端只要多加一段檢索或驗證流程，成本結構就可能不同。 所以企業真正要問的是，完成一件可以交付的工作，總共要花多少錢？ AI 總持有成本（AI TCO）包含哪些費用 AI TCO 不只是年底結帳時才會看到的數字，它更像一張成本地圖，讓企業知道費用從哪裡產生，又是哪個流程正在放大支出。帶你拆解 AI 完成任務的成本項目，讓你更清楚 AI 導入成本如何計算。 模型、API 與 token 費用 這是最直接的一層，包括模型訂閱或授權費、API 輸入與輸出費用、不同模型層級的價差、長 context 造成的額外 token 消耗與尖峰期間的推論與運算需求。 同一項任務不一定從頭到尾都要使用最強的模型，若所有步驟都固定使用高價模型，成本自然容易失控；反過來說，一味選擇最便宜的模型，也可能因品質不足而增加重試與人工修正。例如客服工單，可以先用較小模型分類問題，再把複雜案件交給能力較強的模型。 價格表只能提供單位成本。整個流程是否划算，仍要用企業自己的任務、品質門檻與人工時間實測。 Agent、檢索、工具呼叫與重試 當 AI 從回答問題變成完成任務，成本通常會增加。 一個 Agent 可能需要： 判斷使用者需…