有谁也是这样紫烧美金 但然我说的不是清明

aidj

几天烧了5000美元


今天我看到好文分享：


我一個月的 Token 費用不到 5 美金，是怎麼做到的？
我現在一個月的 Token 成本，
👉 不到 5 美金。
不是用爛模型，
不是犧牲效果，
而是把整條鏈路重構過。
問題是：
👉 為什麼大多數人一個月幾十、甚至幾百美金，還覺得不夠用？

先講結論：
👉 99% 的人不是被模型收費，是被「錯誤用法」收費

你現在的用法，很可能長這樣：
每次請求都丟完整上下文（沒有裁剪）
所有邏輯都交給模型（連 if/else 都不自己寫）
同一段資訊反覆餵（沒有快取）
prompt 一坨塞滿（沒有分層）
不管任務類型，全部用同一個大模型
結果就是：
👉 每一次呼叫，都是最大成本模式在跑

真正拉開差距的地方在這裡：
👉 Token 消耗 = 上下文長度 × 呼叫次數 × 重複率
你不控這三個，
用再好的模型都一樣爆。

我後來做的調整（核心這幾個）：
— 上下文裁剪（Context 控制）
只保留「當前任務必要資訊」
長對話做分段，不做全量輸入
把歷史資訊轉成摘要，而不是原文塞回去
— 提示詞分層（Prompt 拆解）
指令層（要做什麼）
資料層（給什麼）
約束層（輸出格式）
👉 不再一段大 prompt 打天下
— 快取與重用（Cache 概念）
重複問題 → 不重跑模型
固定輸出 → 直接記錄結果
👉 能不 call API，就不 call
— 模型分流（Model Routing）
簡單任務 → 用輕模型
複雜推理 → 才上重模型
👉 不再用大模型做所有事
— 邏輯外移（減少模型負擔）
判斷流程用程式寫
模型只負責「語言與生成」
👉 把 deterministic 的東西拿掉

這幾件事做完之後，你會發現：
Token 消耗直接砍半以上
latency 下降
輸出穩定度反而提升
👉 這時候你才開始「用模型」，不是「被模型用」

很多人會誤會一件事：
👉 Token 成本高，是因為模型太貴
錯。
👉 是你每一次都在讓模型「重新理解整個世界」

現在我的狀態：
該用模型的地方才用
能不用的全部拆掉
重複的全部記住
👉 一個月不到 5 美金，是結果，不是目標

（這裡輕放，不硬推👇）
我後來把這整套流程整理了一下，
順手做了一個 DC。
裡面主要在討論：
怎麼拿免費 API 資源
怎麼把 Token 成本壓到接近 0
怎麼把整個鏈路跑順
有需要再自己進來看就好。

https://discord.gg/mq5heFxreV
下一篇直接拆實戰：
👉 用 cliproxyapi 串龍蝦飼料，怎麼把整條鏈跑起來
這個才是真正開始拉差距的地方。