月花 200 刀调 Claude 的我,改了一个参数后现在只花 60
月花 200 刀调 Claude 的我,改了一个参数后现在只花 60
结论先说:把 claude-3-5-sonnet 换成 claude-3-haiku,再把 Base URL 指向国内中转,账单直接砍到 1/3。
背景
我司有个内部工具,用 Claude 做代码 review 和文档生成。上个月账单出来,$200+,心里一凉。
翻了下日志,发现问题很典型:
- 所有请求无差别走
claude-3-5-sonnet,包括"帮我写个单行注释"这种需求 - 每次请求没有控制
max_tokens,Claude 输出动辄 2000 token,实际有用的不超过 300 - 国内访问 Anthropic 官方 API 不稳定,重试逻辑写得粗糙,失败一次就重发全量 prompt
三个问题,都是钱。
怎么改的
第一步:按任务分流模型
不是所有任务都需要最强模型。我现在的分法:
| 任务类型 | 模型 | 备注 |
|---|---|---|
| 代码补全 / 单行注释 | claude-3-haiku-20240307 | 够用,快,便宜 10 倍 |
| 代码 review / 重构建议 | claude-3-5-sonnet | 真正需要推理的场景 |
| 文档生成 | claude-3-haiku | 模板类任务不需要智商 |
Haiku 的价格大约是 Sonnet 的 1/10,review 任务缩到 20%,整体费用就这样掉下来了。
第二步:锁 max_tokens
注释类任务加一行:
response = client.messages.create(
model="claude-3-haiku-20240307",
max_tokens=200, # 加这行,别让它写小作文
messages=[{"role": "user", "content": prompt}]
)
输出 token 砍掉 80%,账单同比例缩减。
第三步:换 Base URL
官方 API 国内访问本来就要走代理,延迟高、偶尔断,重试成本隐性很贵。
我现在用国内中转,改一行:
import anthropic
client = anthropic.Anthropic(
api_key="你的中转 key",
base_url="https://api2everything.xyz/v1", # 改这里
)
# 下面代码一字不改
response = client.messages.create(
model="claude-3-5-sonnet-20241022",
max_tokens=1024,
messages=[{"role": "user", "content": "帮我 review 这段代码"}]
)
或者 curl 验一下通不通:
curl https://api2everything.xyz/v1/messages \
-H "x-api-key: 你的key" \
-H "anthropic-version: 2023-06-01" \
-H "content-type: application/json" \
-d '{
"model": "claude-3-haiku-20240307",
"max_tokens": 100,
"messages": [{"role": "user", "content": "ping"}]
}'
能返回正常 JSON 就行。
效果
改完之后这个月账单:约 $55,相比之前 $200+,降了 70%+。
主要贡献:
- 任务分流 → 省 60%
- 锁 max_tokens → 省 15%
- 中转比官方便宜 ~65%,SVIP 还有 7.7 折
我用的中转是 无量 API,支持 Claude / GPT / Gemini / DeepSeek 300+ 模型,OpenAI 格式兼容,注册送 ¥1 够先试几十次请求,余额永久不过期。有需要的可以去看看。