80%的日常任务用中档/轻量模型就够了：
别拿旗舰模型做简单分类，这是最大的浪费。做模型抽象层，不同任务路由到不同模型。
客服场景40%-60%的问题是重复的（"什么时候发货""支持退换吗"）。这些问题直接缓存返回，不调API。命中率高的话，API成本直接砍半。
Prompt越长输入token越多。很多人写了一大段系统提示词，其实只有一半有用。把系统提示词精简到必要内容，去掉冗余示例。长Prompt不仅贵，还可能干扰模型效果。
批量生成文案时，不要一次生成一条——把20个产品的文案需求打包成一次API调用（用数组输入）。批量调用比单条调用便宜，而且快。
按功能/按用户统计token用量。发现某个功能用量暴涨，要么是被刷了，要么是Prompt写太长了。不监控就是闭眼烧钱。
按token计费——输入token和输出token分开算。长文本场景输入成本大，对话轮次多了输出成本大。选模型时要算清你是输入多还是输出多。
按场景选模型。80%的日常任务用中档/轻量模型就够了，别用旗舰模型做简单分类。这一招能省80%成本。
非常有用。常见问题（发货时间、退换货政策）缓存直接返回，不调API。客服场景40%-60%的问题可以缓存。
有。Prompt越长输入token越多，成本越高。把系统提示词精简到必要内容，别写一堆用不上的指令。
每个用户/每个功能单独统计token用量。发现某个功能用量异常，就去查是不是被刷了或者Prompt写太长了。