单次对话成本 = 输入token价格×输入长度 + 输出token价格×输出长度。
别只看每百万token多少钱,要看一次对话实际花多少。
客服问答、知识库这种场景,国产便宜模型效果够用,价格只有顶级模型的几分之一。别一上来就最贵的。
不对。单价便宜的如果效果差、要多轮对话、要更长输出,总成本反而更高。要看"解决一个问题花多少钱"。
单次对话成本 = 输入token价格×输入长度 + 输出token价格×输出长度。别只看每百万token多少钱,要看一次对话实际花多少。
简单问题用便宜模型,复杂问题才用贵模型。路由层判断问题难度,自动选模型。80%问题用便宜模型,成本降一半。
国产便宜模型足够。客服问答、知识库这些场景,国产模型效果够用,价格只有顶级模型的几分之一。
复杂推理、长文本理解、创意写作这些场景。普通问答、FAQ这种简单活,便宜模型就够。