标签：AI工程化

大模型 API 按量计费，Demo 阶段无感，一上量账单比预期来得快。一个日均万次调用的客服机器人，用旗舰模型每月能烧掉上万元，而其中一大半花得冤枉。这篇从计费模型讲起，给出模型分级路由（cascade）、Prompt 瘦身、多级缓存、输出控制、批处理、小模型微调等手段，并按投入产出比排出优化顺序，全程强调“省钱不能以效果滑坡为代价”。