小公司别追最强模型,先算每个任务的成本

文 / 半百观AI

小公司选 AI,常会先问:"现在最强的模型是哪一个?"

可要是每天只是把客户邮件分成"报价、售后、其他",最强模型可能是大材小用;反过来,要是模型替你判断合同责任,只挑便宜的也可能把风险留给员工。

所以我想先问:你要它替你完成哪一件具体的事?

面对不同能力、速度和价格的模型方案,小公司不必先追着新品换工具。这不等于"小模型做简单活、大模型做复杂活"可以不经验证就照搬。模型叫什么、价格多少会变化;更重要的是,它在你的真实任务上,能不能达到要求。


别把"分钟"和"钱"直接加在一起

模型账单只是明面费用。员工准备资料、检查答案、改错和返工,也都花时间。计算时要先分开记:

模型和工具的实际费用是多少?员工总共投入多少分钟?有多少结果合格,多少需要重做?有没有不能接受的严重错误?

如果要折算成一笔钱,可以用:

每件合格任务的成本 = 每件合格任务的直接费用 + 每件合格任务的人工分钟数 × 企业每分钟人工成本。

风险先单独作为合格门槛。比如一旦把投诉误判为普通咨询就会造成严重后果,那么这类错误不能用"模型便宜"抵消。只有当错误概率和损失都有可信数据时,才把预期损失折成金额;否则单独记录,不要装作能精确估价。

还要记一次性的接入、培训和日常维护。任务量少时,这些固定投入可能比调用费更值得关注;任务稳定后,再按合理周期分摊。

如果企业还没有可靠的人工费率,先别为了得出一个"总成本"硬填数字。并列看两项就可以:每件合格任务用了多少模型和工具费用,员工平均花了多少分钟。包月费、接入费和一次性培训也分开列,避免把同一笔支出重复计算。

也要先问一句:这件事真的需要模型吗?如果分类标准固定、条件很明确,普通表格规则或现有软件功能可能已经够用。只有当任务里确实有大量不规则表达、人工处理又有明显负担时,才值得把模型方案拿来比较。少买一个用不上的工具,也是省成本。


用一个假设例子,把账算给自己看

下面的数字只是演算示例,不是任何模型的实测结果。

假设同样处理 100 条客服问题,方案甲的模型和工具费用是 6 元,员工准备、复核和返工总共花 60 分钟;方案乙费用是 24 元,员工总共花 20 分钟。假设这两种方案都通过了团队的质量门槛,且每条问题最终都处理完成;再假设企业人工成本是每分钟 1 元。

甲:6 元直接费用 + 60 元人工时间 = 66 元,平均每条 0.66 元。乙:24 元直接费用 + 20 元人工时间 = 44 元,平均每条 0.44 元。

只看调用费,甲更便宜;把人工时间也算进去,这个假设里乙反而更划算。真实团队的模型费用、工资和返工情况都不同,所以这个数字不能照搬。它只说明:应该按同一个任务、同一套质量标准,把自己的费用和耗时记出来再比较。

这个例子还有一个前提:两种方案都通过了质量门槛。如果乙虽然更省时间,却出现了一次严重的退款误判,就不能因为平均成本较低而直接选乙;应先修好流程、重新测试,或者把相关动作留给员工确认。成本比较是在"都达到基本要求"的方案之间做选择,不是拿低价给风险开绿灯。


一周测试只能做初筛,不是效果保证

先选一项量比较大、结果容易人工核对的工作,别拿付款、合同判断等高风险任务当练习。写清楚什么叫合格、什么错误一票否决;再用同一批脱敏样本跑当前流程和候选方案,记录费用、员工分钟数、返工数和严重错误。

先淘汰没过质量门槛的方案,再比较剩下方案的花费和时间。如果一周内任务太少、结果波动大,就延长测试;如果错误后果严重,就增加人工抽查。测试是帮你筛选,不是给模型发一张"以后永远可靠"的证书。

如果一周只遇到几条任务,这次测试就只能说明"初步看起来怎样",不能说明长期表现。可以积累更长时间,或补充已经脱敏、能代表真实情况的历史样本。反过来,即使一周处理很多条,只要任务类型单一,也要检查少见但重要的边界情况。样本数量和样本是否像真实工作,同样重要。

如果两个方案都达到质量要求、成本差异也不大,不必为了追新模型马上迁移。培训员工、改流程、接入工具都要花时间;维持现在的做法,等到需求或价格出现明显变化再复测,也是一种合理选择。比较的目的不是一定要换,而是知道换不换的依据。

记录表可以只保留八列:任务类型、方案、样本数、合格数、严重错误数、模型与工具费用、人工分钟、返工数。跑完后算"总直接费用÷合格数"和"人工总分钟÷合格数"。先用这些数据决定是否值得继续试,再决定是否要把人工时间折成钱。对小团队来说,表格里有真实数字,比讨论哪家模型"听起来更聪明"更有用。

最后把任务分成三档:简单、重复且容易检查的,可以让模型先处理再抽查;对外回复或影响较大的内容,让模型起草、由人确认;资料不全、规则不清或出错难补救的,只让模型整理问题,不让它替负责人拍板。

小公司不需要为了"最强"两个字买单。先挑一件重复工作,记录一周:花了多少钱、员工花了多少时间、结果有多少合格。再决定这项任务值不值得交给模型。


—— 半百观AI ——

小企业实用判断:不是模型越强越好,而是任务成本合适。

链接已复制