先给结论:把自动评分当作筛选器而非裁决器,人工只处理评分边界内和边界外的样本,是防止自动评分替代人工判断的核心做法。具体说,让评分负责排序和分流,让人负责判定“这条线索是否值得跟进”“这篇内容是否真的对目标人群有用”,并且定期用人工标注过的样本回测评分的分档是否仍然成立。如果评分直接决定资源分配、预算去留或内容取舍,人工判断就已经被替代了。
假设你在一款网络推广软件里配置了一套线索评分规则,依据是访问深度、表单填写完整度、下载行为三项。你先手动看了十个样本,发现高分线索确实更接近成交,于是把评分直接接入了跟进优先级。规模扩大到一千条之后,问题出现了:一批评分很高的线索来自同一类泛需求页面,用户只是顺手填了表单;而一批评分中等的线索来自细分需求页面,用户填得少但意图明确。前者占用大量跟进人力,后者被排在后面延误了。
这个情境说明的不是评分规则写错了,而是样本量变化后,评分所依赖的特征与真实意图之间的对应关系发生了偏移。十个样本时你还能靠记忆补足上下文,一千个样本时只能依赖分数本身,人工判断就被挤出去了。要防止这件事,需要在流程上留出人工介入的位置,而不是在评分之外再补一句“仅供参考”。
判断自动评分是否已经越界,可以看它在流程中承担的是哪一类角色。
一个可执行的动作是:在评分输出后加一道抽样复核。比如每天从每个分档里各抽固定数量的样本,由人工给出“值得跟进/不值得跟进”的判断,记录与评分不一致的条目。连续观察一段时间后,如果某个分档的不一致比例持续偏高,说明该分档的阈值需要调整,而不是继续按原分数执行。这个动作的结果直接影响下一步:不一致集中在哪个分档,就先调整哪个分档的边界,而不是整体推翻评分。
评分失效时,总量指标往往看不出来。跟进量、转化量可能都没明显变化,但结构已经变了。要区分原因,需要把结果拆到能对照的维度上。
这里要提醒一点:抓取量、请求量或某个行为计数下降,不能单独证明评分出了问题。它也可能是页面改版、投放素材更换、季节性波动或统计口径调整造成的。要确认是不是评分的问题,需要同时看人工复核的不一致记录,两者指向同一处时再动手改。
人工判断容易被自动评分替代,往往不是因为人不想看,而是因为流程里没有给人留出固定位置。可行的做法是把人工判断变成有明确触发条件的动作。
这些动作的价值在于,它们让评分和人工判断各自有明确的分工,而不是让评分先跑、人工再补。补的位置越靠后,人工能改变的空间越小。
要确认评分是否仍然可以作为主要依据,最直接的办法是回测。保留一批已经由人工判断过、并且知道后续实际结果的样本,用当前评分重新打分,看分档与人工判断的吻合程度。如果吻合度在可接受范围内,评分可以继续承担排序和分流;如果吻合度下降,先定位是哪个分档、哪个特征出了问题,再决定是调整权重还是把该分档交回人工。
回测时要注意,样本本身要有代表性。只拿最近一周的样本回测,可能刚好赶上一次投放调整,结论会偏。把不同来源、不同时间段的样本混在一起看,比只看总量更有参考价值。回测的结论只用于判断评分当前是否适用,不构成对任何具体工具功能的断言;如果你使用的网络推广软件提供评分或分档功能,具体入口、可调参数和数据保留情况需要以该工具当前实际提供的说明为准。
回到最初的问题:防止自动评分替代人工判断,靠的不是降低评分的权重,而是把人工判断放在评分无法覆盖的位置上——临界样本、新来源样本、与评分不一致的样本。评分负责把大量样本压缩成可处理的队列,人负责判定队列里的样本是否真的值得投入。两者各管一段,规模化之后才不容易失守。