能不能让自动评分接管,取决于该项目的判断依据能否被稳定量化。如果判断标准是“标题是否覆盖核心意图”“落地页是否与查询一致”这类可逐条核对的内容,自动评分可以承担初筛;如果判断依赖行业经验、语境取舍或对360搜索结果的整体观感,自动评分只能作为排序参考,最终结论仍要人工给出。下面给出区分条件、一个会让上述结论失效的反例,以及可以立即执行的一步动作。
把待评估项目列成一张表,逐项标注判断依据来自哪里。可量化核对的典型是:页面标题是否包含目标词、正文是否出现与查询同义的表述、结构化数据字段是否齐全、页面能否正常返回内容。这些项目即使由软件打分,人工复核也只需确认规则本身是否合理,成本很低。
需要语境判断的典型是:某段内容放在当前行业里算不算准确、某个表述会不会引起误解、同一批页面里哪一页更值得优先改。这类判断没有稳定阈值,自动评分给出的分数往往只反映它被设定的规则,而不是业务上的真实优先级。此时正确做法是让软件输出证据(命中了什么、缺了什么),而不是让它输出结论(该改哪一页、改完值不值)。
判断一个项目能不能交给自动评分,看它能否回答三个问题:扣分对应哪一条具体内容、这条内容能否被原文引用、不同人按同一规则复核能否得到相同结论。三个都能回答,自动评分可以主导;只要有一个回答不了,就必须保留人工环节。
一个实际动作是:在评分结果里增加一列“证据链接”,要求每个扣分项都能指回具体页面片段。执行后如果发现大量扣分项无法定位,说明当前规则颗粒度太粗,下一步应先细化规则,而不是直接按分数安排修改顺序。
假设某团队把“标题长度在某个区间内”设为高分条件,自动评分因此把一批短标题判为不合格。人工复核时却发现,这些短标题对应的查询本身就很短,页面在360搜索中的展现意图与长标题并无差别。此时自动评分没有错,错在把一条形式规则当成了业务标准。一旦出现这种情况,原先“可量化即可交给软件”的结论就不再成立,因为被量化的对象已经不是真正要判断的东西。
识别这类反例的信号是:自动评分结论与人工抽样的结论出现系统性偏差,且偏差集中在某一类页面上。这时不要调高或调低阈值来凑结果,而要先确认该类页面的判断标准是否被写进了规则。
取一批具有代表性的页面,先由人工独立给出优先级排序,再与自动评分排序对照。如果两者在前几项上一致,可以把一致的部分交给软件批量处理;如果分歧集中出现,就保留人工判断,把软件降级为证据收集工具。这个动作的结果直接决定下一步:一致则扩大自动处理范围,分歧则先修规则或改判断口径,而不是继续扩大样本。
需要提醒的是,具体工具是否支持证据导出、规则自定义到什么颗粒度,属于会随版本变化的信息,使用前应以该工具当前实际提供的说明为准,不要依据旧教程或他人描述直接推断。
把判断权交给软件还是留给人,本质上不是工具能力问题,而是你的判断标准有没有被写成可核对的规则。规则写得越具体,能放手的部分就越多;规则写不出来的部分,就是必须保留人工的地方。