先给结论:当同一批访客被随机或半随机地分配到两个版本,而你在51la统计系统里按汇总口径比较转化时,样本污染最可能来自版本标识没有真正隔离——要么同一访客在统计中被重复计入两个版本,要么分流规则本身把不同来源、不同设备的人分到了不同组。识别它的第一步不是看转化率差多少,而是看两组的访客构成是否可比。
样本污染有两种性质完全不同的成因,处理方式也不同。
区分方法很直接:在51la统计系统里按访客标识(如独立访客或访客ID)去重后,统计同时出现在两个版本记录里的访客数量。如果这个数量明显大于零,属于第一种;如果接近零而两组的来源、设备、新老访客比例差异明显,属于第二种。
不要只凭转化率高低下结论,因为转化差异既可能来自版本效果,也可能来自污染。可以按下面的顺序取证:
需要说明的是,重叠访客数量为零,并不能单独证明分流干净。它也可能意味着访客标识本身不稳定(例如每次会话重新生成),导致同一人被当成不同人。这时应改用更稳定的标识维度复核,而不是直接认定没有污染。
识别出污染后,是否继续用这批数据,取决于污染规模和你的决策容错度。
保留并修正适用于重叠访客占比很低、且组间构成差异可以量化和校正的情况。做法是在分析时剔除重叠访客,或按来源、设备做分层比较,而不是直接比较汇总转化。前提是你有足够样本支撑分层后的比较,否则修正后的结论依然不稳。
改写分流与统计口径适用于污染来自机制而非偶发。具体动作是统一版本标识的写入时机,确保访客在首次进入时就被固定分配,并在51la统计系统中让版本维度与访客标识绑定,而不是与某次页面浏览绑定。改完后需要重新积累一段数据,旧数据只能作为参考,不能与新数据直接拼接比较。
退出这轮比较适用于重叠比例高、或组间构成差异大到无法分层校正的情况。此时继续解读转化差异,很可能把分流缺陷误读成版本效果。退出的代价是损失已积累的观察期,收益是避免基于污染数据做出错误改版决策。
假设某页面A版有1000名访客、转化50次,B版有1000名访客、转化70次,表面看B版更好。但去重后发现两个版本共有200名重叠访客,且这200人在两版中都偏向完成转化。剔除重叠访客后,A版按800人、B版按800人重新计算,差异可能明显缩小甚至反转。这个例子只说明比较方法:重叠访客占比越高,汇总转化率越不可信。实际处理时,重叠访客的转化行为是否特殊,需要用他们各自的记录去核对,不能默认他们一定偏高或偏低。
完成上述核对后,你会得到两个关键数字:重叠访客占比,以及组间构成差异最大的维度。如果重叠占比低而构成差异集中在某个来源,下一步应检查分流规则是否对该来源失效,而不是急着改版本内容。如果重叠占比高,下一步应优先修复版本标识的写入逻辑,再决定是否重跑比较。只有当两组在去重后仍可比,版本之间的转化差异才值得作为改版依据。这个判断顺序能避免你在污染未排除时,把分流问题当成效果问题处理。