ab实验平台,ab实验平台实测价值?( 九 )


我们做AB测试的目的是优化用户体验,但是有可能我们认为有效的优化在真实上线时反而是不好的,为了避免这种情况发生对用户体验和收益的负面影响 。我们在做AB测试时尽量用小的流量来测试新的算法或者优化点,当数据证明优化点是有效的,才逐步推广到所有用户 。实验过程中如果数据不好,最多只影响到测试的这批少量用户,不至于产生大的负面影响 。
6.处理好AB测试与缓存的关系
互联网公司通过大量采用缓存技术来加速查询,同时提升整个系统的高性能、高可用能力 。当为某个功能模块做AB测试时,特别要考虑缓存情况,这时可能会存在问题 。
这里举个例子说明,如果某个用户开始是老算法策略,如果在做AB测试时,给用户分配到了新算法策略,如果有缓存的话,那么用户会从缓存获取到老算法策略,这时跟实际上用户分配到的新算法策略不一致 。
解决方案是当用户的缓存跟用户的实际分配的策略不一致时,清空缓存,让请求回源 。当然,具体实现方式可以有很多种且跟具体业务和AB测试实现方案有关,这里不详细说明 。
写在最后本文基于作者做AB测试的经验及思考来讲述AB测试的方方面面,其中关于具体实现方案这块提到了某些公司的实现方案, 是通过收集了网上的一些材料看到的,不代表现在这些公司还是采用这种实现方式 。不过本文讲到的这些实现方式确实都是可行的,并且我认为覆盖到了主流的AB测试实现方案 。
本文只详细讲解了方案3的详细落地方案,对于方案1,方案2,并未详细讲解,读者可以根据3的思路自行思考该怎么具体落地 。
由于AB测试是一个非常偏业务的模块,同时作者在公司中只做了算法这块的AB测试,对于UI、运营等的AB测试未曾涉及,所以难免有些说法有失偏颇,欢迎大家留言交流探讨 。
好了,这篇文章的内容蜀川号就和大家分享到这里!