ABテストにおいて発生する可能性がある「セレクションバイアス」。本記事では、セレクションバイアスとは何か?というところから。セレクションバイアスを除去できる理由などを解説します。
セレクションバイアスとは、ABテストにおいてテストの効果を比較する際の対象データが異なっていることを指します。
例えばスマホアプリやブラウザの予約システムなどを用いて、あるサービスの予約件数を増やしたいと考えている場合です。予約を増やすためにクーポンの配布を検討し、その施策にどのくらいの効果があるかを検証するために、ABテストを行います。このとき、クーポンを配布した場合のデータと、配布しなかった場合のデータを両方獲得できれば、クーポン配布にどのくらいの効果があるのかを把握しやすいです。
しかし、実際にはまったく同じ会員に対するABテストを行うことはできません。クーポンを配布した会員、配布しなかった会員のデータをもとに効果を検証する形になります。ただし、会員が違えば対象とする会員の年齢層や居住地などが異なるため、必ずしも正しい効果を検証できるとは限りません。この状態を「セレクションバイアスが存在する」といいます。
セレクションバイアスが存在すると、ABテストにおける正確な検証ができなくなります。影響が大きいと思われる施策であれば、ある程度の効果検証は可能だと思われますが、そうでない場合は検証結果に大きな差がない場合は、正しいデータとして参考にすることができません。
そのほか、ABテストを行う時期によってもセレクションバイアスが生じる場合があります。季節や繁忙期、時代のトレンドなどにもABテストの結果が左右されるため、確かな検証結果を得るためには、セレクションバイアスを除去して、正しいデータを得ることが重要です。
ABテストを実施する際に、ユーザー情報をランダムにする「ランダムサンプリング」を用いることで、生じるセレクションバイアスを除去できる可能性があります。例えば先に挙げたクーポン配布であれば、配布する会員と配布しない会員の年齢層や居住地などをランダムにすることで、平均的な効果検証を行えます。ランダムサンプリングはセレクションバイアスのない状態での結果を得られる手法です。
ABテストではさまざまな施策の効果検証を行い、今後のサービス運用に有効なデータを得られます。ただし、セレクションバイアスが存在すると正しい検証結果を得られません。ランダムサンプリングなどの手法を用いることで、セレクションバイアスを除去することが可能です。
ABテストを実施する際は、ユーザーの背景をはじめとするさまざまな要素を考慮し、対策した上での検証が重要だといえます。
成果に繋がる“本気のABテスト”に必要な
おすすめのABテストツール3選
※ 参照元:DLPO公式サイト
(https://dlpo.jp/)
2011~2014年 LPOツール売上額が4年連続1位より
※ 参照元:Optimizely公式サイト
(https://optimizely.gaprise.jp/ )
2022年9月時点
※ 参照元:VWO公式サイト
(https://vwo.com/customers/)
2022年9月時点