スプリットテスト - 多変量テスト

複数の要因が設計の成功にどのように影響するかを定量的に検証する
Contributed by

Val Yonchev

Published December 17, 2018
Collection
1

概要

多変量解析、別名多変量テストは、製品のパフォーマンスに対する複数の異なる要因の影響を知るための製品テストアプローチです。

メリット

この方法は、製品/サービスのパフォーマンスに対する様々な要因の影響を評価する際に、多大な労力と時間を節約することができます。複数の要因が絡むと、A/Bテストの実行は難しいか不可能になり、A/Bテストでは要因の相互作用について本当の意味で答えを出すことはできません。

テストの結果は、最終的に、どの要素(例えば、機能)の組み合わせが最高のパフォーマンスを達成するのかという問いに対する答えを提供するでしょう。

そのため、このプラクティスは製品開発のピボットフェーズにおいて重要なプラクティスの一つとなっています。

実施方法

製品のパフォーマンスに影響を与える(潜在的な)要因が多数ある場合、A/Bテストのアプローチでは、一度に特定の要因(AとB)の2つの異なる値でしか製品性能の違いをテストできないため、膨大なテストと時間が必要になります。また、A/Bテストでは、要因間の相互強化の可能性を知ることはできません。

そこで登場するのが、多変量解析テストです。A/Bテストとは異なり、多変量解析テストでは、複数の異なる要因ごとに複数の異なる製品バージョンを設計することができます。A/Bテストと同様に、すべての異なる製品バージョンが本番環境で稼働し、顧客はランダムに異なるバージョンにリダイレクトされます。異なるバージョンでの顧客とのやりとりの結果は、生データとして収集されます。

そして、収集したデータに対して統計的分散分析(ANOVAまたはMANOVA)を行うことで、各要因の影響や、それらの要因の相互作用を理解することができます。

多変量解析テストでは、統計的に有意な量のデータを得るために、製品とのトランザクションやインタラクションを増やす必要性に注意することが重要です。データが不十分な場合、結果は母集団全体を代表するものではなく、すなわち意味のないものとなります。

多変量解析テストのバリエーション考慮点:

  • 要因実験(Full factorial testing) - 要因のすべての可能な組み合わせのテスト
  • 一部要因テスト(Fractional factorial testing) - 要因の部分的な組み合わせのみをテスト
  • タグチメソッド(Taguchi testing) - ヒューリスティックや他の方法を用いて定義された部分的な組み合わせ

関連プラクティス

スプリットテスト - A/B テスト

実験計画法

実施例

参考

スプリットテスト - 多変量テスト をチームや顧客、ステークホルダーと実施するにあたりより詳細にお知りになりたい場合は、以下のリンクを参照してください。


Except where noted, content on this site is licensed under a Creative Commons Attribution 4.0 International license. This site is graciously hosted by Netlify