Skip to Content
  • オフィス

    オフィス

    北米・南米
    • Atlanta
    • Austin
    • Bogota
    • Boston
    • Buenos Aires
    • Chicago
    • Dallas
    • Denver
    • Houston
    • Los Angeles
    • Mexico City
    • Minneapolis
    • Monterrey
    • Montreal
    • New York
    • Rio de Janeiro
    • San Francisco
    • Santiago
    • São Paulo
    • Seattle
    • Silicon Valley
    • Toronto
    • Washington, DC
    ヨーロッパ・中東・アフリカ
    • Amsterdam
    • Athens
    • Berlin
    • Brussels
    • Copenhagen
    • Doha
    • Dubai
    • Dusseldorf
    • Frankfurt
    • Helsinki
    • Istanbul
    • Johannesburg
    • Kyiv
    • Lisbon
    • London
    • Madrid
    • Milan
    • Munich
    • Oslo
    • Paris
    • Riyadh
    • Rome
    • Stockholm
    • Vienna
    • Warsaw
    • Zurich
    アジア・オーストラリア
    • Bangkok
    • Beijing
    • Bengaluru
    • Brisbane
    • Ho Chi Minh City
    • Hong Kong
    • Jakarta
    • Kuala Lumpur
    • Manila
    • Melbourne
    • Mumbai
    • New Delhi
    • Perth
    • Shanghai
    • Singapore
    • Sydney
    • Tokyo
    全てのオフィス
  • アルムナイ
  • メディア
  • お問い合わせ
  • 東京オフィス
  • Japan | 日本語

    地域と言語を選択

    グローバル
    • Global (English)
    北米・南米
    • Brazil (Português)
    • Argentina (Español)
    • Canada (Français)
    • Chile (Español)
    • Colombia (Español)
    ヨーロッパ・中東・アフリカ
    • France (Français)
    • DACH Region (Deutsch)
    • Italy (Italiano)
    • Spain (Español)
    • Greece (Elliniká)
    アジア・オーストラリア
    • China (中文版)
    • Korea (한국어)
    • Japan (日本語)
  • Saved items (0)
    Saved items (0)

    You have no saved items.

    後で閲読、共有できるようにするためにブックマークしてください

    Explore Bain Insights
  • 業界別プラクティス
    メインメニュー

    業界別プラクティス

    • 航空宇宙、防衛、政府関連
    • 農業
    • 化学製品
    • インフラ、建設
    • 消費財
    • 金融サービス
    • ヘルスケア
    • 産業機械、設備
    • メディア、エンターテインメント
    • 金属
    • 採掘・鉱業
    • 石油、ガス
    • 紙、パッケージ
    • プライベートエクイティ
    • 公共、社会セクター
    • 小売
    • テクノロジー
    • 通信
    • 交通
    • 観光産業
    • 公益事業、再生可能エネルギー
  • 機能別プラクティス
    メインメニュー

    機能別プラクティス

    • カスタマー・エクスペリエンス
    • サステイナビリティ、 社会貢献
    • Innovation
    • 企業買収、合併 (M&A)
    • オペレーション
    • 組織
    • プライベートエクイティ
    • マーケティング・営業
    • 戦略
    • アドバンスド・アナリティクス
    • Technology
    • フルポテンシャル・トランスフォーメーション
  • Digital
  • 知見/レポート
  • ベイン・アンド・カンパニーについて
    メインメニュー

    ベイン・アンド・カンパニーについて

    • ベインの信条
    • 活動内容
    • 社員とリーダーシップ
    • プレス・メディア情報
    • クライアントの結果
    • 受賞歴
    • パートナーシップを結んでいる団体
    Further: Our global responsibility
    • ダイバーシティ
    • 社会貢献
    • サステイナビリティへの取り組み
    • 世界経済フォーラム(WEF)
    Learn more about Further
  • キャリア
    メインメニュー

    キャリア

    • ベインで働く
      キャリア
      ベインで働く
      • Find Your Place
      • ベインで活躍する機会
      • ベインのチーム体制
      • 学生向けページ
      • インターンシップ
      • 採用イベント
    • ベインでの体験
      キャリア
      ベインでの体験
      • Blog: Inside Bain
      • キャリアストーリー
      • 社員紹介
      • Where We Work
      • 成長を後押しするサポート体制
      • アフィニティ・グループ
      • 福利厚生
    • Impact Stories
    • 採用情報
      キャリア
      採用情報
      • 採用プロセス
      • 面接内容
    FIND JOBS
  • オフィス
    メインメニュー

    オフィス

    • 北米・南米
      オフィス
      北米・南米
      • Atlanta
      • Austin
      • Bogota
      • Boston
      • Buenos Aires
      • Chicago
      • Dallas
      • Denver
      • Houston
      • Los Angeles
      • Mexico City
      • Minneapolis
      • Monterrey
      • Montreal
      • New York
      • Rio de Janeiro
      • San Francisco
      • Santiago
      • São Paulo
      • Seattle
      • Silicon Valley
      • Toronto
      • Washington, DC
    • ヨーロッパ・中東・アフリカ
      オフィス
      ヨーロッパ・中東・アフリカ
      • Amsterdam
      • Athens
      • Berlin
      • Brussels
      • Copenhagen
      • Doha
      • Dubai
      • Dusseldorf
      • Frankfurt
      • Helsinki
      • Istanbul
      • Johannesburg
      • Kyiv
      • Lisbon
      • London
      • Madrid
      • Milan
      • Munich
      • Oslo
      • Paris
      • Riyadh
      • Rome
      • Stockholm
      • Vienna
      • Warsaw
      • Zurich
    • アジア・オーストラリア
      オフィス
      アジア・オーストラリア
      • Bangkok
      • Beijing
      • Bengaluru
      • Brisbane
      • Ho Chi Minh City
      • Hong Kong
      • Jakarta
      • Kuala Lumpur
      • Manila
      • Melbourne
      • Mumbai
      • New Delhi
      • Perth
      • Shanghai
      • Singapore
      • Sydney
      • Tokyo
    全てのオフィス
  • アルムナイ
  • メディア
  • お問い合わせ
  • 東京オフィス
  • Japan | 日本語
    メインメニュー

    地域と言語を選択

    • グローバル
      地域と言語を選択
      グローバル
      • Global (English)
    • 北米・南米
      地域と言語を選択
      北米・南米
      • Brazil (Português)
      • Argentina (Español)
      • Canada (Français)
      • Chile (Español)
      • Colombia (Español)
    • ヨーロッパ・中東・アフリカ
      地域と言語を選択
      ヨーロッパ・中東・アフリカ
      • France (Français)
      • DACH Region (Deutsch)
      • Italy (Italiano)
      • Spain (Español)
      • Greece (Elliniká)
    • アジア・オーストラリア
      地域と言語を選択
      アジア・オーストラリア
      • China (中文版)
      • Korea (한국어)
      • Japan (日本語)
  • Saved items  (0)
    メインメニュー
    Saved items (0)

    You have no saved items.

    後で閲読、共有できるようにするためにブックマークしてください

    Explore Bain Insights
  • 業界別プラクティス
    • 業界別プラクティス

      • 航空宇宙、防衛、政府関連
      • 農業
      • 化学製品
      • インフラ、建設
      • 消費財
      • 金融サービス
      • ヘルスケア
      • 産業機械、設備
      • メディア、エンターテインメント
      • 金属
      • 採掘・鉱業
      • 石油、ガス
      • 紙、パッケージ
      • プライベートエクイティ
      • 公共、社会セクター
      • 小売
      • テクノロジー
      • 通信
      • 交通
      • 観光産業
      • 公益事業、再生可能エネルギー
  • 機能別プラクティス
    • 機能別プラクティス

      • カスタマー・エクスペリエンス
      • サステイナビリティ、 社会貢献
      • Innovation
      • 企業買収、合併 (M&A)
      • オペレーション
      • 組織
      • プライベートエクイティ
      • マーケティング・営業
      • 戦略
      • アドバンスド・アナリティクス
      • Technology
      • フルポテンシャル・トランスフォーメーション
  • Digital
  • 知見/レポート
  • ベイン・アンド・カンパニーについて
    • ベイン・アンド・カンパニーについて

      • ベインの信条
      • 活動内容
      • 社員とリーダーシップ
      • プレス・メディア情報
      • クライアントの結果
      • 受賞歴
      • パートナーシップを結んでいる団体
      Further: Our global responsibility
      • ダイバーシティ
      • 社会貢献
      • サステイナビリティへの取り組み
      • 世界経済フォーラム(WEF)
      Learn more about Further
  • キャリア
    人気検索キーワード
    • デジタル
    • 戦略
    前回の検索
      最近訪れたページ

      Content added to saved items

      Saved items (0)

      Removed from saved items

      Saved items (0)

      WIRED

      Your A/B testing isn't working nearly as well as you think

      Your A/B testing isn't working nearly as well as you think

      Recent advances in statistical methods and analytics have given marketers a far more powerful and sophisticated technique through experimental design.

      著者:John Senior and Eric Almquist

      • min read

      記事

      Your A/B testing isn't working nearly as well as you think
      en

      This article originally appeared in WIRED.

      A/B testing is nothing new. It has been a staple of direct marketing campaigns for decades: Before the web, it was catalog mailers and infomercials; since coming online, it’s been used for improving websites (organizations such as Google, Amazon, and the Obama presidential campaign are famous for doing so) as well as apps, and even changing the way people write code.

      Some argue that A/B testing — which diverts a handful of users to a slightly different version of the product to find out if the new version provides better results — is not just a best practice but “a way of thinking, and for some, even a philosophy.”

      Whatever the belief, however, it’s clear that A/B testing has had, and continues to have, a significant impact on Silicon Valley and beyond. It is changing the way we do business. The question is, when does A/B testing actually stop you from C (sorry!) — seeing — enough?

      It’s clear that its very modularity can cause problems. But what about in cases where the number of tests that can be run at once is low? While A/B testing makes sense on big websites where you can run hundreds of tests per day and have hundreds of thousands of hits, only a few offers can be tested at one time in cases like direct mail. The variance that these tests reveal is often so low that any meaningful statistical analysis is impossible.

      Worse, the results don’t identify which variables caused consumers to respond.

      As a result, response rates for emails, catalogs, and other direct marketing campaign methods — still a staple of many businesses — are very low — usually less than 5% and often less than 0.5% — and they’re declining.

      A/B testing has severe limitations in these cases. But there is a better way. Recent advances in statistical methods and analytics have given marketers a far more powerful and sophisticated technique through experimental design. Experimental design works best with companies that market directly to a large number of customers, such as telecommunications firms, banks, online retailers, and credit card providers.

      Experimental design massively and deliberately increases the amount of variance in direct marketing campaigns, allowing businesses to project the impact of many variables (product offers, messages, incentives, mail formats, and so on) by testing just a few of them. How? Mathematical formulas use combinations of variables as proxies for the complexity of all the original variables.

      That allows businesses to quickly adjust messages and offers and, based on the responses, to improve campaign effectiveness not to mention the overall economics. We have seen experimental-design-based, multivariate marketing campaigns increase consumer response rates by three to eight times, adding hundreds of millions of dollars to the top and bottom lines.

      One telecommunications service provider was mailing to several million households every quarter, and response and conversion rates were declining. The telecoms company tested 18 variables including formats, promotions and messages, and then launched 32 marketing offers simultaneously to the target customer segment. At the end of the campaign, the company modeled response rates for every possible combination of variables (576 in all) — including combinations that hadn’t actually been launched in the market. The best offers achieved three to four times the response rate of the existing champion offer.

      Perhaps more importantly, the organization learned which variables cause consumers to respond. In fact, the test uncovered unexpected results. For example, the company expected that the “richest” offers — such as those offering customers expensive equipment — would spur the highest response rates. It found that those offers performed worse than others that would cost the company far less. It turned out that factors that sparked the highest response rates included the promotional period, the format of the mail piece, and the message content.

      The campaign ended up converting a much higher proportion of customers to high-value packages, which increased average revenue per user (ARPU) by 20%. This would not have been possible with an A/B testing approach.

      Of course, experimental design alone doesn’t make a business more effective. It has to be coupled with improvements in other areas of the organization:

      Capabilities. Besides the obvious need for some experts in statistical modeling, successful experimental design also means companies have to develop the skills to draw up meaningful customer segments based on needs and behavior. At the telecoms company, one segment consisted of families who wanted to be able to have services in any room. Targeting this segment with messages about technology that let them do that improved response rates. But another group of young households weren’t impressed — they valued simplicity and lower prices instead. This kind of insight, not just on straight demographics like location and income, is what allows the business to develop relevant messages, offers, and incentives.

      Training. Launching multivariate tests efficiently and making sure the resulting insights get used in subsequent campaigns usually requires some new internal processes and training. Salespeople and call-center agents may need new scripts to help them manage customer calls in response to different offers, or to effectively upsell customers to the highest-value products.

      Decision-making. Based on the financial modeling, companies should put in place financial thresholds, such as profitability targets, that serve as guardrails for subsequent campaigns. These thresholds help speed up decision-making and create a repeatable, efficient, test-and-learn model.

      The rapid spread of mobile devices and social networks have given businesses more communication alternatives than ever before. That makes for greater opportunities in direct marketing — but only if companies can uncover which attributes of the campaign actually influence customer behavior.

      By harnessing the power of massive variance, experimental design matches exactly the right offer with the right customer — from A to Z, not just A or B.

      John Senior and Eric Almquist are partners at Bain & Company, a global management consulting firm. Senior is based in New York and Almquist is based in Boston.

      著者
      • Headshot of John Senior
        John Senior
        パートナー, New York
      • Eric Almquist
        Former Advisory Partner, Boston
      関連するコンサルティングサービス
      • 顧客戦略、マーケティング
      顧客戦略、マーケティング
      Act now! Triple your direct marketing effectiveness

      Leading marketers now have a far more powerful and sophisticated technique to test direct marketing campaigns.

      詳細
      顧客戦略、マーケティング
      Is That Customer Worth Your Time?

      Allocate time with customers based on analytics, not gut instinct.

      詳細
      顧客戦略、マーケティング
      What Agency Consolidation Means for CMOs

      As agency holding companies get bigger and deeper, CMOs must rethink ownership, integration, and how to stay in control.

      詳細
      顧客戦略、マーケティング
      Too Much Marketing Technology, Too Little Impact

      Marketing leaders build tightly integrated systems that fuel growth, personalization, and real ROI.

      詳細
      顧客戦略、マーケティング
      Better Questions, Better Sales Calls

      Top reps dig deep even when the deal doesn’t close on the first contact.

      詳細
      First published in 11月 2013
      Tags
      • 顧客戦略、マーケティング

      クライアント支援事例

      顧客戦略、マーケティング Video: A Marketing Transformation Puts a Software Leader Back on Top

      ケーススタディを見る

      顧客戦略、マーケティング Inspiring retail employees to think and act like owners

      ケーススタディを見る

      顧客戦略、マーケティング Answering the call for better service

      ケーススタディを見る

      お気軽にご連絡下さい

      私達は、グローバルに活躍する経営者が抱える最重要経営課題に対して、厳しい競争環境の中でも成長し続け、「結果」を出すために支援しています。

      ベインの知見。競争が激化するグローバルビジネス環境で、日々直面するであろう問題について論じている知見を毎月お届けします。

      *プライバシーポリシーの内容を確認し、合意しました。

      プライバシーポリシーをご確認頂き、合意頂けますようお願い致します。
      Bain & Company
      お問い合わせ Sustainability Accessibility Terms of use Privacy Cookie Policy Sitemap Log In

      © 1996-2026 Bain & Company, Inc.

      お問い合わせ

      How can we help you?

      • ビジネスについて
      • プレス報道について
      • 採用について
      全てのオフィス