АНАЛИТИКА И ДАННЫЕ

A/B-тестирование

Проверяем изменения сайта и маркетинга с заранее выбранными метриками, расчётом выборки и контролем качества эксперимента.

До запуска
планируем метрики и выборку
0 варианта
контроль и изменение при равном делении
Эффект и риск
оцениваем пользу и неопределённость

ОБ УСЛУГЕ

Проверяем гипотезу на пользователях, а не на предположениях

Новая форма, другое предложение или порядок блоков могут увеличить конверсию, не изменить ничего или навредить. До запуска определяем гипотезу, основную метрику, допустимый эффект, размер выборки и защитные показатели. Контролируем равномерность распределения трафика и качество измерения. По итогам принимаем решение, учитывая статистику и коммерческий смысл результата.

Когда это нужно

  • 01

    Новый дизайн кажется убедительнее

    Команде нравится новый экран, но неизвестно, помогает ли он пользователям чаще обращаться.

  • 02

    Хотят быстро выбрать лучший вариант

    Небольшое число первых конверсий создаёт впечатление победы, хотя статистика ещё неустойчива.

  • 03

    Конверсия растёт, качество падает

    Форма даёт больше заявок, но их пригодность для продаж стала хуже.

  • 04

    Нужно проверить предложение

    Есть два варианта оффера, цены, страницы или сценария, и спорить о них можно бесконечно.

  • 05

    Трафика мало

    Классический A/B-тест будет длиться слишком долго; нужно понять, какой способ проверки разумнее.

  • 06

    Тесты запускают без правил

    Нет расчёта выборки, контроля событий, фиксации периода и заранее выбранного критерия решения.

РЕЗУЛЬТАТ

Результат теста — решение, а не красивое число

  • 1Гипотеза с описанием изменения и ожидаемого поведения пользователя
  • 2Метрика успеха и защитные показатели, выбранные до запуска
  • 3План выборки и минимального различимого эффекта
  • 4Проверка распределения участников и качества событий
  • 5Анализ эффекта вместе с неопределённостью, а не только процентом роста
  • 6Решение: внедрить, повторить, изменить гипотезу или остановить

КАЛЬКУЛЯТОР ЗАЯВОК

Сколько заявок можно получать при той же посещаемости?

Посмотрите, сколько обращений могло бы приносить улучшение сайта без увеличения трафика. Затем переключите примеры: покажем, как сравнить две версии посадочной страницы и почему результат нельзя узнать заранее.

01 / Ваши данные

Посчитайте возможный результат

Введите месячный трафик и конверсию в заявку. Увидите, что может измениться без дополнительных рекламных расходов.

1 500
50050 000

Трафик на страницу, где потенциально можно получать заявки.

2%
0,5%10%

Доля посетителей, которые оставляют заявку. Начните с данных вашей аналитики.

3%
0,5%10%

Желаемый сценарий, а не гарантированный результат. Верхние значения встречаются не у всех проектов.

02 / Сколько это заявок

Пример, не прогноз

При текущей конверсии

30

заявок в месяц · 2%

Если станет 3%

45

заявок в месяц · тот же трафик

Потенциально больше обращений

+15заявок за месяц

+50% к текущему числу заявок при неизменном потоке посетителей.

Сейчас1 500 × 2% = 30
Если конверсия изменится1 500 × 3% = 45

Важно: здесь рассчитан возможный сценарий, а не результат проведённого теста. Реальное изменение конверсии может оказаться меньше, больше или отрицательным.

03 / Как проверяем изменение

Две версии страницы. Одна аудитория. Сравниваем заявки.

Выберите, что хотим изменить. Пользователей распределяем между версиями случайным образом, затем сравниваем не только количество, но и качество обращений.

Один поток: 1 500 посетителей в месяц
Группа A≈ 750 посетителей / мес.
AТекущая версия

Узнайте стоимость

Общее предложение без уточнения задачи.

Оставить заявку

Измеряем обращения и качество лидов

Группа B≈ 750 посетителей / мес.
BНовый вариант

Получите расчёт под вашу задачу

Более конкретная ценность для посетителя.

Запросить расчёт

Измеряем обращения и качество лидов

В чём смысл сравнения

Проверяем, на какое предложение люди охотнее оставляют заявку.

Вариант B не считается победителем заранее: реальные результаты появятся только после эксперимента.

Для маркетолога: сколько трафика понадобится для проверки?

Это дополнительная оценка необходимого количества участников, а не стоимость эксперимента. Используем ваши значения конверсии, две равные группы, уровень значимости 5% и мощность 80%.

На каждый вариант
3 821
посетителей
Всего
7 642
участников
Время набора выборки
≈ 6 мес.
при текущей посещаемости

При таком потоке данных небольшие различия проверяются долго. Имеет смысл обсудить, стоит ли проводить классический A/B-тест или лучше начать с более заметного изменения предложения.

Предварительный математический ориентир, не подтверждение будущего улучшения. Расчёт предполагает независимых участников, равномерное распределение и 30 дней в месяце; фактический тест может занять больше времени.

01

До теста

Гипотеза, первичная и защитные метрики, правила распределения.

02

Во время

Стабильность событий, состав аудиторий, проверка дисбаланса групп.

03

После

Величина эффекта, интервал неопределённости, качество лидов и решение.

РЕШЕНИЕ ПО ТЕСТУ

Три исхода, которые нельзя смешивать

Выберите состояние эксперимента. Корректное решение зависит не только от направления изменения конверсии, но и от качества данных.

Рекомендованное действие

Внедрять или проверять расширение

Первичная метрика изменилась в достаточной выборке, проверка данных пройдена, защитные показатели не ухудшились. Остаётся оценить коммерческую значимость.

СОСТАВ УСЛУГИ

Что вы получаете и что мы делаем

01

Гипотеза

Формулируем конкретное изменение, объясняем механизм и фиксируем предполагаемый эффект.

02

План эксперимента

Определяем аудиторию, контроль и вариант, способ назначения группы и условия остановки.

03

Метрики успеха и риска

Фиксируем основной показатель и защитные метрики, чтобы не улучшить количество за счёт качества.

04

Подготовка вариантов

Готовим варианты и проверяем их функциональность, доступность и одинаковую работу измерения.

05

Проверка измерения

Проверяем события, распределение групп и основные показатели до начала сбора результата.

06

Проведение теста

Запускаем по утверждённому правилу, не меняя метрику и сроки из-за первых красивых цифр.

07

Анализ результата

Оцениваем размер эффекта, неопределённость, качество данных и побочные последствия.

08

Решение по гипотезе

Фиксируем решение и следующий шаг, даже если разницы обнаружить не удалось.

Настраиваем под задачу

Нужен другой состав аналитики?

Подберём источники и отчёты для ваших решений.

Обсудить состав

ПРОЦЕСС

Как строится работа

  1. 1

    Гипотеза

    Фиксируем изменение, аудиторию и объяснение, почему оно должно повлиять на поведение.

    РезультатКарточка гипотезы

  2. 2

    Расчёт выборки

    Оцениваем трафик, базовую конверсию, минимально полезный эффект и длительность.

    РезультатПлан размера выборки и срока

  3. 3

    Подготовка

    Готовим контроль и вариант, настраиваем события и сохранение группы для пользователя.

    РезультатГотовый эксперимент

  4. 4

    Проверка запуска

    Проверяем одинаковое измерение в группах и исключаем ошибки назначения.

    РезультатТехническая проверка

  5. 5

    Проведение

    Проводим тест без преждевременного выбора победителя и следим за защитными метриками.

    РезультатНабор данных по плану

  6. 6

    Анализ

    Разбираем различие и его неопределённость, проверяем качество выборки и сегменты.

    РезультатОтчёт с ограничениями

  7. 7

    Решение

    Принимаем решение о внедрении или следующем эксперименте, документируем выводы.

    РезультатПлан действий

РЕЗУЛЬТАТЫ

Что получает бизнес после эксперимента

Доказательность важнее обещаний роста: проверяем, можно ли связать наблюдаемый эффект с изменением и полезен ли он бизнесу.

  • 01

    Эффект и интервал

    Показываем величину различия и диапазон статистической неопределённости.

  • 02

    Качество заявок

    Следим, чтобы новая форма не ухудшила долю подходящих обращений.

  • 03

    Состояние теста

    Фиксируем дисбаланс групп, сбои событий и иные угрозы выводам.

  • 04

    Решение по гипотезе

    Внедрить, перепроверить, изменить или отказаться — с объяснением.

Что вы видите в отчётах

  • План эксперимента

    Метрики, аудитория, размер выборки.

  • Проверки запуска

    Рандомизация и корректность событий.

  • Отчёт по эффекту

    Результаты и ограничения анализа.

  • Рекомендация

    Следующий шаг и ответственный.

От вас потребуется

  • Данные о текущей конверсии и достаточном релевантном трафике
  • Доступы для настройки эксперимента и событий или команда разработки
  • Согласование основной метрики, ограничений и бизнес-ценности эффекта

Формат работы

  • Гипотеза и предварительный расчёт реализуемости теста
  • Настройка и проведение эксперимента в согласованном объёме
  • Отчёт об эффекте, ограничениях и рекомендации

СТОИМОСТЬ

от 180 000 ₽

/ проект

2–6 недель на цикл

Итоговая стоимость зависит от объёма и сложности задачи. Точную сумму назовём после короткого разбора задачи.

Получить расчёт

Что влияет на стоимость

  • 01Количество источников данных
  • 02Состояние текущего трекинга
  • 03Сложность модели и число дашбордов
  • 04Роли и требования к отчётности

ВОПРОСЫ

Частые вопросы

  • Зависит от текущей конверсии, минимально полезного эффекта и числа групп. Для небольших изменений нужны существенно большие выборки. Рассчитываем до разработки теста.

    Обсудить по вашей ситуации
    A/B-тестирование
  • Минимальный период определяем расчётом выборки и бизнес-циклом. Не останавливаем тест потому, что один вариант случайно вышел вперёд в первые дни.

    Обсудить по вашей ситуации
    A/B-тестирование
  • Это не гарантия бизнес-эффекта. Статистический критерий помогает оценить совместимость наблюдаемого различия с нулевым эффектом; дополнительно проверяем интервал, качество данных и практический размер улучшения.

    Обсудить по вашей ситуации
    A/B-тестирование
  • Можно, но при редких сделках обычный тест может быть неэффективен. Тогда обсуждаем более частую промежуточную метрику, последовательные исследования или качественные методы — без подмены продаж кликами.

    Обсудить по вашей ситуации
    A/B-тестирование
  • Роли и объём согласуем до начала: RAF может подготовить варианты и требования к внедрению, а сложные продуктовые изменения потребуют участия вашей команды разработки.

    Обсудить по вашей ситуации
    A/B-тестирование
  • Это полноценный результат: мы уточняем возможный размер эффекта и пределы данных. Нельзя автоматически считать варианты равными или объявлять победителя без достаточных оснований.

    Обсудить по вашей ситуации
    A/B-тестирование

Расскажите о задаче

Что хотите изменить, запустить или улучшить — остальное разберём вместе.

Нажимая кнопку, вы соглашаетесь с политикой обработки персональных данных.