← Назад к статьям Итоги первых тестов по ИИзи

Итоги первых тестов по ИИзи

118 просмотров
Читать в Telegram

С момента запуска прошлой заметки об ИИзи прошло уже несколько месяцев. Да, получилось не так быстро, как хотелось бы, но ошибки разберём в конце. Сначала к сути и цифрам.

Сразу важный контекст: текущая воронка рассчитана на родителей, детей подключают позже. И это сильно меняет то, как надо читать метрики. Если смотреть на всё в лоб, можно сделать неправильные выводы.

Что у нас по пользователям и поведению

За период:

По ролям среди зарегистрировавшихся (1165):

Про "домашки": мы нашли важную вещь. Дети часто не доводят ДЗ до формального "завершения" в боте, потому что на каком-то шаге уже понимают решение и уходят. Поэтому в текущей версии мы считаем прокси-метрикой "ценности" не "завершено", а "начато ДЗ" как "задача сделана с помощью бота" (по сути получили нужный инсайт).

Если смотреть на учеников (student + student/parent), их 551:

NPS по детям (только ученики):

 

Retention по действиям (лог событий)

Мы отдельно выгрузили лог действий по тем, кто реально что-то делал в продукте: там 375 уникальных пользователей и 4438 действий.

Важно: это не вся база, а именно активные (1+ ДЗ). Поэтому это не "ретеншн от всех", а "как ведут себя те, кто начал пользоваться".

Что видно:

Повторное использование в пределах 30 дней:

По типам действий контур "Решить ДЗ" сильно доминирует над режимом "Вопрос", то есть текущая "точка силы" продукта именно в домашках. По предметам лидирует математика и много запросов от пользователей на английский язык.

Про монетизацию и почему "абсолютная конверсия" нас обманывает

Мы изначально смотрели "абсолютную конверсию" в оплату подписки:

Но дальше стало очевидно: как метрику монетизации – так считать не совсем корректно, потому что часть аккаунтов (детские) технически не может оплатить, они должны донести ценность до родителей.

Поэтому мы сверили по айдишникам оплату и роли. Получилось гораздо понятнее:

То есть деньги появляются почти всегда там, где ребёнок действительно получил пользу. Это выглядит логично и в каком-то смысле "успокаивает": монетизация завязана на реальную ценность, а не на случайный "дожим".

Что из этого следует (и что делаем дальше)

  1. Интерес к продукту, очевидно, есть. Гипотеза подтверждена. Возможно, это можно было сказать и без цифр, но теперь уж точно. Сейчас видно – ценность у детей появляется быстро, и если ребёнок реально пользуется, родитель достаточно часто доходит до оплаты. Теперь нужно сделать так, чтобы таких "активных детей" становилось больше, и чтобы сценарий повторного использования был естественным.
  2. Мы всё больше уверены, что продукт "по необходимости", поэтому важнее не "ежедневный D1" (возврат на второй день/ежедневный возврат), а рост доли пользователей, которые делают 2+ учебных сессий (по факту 2+ обращений за решением) в неделю/месяц.
  3. Много людей потерялись на этапе регистрации (почти треть). Упростим максимально флоу, чтобы улучшить конверсию на этом этапе.
  4. Сократим тестовый период. Оставим только решение нескольких домашних заданий, без ограничений по времени, но с пушами в случае отсутствия действий.
  5. После доработок встроим ИИзи в одну из воронок Юкидс. Если там удастся добиться абсолютной конверсии в 2-3% на большом количестве пользователей, тогда будет принято решение о дальнейшем финансировании и развитии проекта. Если нет, то останется вот такой эксперимент.
  6. Надо понимать, что даже если на 2 этапе всё будет успешно, то в данном случае это будет означать лишь то, что мы научились конвертить пользователей при "условно 0 CAC", а чтобы экономика сходилась на платном трафике – придётся пересчитывать и тестировать снова.

Ошибки, или как делать не надо

  1. Во-первых, если это тест MVP, то тестировать надо действительно MVP. То есть упрощать всё, что можно. У нас же получилось, что на этапе переговоров возникли разногласия в видении. Юкидс хотели предусмотреть очень много вещей. Их можно понять, репутация, нежелание запускать "сырой/кривой" продукт на свою аудиторию. Но чем-то приходится жертвовать. В этот раз пожертвовали временем, получили опыт. Теперь откатываемся обратно, к упрощению.
  2. Давать тестовый период в 30 дней было ошибкой. По данным видно, что наибольший интерес и эффект понимания ценности возникает в первые дни. Оплату надо ставить в это же время. Конверсия должна вырасти.

Мысли

Сейчас мы сделали решение домашек, но это "верхний слой". Одновременно с нами таких проектов появилось много.

Ещё в самом начале, до разработки у нас была мысли, что домашние задания как сущность – постепенно будут уходить в прошлое. Ведь с развитием ИИ что ни придумывай, а всё равно соблазн списывать слишком велик. И дети будут этим пользоваться.

Если пофантазировать, то в будущем может организоваться система, при которой детям дают не домашние задания, имеющие конкретные решения, а нелинейные проекты или просто изучение темы с определённым перечнем того, что нужно понять/узнать. А вот на уроках, вместе с преподавателем, знания будут применяться и закрепляться на практике.

В таком случае, будут востребованы сервисы-репетиторы с точной информацией и различными методиками освоения материала "под капотом". Здесь очень понятная ценность и идеально заходит подписная модель.

Но пока домашки есть. Если проект продолжится, думаю, переориентируемся при необходимости.

В общем, как всегда, интересно. Продолжаем наблюдение.