Владимир Абазов, Александр Сальников: АБ-тесты, ограничения и альтернативы
Description
Встретились обсудить, что такое AБ-тесты, где такой подход хорошо работает и почему их все любят. Также разобрались, что может пойти не так при АБ-тестировании, какие есть ограничения и всегда ли подход Data Driven работает.
В обсуждении участвовали невероятно крутые гости: Владимир Абазов и Александр Сальников 🔥 Владимир — ex Head of Analytics Delivery Club, Ex Chief Data and Analytics Officer Koshelek, сейчас директор по аналитике нефинансовых бизнес-линий в Тинькофф. Александр — директор по аналитике в приложении Кошелёк.
Канал с анонсами https://t.me/megdu_skobok
Ламповый чат https://t.me/backend_megdu_skobkah
Boosty https://boosty.to/megdu_skobok
YouTube https://youtu.be/FPwJQPxCdDM
Полезные ссылки
📖 Как оценить влияние чего-то без АБ теста? Part 1. https://www.linkedin.com/posts/vladimir-abazov-73863489_analytics-product-abtesting-activity-7089893143499677696-K0ux
📖 Как оценить влияние чего-то без АБ теста? (Part 2) https://www.linkedin.com/posts/vladimir-abazov-73863489_augautaugaurauoauyauoauqaug-bigdata-abtesting-activity-7092524558825447424-VDcS?utm_source=share&utm_medium=member_desktop
📖 Как оценить влияние чего-то без АБ теста? (Part 3) https://www.linkedin.com/posts/vladimir-abazov-73863489_bigdata-analytics-activity-7095031205590425600-ZPgN/
📖 Switchback-тестирование. Как бороться с социальными эффектами в A/B-тестах https://medium.com/statistics-experiments/switchback-тестирование-как-бороться-с-социальными-эффектами-в-a-b-тестах-39aab4f87cf7
Таймкоды
00:00 Вводная часть, представление ведущих и анонсирование темы - АБ тестирование.
01:30 Владимир Абазов и Александр Сальников, представление гостей.
03:30 , что такое АБ-тесты, где они помогают? "Не навредил ли ты?"
06:50 , АБ-тесты: инструмент для оценки причинно-следственных связей.
08:50 Разве АБ тесты не инструмент для быстрого роста?
20:35 В некоторых случаях разумно запретить АБ-тесты?
23:25 на каком объеме пользователей делать АБ-тесты?
31:00 когда АБ-тест может не работать, и чем его можно заменить?
35:50 как изолировать друг от друга несколько последовательных тестов?
39:08 , как изолировать группы от сетевых эффектов, когда пользователи могут общаться (телеграм, мессенджер)?
45:00 Зачем АБ-тесты - как ответить на собеседовании? какие еще трюки для замены АБ-тестов существуют?
55:55 Вопросы - как построить платформу для АБ тестирования? основные сложности.
56:59 мотивация команд на правильную отправку данных в аналитику от Владимира.
58:20 жизнь вообще без АБ-тестов.
01:02:17 Data Driven подход против Vision Driven подхода...