Page 1 sur 1

Erreurs à éviter en A/B testing : notre top 3 après 2 ans et 76 tests

par nocode1965
Publié : dim. oct. 27, 2024 2:00 pm
Thread utile pour les nouveaux : voici nos plus grosses boulettes en 2 ans de tests : 1) Stopper un test trop tôt car 'ça monte' (regression to the mean is a bitch) 2) Oublier les effets de saisonnalité 3) Tester des micro-changes sans Impact potentiel. Ajoutez les vôtres !

Re: Erreurs à éviter en A/B testing : notre top 3 après 2 ans et 76 tests

par funnelbuilder_saas
Publié : dim. oct. 27, 2024 4:00 pm
Tellement vrai ! J'ajouterais : 4) Ne pas documenter les learnings (même les tests négatifs) 5) Faire des tests sans hypothèse claire ('et si on essayait ça?' ≠ bonne pratique). On a perdu 3 mois à tester en mode aléatoire avant de se discipliner...

Re: Erreurs à éviter en A/B testing : notre top 3 après 2 ans et 76 tests

par nono33
Publié : dim. oct. 27, 2024 9:00 pm
Le pire pour nous : les interactions entre tests. Ex: un test sur la homepage + un sur le checkout en même temps = résultats illisibles. Maintenant on a un calendrier partagé et on limite à 3 tests max en parallèle sur tout le site.

Re: Erreurs à éviter en A/B testing : notre top 3 après 2 ans et 76 tests

par nocode1965
Publié : dim. oct. 27, 2024 10:00 pm
@72 Oh oui ! On appelle ça le 'test pollution'. Ajoutons aussi les problèmes techniques : un de nos tests était faussé parce que le variant B chargeait 0.7s plus lentement (merci New Relic pour debugger ça). Toujours monitorer les perfs !

Re: Erreurs à éviter en A/B testing : notre top 3 après 2 ans et 76 tests

par le_scraper
Publié : lun. oct. 28, 2024 7:00 am
Mon préféré : croire qu'un test 'gagnant' est forcément bon à déployer. Ex: un CTA rouge booste les clicks de 5%... mais augmente les chargebacks de 2% sur le long terme. Toujours cross-check avec d'autres métriques !

Re: Erreurs à éviter en A/B testing : notre top 3 après 2 ans et 76 tests

par arthur35
Publié : lun. oct. 28, 2024 2:00 pm
Je rebondis sur @203 : pareil pour les tests UX. Un changement peut améliorer la conversion instantanée mais détériorer la NPS. Depuis on fait systématiquement un survey post-test (ex: 'Pourquoi avez-vous cliqué ?') pour comprendre le 'pourquoi'. Game changer.