Votre test A/B est-il vraiment gagnant ?
Saisissez les visiteurs et les conversions de chaque version, ou leur chiffre d’affaires. Le moteur de Probant donne la fourchette de l’écart, contrôle la répartition des visiteurs, et tient compte du nombre de fois où vous avez regardé le résultat.
Valeurs préremplies : le test « Barre de livraison gratuite » de la boutique de démonstration (Maison Lune, fictive), au jour 18.
Verdict
Probant. Gain prouvé
Le taux de conversion progresse de +3,9 %, fourchette de +0,7 % à +7,2 %.
- Taux de conversion
- 20,0 % → 20,8 %
- Valeur p
- 0,016score z 2,40, seuil 1,96
- Répartition (SRM)
- normalevaleur p 0,808, alerte sous 0,001
Même prouvé, un gagnant peut être faux : avec 10 % d’idées qui marchent (valeur publiée par défaut) et une puissance de 80 %, 22 % des gagnants de ce type n’ont aucun effet réel (Kohavi, Deng et Vermeer, 2022). Le gain annoncé, lui, est en moyenne trop beau : Probant le corrige sur vos tests passés.
Pourquoi le gain annoncé est trop beauLe même résultat, lu une fois ou chaque jour.
Taux de conversion du test « Barre de livraison gratuite » : 20,0 % pour l’originale, 20,8 % pour la variante, soit +3,9 % (score z 2,40). Lu une seule fois, à la fin prévue, le résultat franchit le seuil de 1,96 : la variante gagne.
Lu chaque jour pendant 18 jours, le même chiffre ne prouve plus rien : à ce rythme, 23,7 % des tests sans aucun effet réel déclarent un gagnant, au lieu de 5 %. C’est pourquoi Probant fixe ses contrôles avant le lancement et les lit avec les bornes d’O’Brien-Fleming.
Quatre contrôles, tous faits par le moteur.
L’écart et sa fourchette.
Écart relatif B / A − 1, testé sur la différence des moyennes ; sa fourchette à 95 % est celle de Fieller, qui ne contredit jamais la valeur p. Voir la fourchette et la valeur p.
La répartition des visiteurs.
Test du khi-deux contre la répartition prévue ; sous 0,001, le verdict est bloqué. Voir le SRM.
Les lectures répétées.
Pour une lecture, le seuil classique ; jusqu’à 5 lectures, la dernière borne d’O’Brien-Fleming (Jennison et Turnbull, 2000) ; au-delà, aucun seuil connu. Le vrai risque vient d’une simulation de tests A/A, comme sur le simulateur A/A.
Le risque de faux positif.
Parmi les gagnants déclarés dans les mêmes conditions, la part qui n’a aucun effet réel (Kohavi, Deng et Vermeer, « A/B Testing Intuition Busters », KDD 2022). Voir aussi le biais du gagnant.
Avant le test, le calculateur de durée dit combien de visiteurs il faut. Le calcul tourne dans votre navigateur ; aucune donnée n’est envoyée.
Questions fréquentes.
Mon test est significatif : puis-je l’arrêter ?
Seulement si vous ne l’avez regardé qu’une fois, à la fin prévue. Chaque regard où vous auriez pu l’arrêter augmente le risque de faux gagnant : lu chaque jour pendant 18 jours au seuil de 5 %, un test sans aucun effet réel déclare un gagnant dans 23,7 % des cas. Indiquez le nombre de regards : l’outil applique le seuil qui garde le risque annoncé.
Qu’est-ce que le contrôle SRM ?
Il vérifie que les visiteurs se sont répartis entre les versions comme prévu, par un test du khi-deux. Sous une valeur p de 0,001, un défaut d’affectation ou de mesure est presque certain, et l’écart observé ne veut plus rien dire, même s’il paraît net.
Pourquoi un gagnant prouvé peut-il être faux ?
Parce que la plupart des idées testées ne changent rien. Avec 10 % d’idées qui marchent, une puissance de 80 % et un seuil de 5 %, 22 % des gagnants déclarés n’ont aucun effet réel (Kohavi, Deng et Vermeer, 2022). Indiquez votre propre part de gagnants pour un chiffre qui vous ressemble.
Pourquoi l’outil ne corrige-t-il pas le gain du biais du gagnant ?
Parce qu’il faut pour cela les tests passés de votre équipe : ils disent quelle taille d’effet est plausible chez vous. Aucune valeur publiée n’est assez sûre pour les remplacer. Probant fait cette correction dans chaque rapport, sur votre bibliothèque de tests.
Mes données sont-elles envoyées quelque part ?
Non. Le calcul tourne dans votre navigateur ; rien n’est envoyé ni gardé.
Préparer ce test
Le plan d’un test calcule la même durée avec le trafic mesuré de votre boutique, fixe ses contrôles et les scelle avant le premier visiteur.
- Démo ouverte, sans inscription
- Création gratuite, sans dépassement facturé
- Base et calcul à Amsterdam, chez Scaleway