표준 검정
풀링한 두 비율 z 검정으로, 대부분의 A/B 테스트 도구가 내부에서 보고하는 방식입니다.
도구 / 통계적 유의성 계산기
두 안의 방문자와 전환을 입력하세요. p값, 상대 리프트, 그리고 차이가 유의한지에 대한 분명한 답을 얻을 수 있어요.
z = (p̂B − p̂A) ÷ √( p̄(1 − p̄)(1/nA + 1/nB) )
값을 입력하면 결과가 보입니다
대조군을 본 방문자 수와 그중 전환한 수입니다.
도전안에 대해서도 같은 두 숫자입니다. 전환은 방문자 수를 넘을 수 없습니다.
두 전환율, 상대 리프트, z 통계량, p값, 그리고 0.05를 통과하는지 여부를 모두 얻습니다.
B안이 앞서 있다는 것과 B안이 더 낫다는 것은 다릅니다. 이 도구는 진짜 차이와 평범한 잡음을 갈라 줍니다.
풀링한 두 비율 z 검정으로, 대부분의 A/B 테스트 도구가 내부에서 보고하는 방식입니다.
유의한 0.2% 리프트와 유의하지 않은 40% 리프트는 전혀 다른 결정을 요구합니다. 두 숫자를 모두 보여 줍니다.
판정은 관례적인 0.05 기준을 쓰고 그것을 밝힙니다. p값을 배지 뒤에 숨기지 않습니다.
두 페이지 버전의 가입률이나 구매율을 비교합니다.
오픈율이나 클릭률 차이가 잡음 이상인지 확인합니다.
같은 질문의 두 표현에서 「예」 비율을 비교합니다.
z = (p̂_B − p̂_A) ÷ √( p̄(1 − p̄) × (1/n_A + 1/n_B) ) 여기서 p̄ = (x_A + x_B) ÷ (n_A + n_B)
p̄는 두 안을 합친 전환율로, 귀무가설이 「두 비율이 같다」이기 때문에 사용합니다. p값은 그 z에 대한 양측 정규 확률입니다.
두 비율 z 검정을 씁니다. 두 안의 전환율을 풀링하고, 차이의 표준오차를 구하고, 관측된 차이를 그것으로 나눈 뒤, 그 z를 양측 p값으로 바꿉니다.
p가 0.05보다 작으면 그 차이를 관례적으로 통계적으로 유의하다고 합니다.
두 안의 성과가 정말 같다면 이만큼 큰 차이는 나오기 어렵다는 뜻입니다. 차이가 크다는 뜻도, 사업적으로 중요하다는 뜻도 아닙니다.
배포를 결정하기 전에 p값 옆의 리프트를 항상 함께 읽으세요.
기준 비율과 감지할 만한 최소 리프트에 달려 있습니다. 낮은 기준 비율에서 작은 상대 리프트를 감지하려면 안마다 수만 명의 방문자가 필요할 수 있습니다.
표본 크기 계산기가 목표 오차 한계에 대한 출발 수치를 줍니다.
아니요. 반복해서 들여다보고 처음 초록이 뜬 순간 멈추면 거짓 양성률이 5%를 훨씬 넘습니다.
표본 크기를 미리 정하고, 그만큼 돌리고, 결과는 한 번만 읽으세요.
판정은 표준 95% 수준, 즉 p < 0.05를 씁니다. 정확한 p값이 항상 표시되므로 상황에 따라 더 엄격한 기준을 적용할 수 있습니다.
두 안이 다르다는 증거가 충분하지 않다는 뜻입니다. 같다는 증명은 아닙니다. 더 큰 표본까지 계속 돌리거나, 실제 차이가 있더라도 쫓을 가치가 없을 만큼 작다는 점을 받아들이세요.
바로는 안 됩니다. 여러 안을 한꺼번에 비교하면 거짓 양성 확률이 올라가므로 보정이나 총괄 검정이 필요합니다. 카이제곱 계산기가 다중 안 전환 표를 처리합니다.
아니요. 모든 계산이 브라우저에서 이루어집니다.
새 설문 응답을 모으나요? 써 보세요: Formms 로, 짧은 링크와 QR이 있는 폼을.