๐ NovaRium Edu
A/B Testing Master Class Simulator
๋๊ตฌ๋ ์ฝ๊ฒ ๋ฐฐ์ฐ๋ ๋ฐ์ดํฐ ๋ถ์ ์๋ฎฌ๋ ์ดํฐ
1. ํ๋ก์ ํธ ๊ฐ์ (Overview)
"์ด๋ก ์ผ๋ก๋ง ๋ฐฐ์ฐ๋ A/B ํ
์คํธ๋ ๊ทธ๋ง. ์ง์ ํด๋ณด์ธ์!"
- NovaRium Edu๋ ์ด๋ณด ๋ถ์๊ฐ์ PM์ ์ํ ์ค์ ํ๋ จ ํ๋ก๊ทธ๋จ์
๋๋ค.
- ๋ณต์กํ ํด ์ฌ์ฉ๋ฒ์ ๋ชฐ๋ผ๋ ๊ด์ฐฎ์ต๋๋ค. ์น์ ํ 5๋จ๊ณ ๊ฐ์ด๋(Interactive Guide)๋ฅผ ๋ฐ๋ผ๊ฐ๋ค ๋ณด๋ฉด ์ด๋์ ์คํ ํ๋๋ฅผ ์์ํ๊ฒ ๋ฉ๋๋ค.
2. ํต์ฌ ๊ฐ์น (Core Value)
- Learning by Doing (์ง์ ํด๋ณด๊ธฐ)
๊ฐ์ค๋ถํฐ ๋ถ์๊น์ง, A/B ํ
์คํธ์ ์ ๊ณผ์ ์ ํ๋ํ๋ ์ง์ ์กฐ์ํ๋ฉฐ ๋ฐฐ์๋๋ค.
- Simulation & Interaction (์๋ฎฌ๋ ์ด์
)
๋จ์ํ ๋ณด๋ ๊ฒ์ด ์๋๋๋ค. MDE, ํ๋ณธ ์ ๋ฑ ์ฃผ์ ๋ณ์๋ฅผ ์ง์ ์ค์ ํด๋ณด๊ณ , ๊ทธ์ ๋ฐ๋ผ ๊ฒฐ๊ณผ๊ฐ ์ด๋ป๊ฒ ๋ฌ๋ผ์ง๋์ง ์ฆ์ ํ์ธํฉ๋๋ค.
- Experiment Retrospective (๋๋ง์ ์ฑ์ฅ ๊ธฐ๋ก)
๋จ์ํ ์ค์ต์ผ๋ก ๋๋์ง ์์ต๋๋ค. ๋ด๊ฐ ์ํํ ๋ชจ๋ ์คํ์ ์์ธํ ์ฑ์ ํ๋ก ๋จ๊ฒจ ํฌํธํด๋ฆฌ์ค๋ก ํ์ฉํ์ธ์.
3. ์ฃผ์ ๊ธฐ๋ฅ: 5๋จ๊ณ ๋ง์คํฐ ํด๋์ค (1~2)
1๋จ๊ณ: ๋ชฉํ ์ ํ๊ธฐ (Hypothesis)
- ๋ฐฐ๋ฌ ์ฑ(NovaEats)์ ๋งค์ถ์ ์ฌ๋ฆฌ๊ธฐ ์ํด "์ด๋ค ๋ถ๋ถ์ ๊ณ ์น๋ฉด ์ข์์ง" ์์ํด๋ณด๊ณ ๋ชฉํ๋ฅผ ์ ํฉ๋๋ค.
2๋จ๊ณ: ์คํ ์ค๊ณํ๊ธฐ (Design)
- ์ด ์คํ์ด ์ฐ์ฐ์ด ์๋๋ผ๊ณ ํ์ ํ๋ ค๋ฉด "์ต์ ๋ช ๋ช
์ ์ฌ๋์๊ฒ ๋ณด์ฌ์ค์ผ ํ ๊น?"๋ฅผ ๊ณ์ฐํด๋ด
๋๋ค. (Power Analysis)
- ๊ฐ๋๋ ์ผ(Guardrail): ์คํ์ด ์ฑ๊ณตํ๋๋ผ๋ "ํ๋ถ๋ฅ ์ด ์น์์ผ๋ฉด ์ค๋จํด์ผ ํ๋ค"๋ ์์ ์ฅ์น๋ฅผ ์ค์ ํฉ๋๋ค.
3. ์ฃผ์ ๊ธฐ๋ฅ: 5๋จ๊ณ ๋ง์คํฐ ํด๋์ค (3~4)
3๋จ๊ณ: ํ ๋๋๊ธฐ (Sampling)
- "์ฌ๋ค๋ฆฌ ํ๊ธฐ(Hash)" ๊ท์น์ ์ด์ฉํด ๋ฐฉ๋ฌธ์๋ค์ Aํ(๊ธฐ์กด ํ๋ฉด)๊ณผ Bํ(์๋ก์ด ํ๋ฉด)์ผ๋ก ๊ณต์ ํ๊ฒ ๋๋๋ ๊ณผ์ ์ ๋์ผ๋ก ํ์ธํฉ๋๋ค.
4๋จ๊ณ: ๋ฐ์ดํฐ ๋ชจ์ผ๊ธฐ (Collection)
- ๊ฐ์์ ๊ณ ๊ฐ 1,000๋ช
์ด ์ฑ์ ๋ค์ด์์ ๋ฒํผ์ ๋๋ฅด๊ณ ๊ตฌ๋งคํ๋ ๋ชจ์ต์ ์ง์ผ๋ด
๋๋ค.
- ์ค์๊ฐ์ผ๋ก ๋ฐ์ดํฐ๊ฐ ์ฐจ๊ณก์ฐจ๊ณก ์์ด๋ ๊ณผ์ ์ ์์ํ๊ฒ ๊ฒฝํํ ์ ์์ต๋๋ค.
- Agent Swarm: 5๊ฐ์ง ์ฑํฅ(์ถฉ๋ํ, ์ ์คํ ๋ฑ)์ ๊ฐ์ง AI ์์ด์ ํธ๋ค์ด ์ค์ ์ฑ์ ๋ฐฉ๋ฌธํ์ฌ ๊ตฌ๋งคํ๋ ํ์ค์ ์ธ ์๋ฎฌ๋ ์ด์
์ ์ ๊ณตํฉ๋๋ค.
3. ์ฃผ์ ๊ธฐ๋ฅ: 5๋จ๊ณ ๋ง์คํฐ ํด๋์ค (5)
5๋จ๊ณ: ๊ฒฐ๋ก ๋ด๋ฆฌ๊ธฐ (Analysis)
- ๋ชจ์ธ ๋ฐ์ดํฐ๋ฅผ ๋ถ์ํด์ ์ต์ข
๊ฒฐ์ ์ ๋ด๋ฆฝ๋๋ค.
- "Bํ๋ฉด์ด Aํ๋ฉด๋ณด๋ค ์ ๋ง ๋ ๋์๊ฐ?"๋ฅผ ํต๊ณ์ ์ผ๋ก ํ๋จํฉ๋๋ค. (P-value ๊ฒ์ )
4. ์ฃผ์ ๊ธฐ๋ฅ: ์คํ ํ๊ณ ๋ก (Retrospective)
๋๋ง์ ๋ฐ์ดํฐ ๋ถ์ ์ผ๊ธฐ์ฅ
- ์์ธ ์ฑ์ ํ: ๋ด๊ฐ ์คํ์ ์ด๋ป๊ฒ ์ค๊ณํ๊ณ , ๊ฒฐ๊ณผ๋ ์ด๋ ๋์ง ๊ผผ๊ผผํ๊ฒ ๊ธฐ๋กํด์ค๋๋ค.
- Drill-down View: ํด๋ฆญ ํ ๋ฒ์ผ๋ก ๊ฐ ์คํ์ ์์ธ ์งํ(Target, Metric, Lift ๋ฑ)๋ฅผ ๋ค์ ํ์ธํ์ฌ ๋ณต๊ธฐํ ์ ์์ต๋๋ค.
- ์ฃผ์ ๋ณ ๋ชจ์๋ณด๊ธฐ: '๋ฉ์ธ ๋ฐฐ๋ ์คํ', '๊ฒฐ์ ํ๋ฉด ์คํ' ๋ฑ ๊ด์ฌ ์๋ ์ฃผ์ ๋ณ๋ก ๋์ ์ฑ์ฅ ๊ณผ์ ์ ๋ชจ์๋ด
๋๋ค.
5. ์ฃผ์ ๊ธฐ๋ฅ: ์ข
ํฉ ์ํฉ์ค (Monitoring)
์๋น์ค์ ๊ฑด๊ฐ ์ํ๋ฅผ ํ๋์
- 30์ผ ํธ๋ ๋: ์ง๋ ๋ฌ์ ๋ฐฉ๋ฌธ์, ํด๋ฆญ๋ฅ , ๊ตฌ๋งค์จ ๋ณํ๋ฅผ ์ฐจํธ๋ก ํ์ธํฉ๋๋ค.
- ์๊ธฐ ๊ฐ์ง(Crisis Alert): ์งํ๊ฐ ๊ธ๋ฝํ๋ฉด "๋น์ ๊ฒฝ๊ณ "๋ฅผ ๋์ฐ๊ณ , ๋ฐ๋ก ํด๊ฒฐ ์คํ์ ์์ํ ์ ์๋๋ก ๋์ต๋๋ค.
6. ๊ธฐ์ ์คํ (Tech Stack)
- Streamlit: Python๋ง์ผ๋ก ๋น ๋ฅด๊ฒ ์น ์ ํ๋ฆฌ์ผ์ด์
ํ๋ฉด์ ๊ตฌํํฉ๋๋ค.
- DuckDB: ๋ณ๋ ์๋ฒ ์ค์น ์์ด, ๋ด ์ปดํจํฐ์์ ๋์ฉ๋ ๋ฐ์ดํฐ ๋ถ์(SQL)์ ๋น ๋ฅด๊ฒ ์ฒ๋ฆฌํฉ๋๋ค.
- Scipy: ์ ๋ขฐํ ์ ์๋ ํต๊ณ์ ๊ฒ์ (P-value ๊ณ์ฐ) ๊ธฐ๋ฅ์ ์ํํฉ๋๋ค.
- Plotly: ์ฌ์ฉ์์ ์ํธ์์ฉํ ์ ์๋ ๋ฐ์ํ ์ฐจํธ๋ฅผ ๊ทธ๋ฆฝ๋๋ค.
7. ๋ฐ์ดํฐ๋ฒ ์ด์ค ๊ตฌ์กฐ (Data)
- users: ๊ณ ๊ฐ ์ ๋ณด (๋๊ฐ?)
- orders: ๊ตฌ๋งค ๋ด์ญ (์ผ๋ง๋ ์๋?)
- assignments: ์คํ ์ฐธ๊ฐ ๊ธฐ๋ก (์ด๋ ํ์ ๋ฐฐ์ ๋๋?)
- events: ํ๋ ๊ธฐ๋ก (๋ฌด์์ ํด๋ฆญํ๋?)
- experiments: ์คํ ๊ฒฐ๊ณผ ๊ธฐ๋ก (๋ด ์คํ ์ผ์ง)
๐ Thank You
NovaRium Edu: ๊ฐ์ฅ ์ฝ๊ณ ํ์คํ A/B ํ
์คํธ ์
๋ฌธ์
1 / 11