Three Vs-Driven MLOps at ThakiCloud ๐ โ Why Youโll Want to Join Us
ThakiCloud์์์ ์ฑ์ฅ, ๊ทธ๋ฆฌ๊ณ ๋น์ ์ ์ปค๋ฆฌ์ด ๐
โVelocity ยท Validation ยท Versioningโ(Three Vs) โ ์ด ์ธ ๋จ์ด์ ์ฌ์ฅ์ด ๋ด๋ค๋ฉด, ThakiCloud๊ฐ ๋ฐ๋ก ๋น์ ์ ๋ฌด๋์ ๋๋ค. ์ฐ๋ฆฌ๋ GPU/NPU ์ธํ๋ผ๋ถํฐ SaaS๊น์ง ์์ง ํตํฉ์ ์ด๋ฃฌ, ์ง์ง ํ์คํ MLOps๋ฅผ ์ค์ ํธ๋ํฝ๊ณผ ํจ๊ป ๊ฒฝํํ ์ ์๋ ๊ณณ์ ๋๋ค. ๊ธฐ์ ๊ณผ ๋ฌธํ, ๊ทธ๋ฆฌ๊ณ ๋๋ฃ์ ํ์ผ๋ก ๋ ๋น ๋ฅด๊ณ , ๋ ์์ ํ๊ฒ, ๋ ๋ฉ๋ฆฌ ๋์๊ฐ๊ณ ์์ต๋๋ค.
ThakiCloud์ MLOps, ์ด๋ ๊ฒ ๋ค๋ฆ ๋๋ค
1. Velocity โ ์์ด๋์ด๊ฐ ํ๋ก๋์ ์ด ๋๊ธฐ๊น์ง, ์ปคํผ๊ฐ ์๊ธฐ ์ ์
- IaaS-PaaS-SaaS ์์ง ํตํฉ: Kubernetes NodePool์ GPUยทNPU๋ฅผ ํผํฉ ๋ฐฐ์น, ์คํ์์ ์๋น ์ ํ ์ ์ฌ์ค์ผ์ค๋ง ๋น์ฉ์ด 0์ ๋๋ค.
- JupyterHub ์ด๋ฏธ์ง ์๋ ๋น๋: ๋ธ๋์น๋ง ํธ์ํ๋ฉด Helm Chart๊ฐ staging ํด๋ฌ์คํฐ์ ์ฆ์ ๋ฐฐํฌ๋ฉ๋๋ค.
- Feature Store ๊ธฐ๋ฐ ์คํ UI: ๋ฐ์ดํฐยทํผ์ฒ ๋ฒ์ ์ ํด๋ฆญ ํ ๋ฒ์ ์กฐํฉ, 15๋ถ ์์ ์ ์คํ์ ๋ฐ์นญํฉ๋๋ค.
2. Validation โ ์คํจ๋ ๋น ๋ฅด๊ฒ, ์งํ๋ ์ ํ ์ธ์ด๋ก
- Shadow Traffic ํผ๋: ์ค์๊ฐ ํธ๋ํฝ์ 10%๋ฅผ ๋ณต์ฌํด ์ฌ์ฉ์ ๋น๋ ธ์ถ ์ํ์์ ์ ๋ชจ๋ธ์ ํ๊ฐํฉ๋๋ค.
- ํด๋ฆญ๋ฅ ยทMAU โ ML ์งํ ์๋ ์ฐ๋: Prometheus + Grafana ๋์๋ณด๋์์ ๋น์ฆ๋์ค KPI์ ML ์งํ๋ฅผ ํจ๊ป ๋ชจ๋ํฐ๋งํฉ๋๋ค.
- ํด๋ฆฌ์คํฑ Safety Layer: confidence < ฯ ์์ธก์ ์๋ ํํฐ๋งํด ์ฌ์ฉ์ ๊ฒฝํ์ ๋ณดํธํฉ๋๋ค.
3. Versioning โ ๋์ปค ํ๊ทธ ํ ์ค๋ก ์๊ฐ ์ฌํ
- OCI ๋ชจ๋ธ ๋ ์ง์คํธ๋ฆฌ: ๋ชจ๋ธยทํผ์ฒยท๋ฉํ๋ฐ์ดํฐ๋ฅผ ์ด๋ฏธ์ง ํ๊ทธ๋ก ๊ด๋ฆฌ,
sha
๋ง ์ง์ ํ๋ฉด ์ฆ์ ๋กค๋ฐฑ๋ฉ๋๋ค. - ์ผ์ผ ์๋ ์ฌํ์ต: ๋ฐ์ดํฐ drift ๊ฐ์ง ์ Airflow DAG๊ฐ ์ฌํ๋ จยท๊ฒ์ฆยทํ๋ก๋ชจ์ ์ ์๋ ์คํํฉ๋๋ค.
- Fallback ๋ชจ๋ธ: SLO ์๋ฐ ์ ๋ผ์ดํธ ๋ชจ๋ธ์ด 1์ด ๋ด ํฌ์ ๋ฉ๋๋ค.
์ฐ๋ฆฌ๊ฐ ํด๊ฒฐํ Pain Point & ๋ค์ ์ฑํฐ
- Dev โ Prod ๋ถ์ผ์น โ ๋จ์ผ Helm Release๋ก ํตํฉ.
๋ค์: ๋ฉํฐ ๋ฆฌ์ ๋ฐฐํฌ ํ์คํ. - ์๋ ํญ์ฃผ โ Alert ํ๋๋ด์ผ๋ก ๋
ธ์ด์ฆ ๊ฐ์.
๋ค์: ๋ก๊ทธ ๋ ๋ฒจ root-cause๋ฅผ GPT๋ก ์๋ ๋ถ์. - Long-tail ๋ฒ๊ทธ โ Feature Slicing ๋๋ฒ๊ฑฐ๋ก ์ฌํ.
๋ค์: ๋ฐ์ดํฐ ํฉ์ฑ ๊ธฐ๋ฐ ์์ ์ฌํ ์๋ํ. - ๋๋ฆฐ ๋ฐฐํฌ โ Canary + Progressive Delivery๋ก 30 โ 5์ผ.
๋ค์: ๋ชจ๋ธยท์ต์คยท๋น์ฆํ OKR ๋ ์ด์ดํ ์ฐ๋.
ThakiCloud์์ ์ผํ๋ค๋ ๊ฒ โ ์ค์ ์ด์ผ๊ธฐ
โ์๋ฒฝ 3์, ์คํ ๋ชจ๋ธ์ด ํฐ์ก๋๋ฐ 5๋ถ ๋ง์ ๋กค๋ฐฑ!โ
MLOps Platform ํ์ B๋์ ์ด๋ ๊ฒ ๋งํฉ๋๋ค. โ์คํจ๋ ์์ฐ์ด ๋๋ ๋ฌธํ ๋๋ถ์, ์คํ์ด ๋๋ ต์ง ์์์. ํ๊ธฐ ๋ก๊ทธ๋ ํ ์ง์์ผ๋ก ๋จ๊ธฐ๊ณ , ์คํ์์ค PR์ด ๋ฐ๋ก ์ค์ ํธ๋ํฝ์ ๋ง๋๋ ๊ฒฝํ์ ThakiCloud๋ง์ ๋งค๋ ฅ์ ๋๋ค.โ
Cloud Infra ํ์ C๋์ ์ฌ์ฐ๋ ์ฌ๋ง์์ GPU๊ฐ ๋์๊ฐ๋ ์ฅ๋ฉด์ ๋ ์ฌ๋ฆฝ๋๋ค. โ๊ธ๋ก๋ฒ ์ค์ผ์ผ์ ์ธํ๋ผ๋ฅผ ์ง์ ์ค๊ณํ๊ณ ์ด์ํ๋ ๊ฒฝํ, ๊ทธ๋ฆฌ๊ณ ๋๋ฃ๋ค๊ณผ์ ํ์ ์ด ๋งค์ผ ์ฑ์ฅ์ ์๋๋ ฅ์ด ๋ฉ๋๋ค.โ
๋ชจ์ง ํฌ์ง์
Team | ๋ฏธ์ ํ๋์ |
---|---|
MLOps Platform | Feature Store ์ฌ์ค๊ณ, Pydantic ์คํค๋ง ๊ฒ์ฆ ์๋ํ |
LLMOps R&D | GPT ๊ธฐ๋ฐ ๋ก๊ทธ ๋ถ์, Self-Healing ์๋น |
Cloud Infra | GPU/NPU ํผํฉ ์ค์ผ์ค๋ง, ๋ฉํฐ ๋ฆฌ์ HA |
Data Engineering | ์ค์๊ฐ CDC + Iceberg Lakehouse ๊ตฌ์ถ |
์ง์ ๋ฐฉ๋ฒ
- GitHub / ๊ธฐ์ ๋ธ๋ก๊ทธ ๋งํฌ โ ์ปค๋ฐ์ด ๊ณง ์๊ธฐ์๊ฐ์์ ๋๋ค.
- Any-format ํ๋ก์ ํธ โ Jupyter, Dockerfile, Helm ์ฐจํธ ๋ชจ๋ ํ์ํฉ๋๋ค.
- Three Vs ๊ฒฝํ ํ ์ค โ ์: โ์๋ฒฝ 3์ ๋ชจ๋ธ ํฐ์ก๋๋ฐ 5๋ถ ๋ง์ ๋กค๋ฐฑ๐โโ๏ธโ.
ํจ๊ป ์ฑ์ฅํ ๋น์ ์ ๊ธฐ๋ค๋ฆฝ๋๋ค
Velocity ยท Validation ยท Versioning, ์ด ์ธ ๋จ์ด์ ์ฌ๋ฐ์๊ฐ ์ฌ๋ผ๊ฐ๋ค๋ฉด git push origin thakicloud
์์ ๋ง๋ฉ์๋ค.
ThakiCloud์ ํจ๊ป, ๋น์ ์ ์ปค๋ฆฌ์ด์ ์๋ก์ด ์ฑํฐ๋ฅผ ๋ํด๋ณด์ธ์.