๊ธ๋ 7๊ธฐ ๋ค์ง๊ธ
๐ ๊ธ๋๋ฅผ ์์ํ ์ด์
์๋ ์นํ ์ง์ธ์ผ๋ก๋ถํฐ ๊ธ๋(๊ธ์ฐ๋ ๋๋ผ์ด๊ฐ ์ธ์์ ๋ฐ๊พผ๋ค)๋ผ๋ ๋ชจ์์ ์๊ฒ๋์๋ค. ๊ทธ๋ฆฌ๊ณ ์ฌํด 7๊ธฐ๋ฅผ ๋ชจ์งํ๋ค๋ ์์์ ๋ฃ์๋ง๋ค ๋ฐ๋ก ์ ์ฒญํ๋ค. ์๊ทธ๋๋ ์์ฆ ์ง์ฅ์์ ์ฌ๋ด ๋ธ๋ก๊ทธ๋ฅผ ์์ฑํ๋ฉด์ ๊ธ์ฐ๋ ์ต๊ดํ์ ๋ํ ํ์์ฑ์ ๋ง์ด ๋๊ผ๊ณ ๋ด๊ฒ ๋๋ ์์ด ์ข์ ๊ธฐํ๋ผ๊ณ ์๊ฐํ๋ค.
๐ ๊ธ๋๋ฅผ ํ๋ฉด์ ๋ด๊ฐ ๋ฌ์ฑํ๊ณ ์ถ์ ๋ชฉํ
๊ธ๋๋ 5์ 1์ผ OT๋ฅผ ์์์ผ๋ก 10์๊น์ง ์ฝ 6๊ฐ์์ ํ๋์ผ๋ก ์ด๋ค์ง๋ค. ์ฐ์ ์ ์ผ๋ก ๋ฌ์ฑํด์ผ ํ๋ ๋ชฉํ๋ 2์ฃผ์ ํ๋ฒ ๋ชปํด๋ ์ต์ 10ํ์ ๋ธ๋ก๊ทธ ๊ธ์ ๊ธฐ์ฌํ๋ ๊ฒ์ด๋ค. ๋ฌผ๋ก ์ด ๊ณผ์ ์๋ ๋ค๋ฅธ ์ฐธ๊ฐ์์ ๊ธ์ ์ฝ์ผ๋ฉด์ ๋ฐฐ์ธ์ ์ ์ฐพ๊ณ ํผ๋๋ฐฑํ๋ ๊ณผ์ ๋ ํฌํจ๋๋ค. ์ด๋ฒ ๊ธฐ์๋ฅผ ๋ฌด์ฌํ ์กธ์ ํ๊ธฐ ์ํ ์ ๋์ ์ธ ๋ชฉํ๊ฐ ์กด์ฌํ์ง๋ง, ๊ฐ์ธ์ ์ผ๋ก ์ธ์ด ๋ชฉํ๋ ๋ค์๊ณผ ๊ฐ๋ค:
1. ๋ชจ๊ฐ๊ธ์ ๋ชจ์งํ๊ฑฐ๋ ์ฐธ์ฌํ ๊ฒ
๋์๊ฒ ์ต๊ดํ๋ฅผ ์ํ ๊ฐ์ฅ ๋น ๋ฅธ ๋ฐฉ๋ฒ์ ๊ฐ์ ์ฑ์ด๋ค. ํนํ ์ด๋ ๊ฐ์ด ํ๋ ์ฌ๋์ด ์์ ๋ ์๋์ง๊ฐ ๋๋ค. ๊ทธ๋ฐ ์๋ฏธ์์ ์ด๋ฒ ์ฐธ์ฌ์์ ์์ผ๋ก ๋ชจ๊ฐ๊ธ(๋ชจ์ฌ์ ๊ฐ์ด ๊ธ์ฐ๊ธฐ)๋ฅผ ํ ํ์๋ค์ ๋ง๋ค๊ณ ์ถ๋ค. ์ข์ ์ฌ๋๋ค๊ณผ ๊ณ์ ์ด์ด๋๊ฐ ์ ์๋ ๋ชจ๊ฐ์ฝ๋ ๊ตฌํ๊ณ ์ถ์๊ฒ ๊ฐ์ธ์ ์ธ ์๋ง์ด๋ค.
2. ๋ง๊ตฌ์ก์ด๋ก ์จ๋์ ๊ธ๊ฐ์ ๊ธ๋ก ๋ง๋ค์ด ํผ๋๋ฐฑ ๋ฐ์ ๊ฒ
๋ถ๋๋ฝ๊ฒ๋ 2020๋ ์ด์ง ์ดํ ๋จ ํ๋ฒ๋ ํฌํธํด๋ฆฌ์ค๋ฅผ ์ ๋ฐ์ดํธํ์ง ์์๋ค. ๋๊ตฌ๋ ๊ฐ๋ฐ์๋ก ์ปค๋ฆฌ์ด๋ฅผ ์ ํฅํ๋ฉด์ ๋ฐฐ์ด ๋ง์ ๋ด์ฉ๋ค์ ์ฐฌ์ฐฌํ ์ ๋ฆฌํ ์๊ฐ๋ ์ ๋๋ก ๊ฐ์ง ๋ชปํ๋ค. ์ฌ์ค ์กฐ๊ธ ๋ณ๋ช ์ ๋ณดํ์๋ฉด ํ๋ฃจํ๋ฃจ ์๋ก์ด ๋ด์ฉ์ ๋ฐฐ์๋๊ฐ๊ธฐ ๋ฐ๋นด๋ค๊ณ ๋งํ๊ณ ์ถ๋ค.๐ญ ๋๋ ๋ฏธ๋ฃจ์ง ์์์ผ ๊ฒ ๋ค๊ณ ๋ค์งํ๊ณ , ์ด๋ฒ ํ๋์ผ๋ก ๋จธ๋ฆฌ์์ ํฉ์ด์ง ์ง์๋ค์ ์ ๋ฆฌํ๋ ์๊ฐ์ ๊ฐ์ง ๊ฒ์ด๋ค.
3. ๋ค๋ฅธ ์ฐธ๊ฐ์์ ๊ธ์ ํผ๋๋ฐฑํ๋ฉฐ ์ข์ ํํ์ด๋ ๊ธ๊ท, ๋ชฉ์ฐจ ๊ตฌ์ฑ๋ค์ ๋ฐฐ์ธ ๊ฒ
๋จ์ํ ๋ฐฐ์ด๋ค๊ณ ๋๋ฃจ๋ญ์คํ๊ฒ ํํํ๋ฉด ํ์ง๋ถ์ง๋ ๊ฐ๋ฅ์ฑ์ด ๋๋ค. ๊ตฌ์ฒด์ ์ผ๋ก ์ข์ ๊ธ๊ท๋ ์ ๊ฐ๋ฐฉ์์ ์ ์ด๋์๋ค๊ฐ ๊ธ๋ ๋ง์ง๋ง ์์ฑ๊ธ์ ๋ฐฐ์ด์ ์ ํฌํจ์ํค๋ ๊ฒ์ ๋ชฉํ๋ก ํ๊ณ ์๋ค.
๐ ๊ธ๋๋ก ์์ฑํ ๊ธ๊ฐ๋ค
๊ฐ๋ฐ์๋ก ์ ํฅํ ์ดํ์ ๋ฐฐ์ธ์ ๋ค์ ์ฃผ๋ก ์ ๊ฒ ๋ ์์ ์ด๋ผ ์์ฌ๋ค์ด ์ ๋ถ ๊ฐ๋ฐ์ ์น์ฐ์น ๊ฒ ๊ฐ๋ค. ์ฐ์ ์๊ฐํ๊ณ ์๋ ๊ธ๊ฐ๋ค์ ๋ค์๊ณผ ๊ฐ๋ค:
- ๋ถ์ฐํ์ต
- ๋ถ์ฐํ์ต ๋ฑ์ฅ๊ณผ DP ์ MP
- ZeRO Infinity
- ๋ถ์ฐํ์ต ํ ํฌ๋๊ณผ ๋๋ฒ๊น ๋ ธํ์ฐ
- Kubernetes
- Kubernetes ๋์์๋ฆฌ ๋ฐ ๋คํธ์ํฌ
- Kubernetes scheduler ์ปค์คํฐ๋ง์ด์ง
- DevOps
- helm chart ๋ก ๋ฐฐํฌํ๊ธฐ
- ansible ๊ณผ ansible playbook
- MySQL๊ณผ MongoDB๋ก ํ์ธํ๋ SQL๊ณผ NoSQL ์ฐจ์ด
- Golang ํํด์น๊ธฐ
- Prometheus์ Grafana
- ๊ทธ ์ธ
- ์ฃผ๋์ด ๋์ฝ์ ์ํ ๊ณ ๊ตฐ๋ถํฌ๊ธฐ, ๊ฐ๋ฐ์๊ฐ ๊ณ์ ์ฑ์ฅํ๊ธฐ ์ํด์๋
- pytorch dataloader, python GIL ๋ฌธ์
- Ceph ๊ณผ lustre, ๊ทธ๋ฆฌ๊ณ DDN
- IT ๊ธฐ์ด ์ง์ : ์ปดํจํฐ ๊ตฌ์กฐ, ์ด์์ฒด์ ์ ๋ฆฌ๋ ์ค
- Profiling ๋ฐฉ๋ฒ
- GPU ์ญ์ฌ์ MIG
- ์ ํํฌ ์ง์๋ค...
๋ค์ง
์ฌ์ค ์๋ก์ด ๋์ ์ ํ ๋๋ง๋ค ํญ์ ์ฝ๊ฐ์ ๊ฑฑ์ ์ด ๋๋ฐ๋๋ค. ์ ํ ์ ์์๊ฑฐ๋ผ ๋ฏฟ์ผ๋ฉด์๋ ์๋ก์ด ํ๋์ ๋ ์น์ด์ง ์์์ง ๋๊น์ง ํ ์ ์์์ง ๊ณ ๋ฏผ๋๋ ๊ฑด ์ด์ฉ ์ ์๋ ๊ฒ ๊ฐ๋ค. ๊ทธ๋ฌ๋ ์ฌ๋ฌ ํ๊ณ๋ก ์์์ ๋ฏธ๋ฃฐ์๋ก ์คํ๋ ค '์ ์ผ์ฐ ํ ๊ป' '์ ํ ์ ์์๋๋ฐ ์๊ฐ์ ํ๋ ค๋ณด๋๊ตฌ๋' ํ๋ ์๊ฐ๋ง ๋์๋ ๊ฒ ๊ฐ๋ค.
์ด๋ฒ ํ๋์ด ๋์๊ฒ ํ ๋ณด ๋ ์์ผ๋ก ๋์๊ฐ๋ ์๊ฐ์ด ๋๊ธฐ ์ํด์ ๋ถ๋ํ ๋ ธ๋ ฅํ ๊ฒ์ด๋ค. ์ธ์ ๋ ๊ทธ๋ ๋ฏ ๊ณผ์ ์ค์ ์ง์น๊ฒ ์ง๋ง ๋๋๊ณ ์๋ ๋๋ฅผ ์๊ฐํ๋ฉฐ ๋ฌ๋ ค๋ณด๊ณ ์ ํ๋ค. ์์์์ ํ์ดํ ๐ช