소개
본 조직은 카카오의 AI 플랫폼을 개발 및 운영하며, 전통적인 ML 워크로드와 오픈소스 및 자체 개발 LLM 모델의 추론 서빙을 담당합니다. MLOps 역할을 수행하며 AI 모델 학습에 필요한 다양한 기능과 자원 효율화, 학습 및 추론 최적화를 위한 시스템을 개발하는 것을 주요 미션으로 합니다.
하는 일
- Kubernetes 및 Istio를 활용한 LLM DevOps 환경 구축 및 운영
- LLM 모델 추론 최적화 연구 및 개발 수행
- AI 학습에 필요한 GPU 및 스토리지 제어 시스템 개발
- 대규모 자연어 처리 모델 학습 워크로드 제어 및 자원 효율화
- Kubernetes 환경에서 AI 워크로드 관리 및 학습과 추론 최적화 기능 개발
- 코드 리뷰, 테스팅, CI/CD를 통한 서비스 품질 관리
지원 자격
- Python 또는 Golang을 활용한 백엔드 개발 경력이 5년 이상인 분
- MySql 또는 PostgreSQL과 같은 RDB를 활용한 개발 경험이 있는 분
- K8s에 대한 이해도가 높은 분
- 클라우드 환경에서의 CI/CD 경험이 있는 분
- LLM에 대한 관심이 있는 분
우대 자격
- ML 또는 AI 동작에 대한 이해도가 높은 분
- 네트워크 트러블 슈팅 경험이 있는 분
- 다양한 프로그래밍 언어 사용에 대한 거부감이 없는 분
사용 기술
- Python, Golang, MySQL, PostgreSQL, Kubernetes, Istio, CI/CD