소개
Studio 팀은 다양한 환경에서 여러 종류의 LLM을 배포 및 운영하기 위한 서비스를 개발하며, 모델 인퍼런스 서버 관리와 학습, 배포 도구 개발을 목표로 합니다. 이 포지션은 LLMOps 도구 개발과 서버 운영, 학습 지원, 서비스 배포 및 운영 효율화를 위한 메트릭과 로그 수집 업무를 담당합니다.
하는 일
- LLMOps를 위한 도구 개발
- LLM Inference 서버 운영
- LLM 학습 지원
- 여러 환경에 서비스 배포를 위한 Packaging
- LLM 및 서비스 운영 효율화를 위한 Metric 및 로그 수집
지원 자격
- 서버 개발 관련 업무 경력 3년 이상
- API 서버 개발 가능
- RDBMS, Redis, MongoDB 활용 가능
- k8s 기반 서비스 운영 경험
우대 자격
- JVM 및 Spring 기반 서버 운영 경험
- MSA 서비스 설계 경험
- DB Schema 관리 및 Test Automation 경험
- Python, Golang 경험
- 네트워크 및 인프라 이해도 높음
- LLM 기본 이해
사용 기술
- Redis, MongoDB, Kubernetes, JVM, Spring