[AI Frontier Div.] AI Inference Platform & Operations Engineer (5년 이상)
KRAFTON, Seoul +1
About the job
우리는 게이머의 로망을 실현하기 위해, 누구도 가지 않는 길을 갑니다. 예상을 뛰어넘는 과감한 상상력과 기술로, 전 세계 팬들이 잊지 못할 세상을 만들기 위해 담대하게 도전하고 개척합니다.
We pioneer the path to players' dreams. With bold imagination and breakthrough technology, we create unforgettable worlds for fans across the globe.
우리 팀(프로젝트)을 소개합니다.
- AI Frontier 본부는 크래프톤의 AI 기술을 실제 제품과 서비스로 연결하고, 새로운 사업 기회를 검증하고 확장하는 조직입니다. 여러 Squad가 서로 다른 고객과 시장을 대상으로 사업을 추진하며, 각 Squad는 제품 개발부터 서비스 운영과 사업 성과까지 책임집니다. 고객의 요구와 실제 사용 결과를 바탕으로 제품을 개선하고, 사업성이 확인된 서비스를 확장해 나갑니다.
- AI Inference Platform & Operations 팀은 이러한 제품들이 공통으로 사용하는 추론 기반을 만들고, 이를 바탕으로 외부 고객에게 제공하는 추론 서비스를 구축·운영합니다. 자체 모델과 오픈웨이트 모델을 빠르고 안정적으로 서비스에 연결하고, 트래픽이 성장해도 일관된 응답 속도와 가용성을 유지하며, GPU 자원과 추론 비용을 효율적으로 운영하는 것이 팀의 미션입니다.
- AI Frontier 본부 구성원들은 직급과 연차에 상관없이 의견을 내고, 결정하면 빠르게 실행합니다. 장애를 겪으면 숨기지 않고 포스트모템으로 시스템을 더 단단하게 만들고, 아키텍처와 실험 결과와 의사결정 과정을 문서로 남깁니다. AI 도구를 일상적인 개발·운영 도구로 쓰며, 새로운 모델과 서빙 기술이 나오면 바로 써보고 프로덕션에 적용할 방법을 찾는 문화를 지향합니다.
우리 팀과 함께할 미션을 소개합니다.
- 대규모 추론 서비스의 안정적인 운영과 서빙 플랫폼 개선을 중심으로 다음 업무를 수행합니다.
- 서빙 플랫폼과 control plane 구축·운영: Kubernetes 기반 GPU 클러스터에서 서빙 서비스를 운영하고, vLLM·SGLang 등 서빙 엔진과 오케스트레이션 계층을 연결합니다. 요청 라우팅, 오토스케일링, 멀티 모델 운영 기능을 구현합니다.