AI 플랫폼 엔지니어 (Serving) (AI Platform Engineer)

# 합류하게 될 팀에 대해 알려드려요
- AI Platform 팀은 "AI 기술을 누구나 빠르고 안정적으로 사용할 수 있는 플랫폼으로 만든다"는 미션을 가지고, 토스 전반의 AI 활용을 기술적으로 지원하고 있어요.
- Retrieval-Augmented Generation, Agent, Assistant 등 새로운 방식의 AI 시스템이 빠르게 실험되고 안정적으로 운영될 수 있도록, 필요한 도구와 플랫폼을 만들고 있어요.
- 우리가 만드는 플랫폼은 단순한 툴셋이 아니라, AI 기술이 더 많은 팀에서 실제로 쓰일 수 있게 확장성을 갖춘 구조로 설계돼요.
- 아직 정답이 정해지지 않은 문제들을 다루는 만큼, 기술적인 방향을 함께 고민하고 구조화해나가는 역할이 중요해요.
- **토스 데이터 조직에 대해 더 알아보고 싶다면?** [→ *토스 Data Division 위키*]()

# 합류하면 함께 할 업무에요
- 다양한 서빙 프레임워크(vLLM, Dynamo, Triton 등)를 운영하고 성능을 개선해요.
- 대규모 LLM 및 embedding 모델의 안정적인 실시간 서빙 환경을 구축하고 모니터링해요.
- 리소스 효율성, 추론 속도, 확장성을 고려해 시스템 성능을 지속적으로 개선해요.
- 모델 서빙 장애 대응, 배포 안정성 확보를 위한 오케스트레이션 및 자동화 작업을 함께해요.

# 이런 분과 함께하고 싶어요
- vLLM, SGLang 등 서빙 프레임워크에 컴포넌트를 연동해 성능이나 운영 방식을 개선해 본 분과 함께하고 싶어요. LLM 서빙 경험이 아니더라도 Triton Inference Server, TensorRT 등으로 추천·비전 모델의 서빙 시스템을 깊이 있게 다뤄본 경험이 있다면 좋아요
- 커널 레벨의 개발 경험이 없더라도, GPU와 모델의 기본적인 동작 방식을 이해하고 이를 바탕으로 문제를 분석할 수 있는 분과 함께하고 싶어요
- 실험 및 운영 효율화를 위한 자동화,