포지션 상세
• Moreh는 특정 하드웨어에 종속되지 않고 다양한 AI 인프라를 효율적으로 활용할 수 있는 시스템을 개발합니다.
• Product 팀은 고성능 분산 추론 프레임워크인 MoAI Inference Framework를 개발합니다. 이 포지션은 LLM API 요청, 추론 엔진, 클러스터 상태를 연결하는 프로덕션 소프트웨어를 설계하고 구현합니다.
• 후보자의 강점과 경험에 따라 Performance Gateway, Inference Control Plane/Operator, Observability 중 하나 이상의 영역을 담당하며, 경력과 역량에 따라 기술적 의사결정을 주도합니다.
• LLM API 호환성, 요청 라우팅, fallback/retry, backpressure와 부하 분산 기능을 설계·구현하고 검증합니다.
• Disaggregated Inference, Prefix-cache-aware routing 등 분산 추론 기법을 실제 워크로드에 적용하고 성능과 안정성을 개선합니다.
2. Inference Autopilot 개발
• 서비스 구성(Preset)을 선언적으로 관리하는 Kubernetes Operator를 설계·개발합니다.
• 트래픽 패턴과 클러스터 상태에 따라 추론 서비스의 구성 변경과 스케일링을 자동화하고, 변경의 안정성을 검증합니다.
3. High-Fidelity Observability 구축
• OpenTelemetry 기반 traces, metrics, logs를 설계하고, 분산 환경의 장애와 성능 저하를 재현하여 근본 원인을 분석합니다.
• Programming: Rust 또는 Go 중 하나 이상의 언어를 사용한 소프트웨어 개발 역량
• Relevant Systems: API Gateway, 분산 시스템, Kubernetes controller/operator, ML/LLM serving 중 하나 이상의 영역에서 소프트웨어를 개발한 경험
• Engineering Judgment: 성능이나 신뢰성 문제를 지표와 재현 가능한 실험으로 정의하고 개선한 경험
• Engineering Ownership: 단위/E2E 테스트와 CI/CD 자동화로 변경 사항을 검증하고, 설계 결정·진행 상황·위험 요소와 결과를 구체적으로 공유하는 분
• Product 팀은 고성능 분산 추론 프레임워크인 MoAI Inference Framework를 개발합니다. 이 포지션은 LLM API 요청, 추론 엔진, 클러스터 상태를 연결하는 프로덕션 소프트웨어를 설계하고 구현합니다.
• 후보자의 강점과 경험에 따라 Performance Gateway, Inference Control Plane/Operator, Observability 중 하나 이상의 영역을 담당하며, 경력과 역량에 따라 기술적 의사결정을 주도합니다.
주요업무
1. Performance Gateway 개발• LLM API 호환성, 요청 라우팅, fallback/retry, backpressure와 부하 분산 기능을 설계·구현하고 검증합니다.
• Disaggregated Inference, Prefix-cache-aware routing 등 분산 추론 기법을 실제 워크로드에 적용하고 성능과 안정성을 개선합니다.
2. Inference Autopilot 개발
• 서비스 구성(Preset)을 선언적으로 관리하는 Kubernetes Operator를 설계·개발합니다.
• 트래픽 패턴과 클러스터 상태에 따라 추론 서비스의 구성 변경과 스케일링을 자동화하고, 변경의 안정성을 검증합니다.
3. High-Fidelity Observability 구축
• OpenTelemetry 기반 traces, metrics, logs를 설계하고, 분산 환경의 장애와 성능 저하를 재현하여 근본 원인을 분석합니다.
자격요건
• Production Engineering: 프로덕션 소프트웨어를 설계, 구현, 테스트, 배포하고 운영 중 문제를 디버깅·개선한 경험• Programming: Rust 또는 Go 중 하나 이상의 언어를 사용한 소프트웨어 개발 역량
• Relevant Systems: API Gateway, 분산 시스템, Kubernetes controller/operator, ML/LLM serving 중 하나 이상의 영역에서 소프트웨어를 개발한 경험
• Engineering Judgment: 성능이나 신뢰성 문제를 지표와 재현 가능한 실험으로 정의하고 개선한 경험
• Engineering Ownership: 단위/E2E 테스트와 CI/CD 자동화로 변경 사항을 검증하고, 설계 결정·진행 상황·위험 요소와 결과를 구체적으로 공유하는 분
