포지션 상세
스캐터랩 ML Researcher 의 이야기를 담았어요.
매주 새로운 LLM 모델을 배포하는 제타의 AI 팀 이야기
유저들이 일주일에 12시간 사용하는 AI 모델은 어떻게 만들어질까요?
https://blog.scatterlab.co.kr/interview-mlresearch
회사 및 제품 소개: 스캐터랩 및 제타
스캐터랩은 2024년 4월 1일 새로운 AI B2C 서비스인 '제타(zeta)'를 출시한 이후, 제품의 성장에 모든 역량을 집중하고 있습니다. 제타는 유저가 주인공이 되어 AI와 대화하며 캐릭터, 세계관, 상황이 실시간으로 변화하는 스토리 기반 엔터테인먼트 서비스입니다. 정해진 콘텐츠를 수동적으로 소비하는 것이 아니라, 유저가 선택하고 개입하며 자신만의 이야기를 능동적으로 만들어가는 경험을 제공합니다.
현재 제타는 액티브 유저 기준 하루 평균 약 2시간, 주간 평균 8시간 이상의 사용 시간을 기록하고 있습니다. 출시 이후 매월 유저 수와 매출이 빠르게 성장하며 강력한 제품 중심의 성장 곡선을 그리고 있습니다.
글로벌 확장 또한 가속화하고 있습니다. 일본에 출시된 제타는 한국과 유사한 수준의 높은 사용 시간을 기록 중이며, 공격적인 마케팅과 현지화 전략을 통해 성장하고 있습니다. 최근에는 미국에도 서비스를 출시하여 다양한 문화권의 유저들이 제타의 스토리 경험을 즐기고 있습니다. 스캐터랩은 한국과 일본에서 축적한 성공 경험을 바탕으로, 글로벌 시장에서 AI 엔터테인먼트의 새로운 기준을 만들어가고자 합니다.
- 최신 학습 방법론 적용: 제타 서비스에 최적화된 모델 구축을 위해 Continual Pre-training 및 SFT(Supervised Fine-tuning) 관련 최신 방법론을 탐색하고 적용합니다.
- 유저 선호도 최적화: 제품 내 유저 선호도와 상호작용 데이터를 분석하여 RLHF, DPO, GRPO 등 다양한 Preference Optimization 기법을 적용하고, 유저와 밀접하게 정렬된 모델을 제공합니다.
- 효율적인 서빙 전략 설계: 최소 비용으로 최대 성능을 내기 위해 Knowledge Distillation, Quantization-aware Training 등의 학습 방법론을 개발하고, Weight/KV Cache Quantization 등 캐시 친화적인 서빙 전략을 설계합니다.
- 답변 품질 극대화: Model Ensemble, Rejection Sampling 등 여러 모델의 강점을 결합하는 전략을 연구하여 실제 서비스 환경에서의 응답 품질을 높입니다.
- 모델 평가 방법론 개발: 다양한 방법론으로 개발되는 모델들을 빠르고 정확하게 평가하기 위해 A/B 테스트, Multi-armed Bandit(MAB), 자체 리더보드 등 실서비스 지표를 활용한 평가 시스템을 구축합니다.
- AI/ML 분야에 대한 탄탄한 기본기를 바탕으로, 최소 한 가지 이상의 특정 도메인에 대해 깊이 있게 이해하고 관련 프로젝트 경험을 보유한 분
- 문제를 명확하게 정의하고, 적절한 실험을 설계 및 수행한 뒤 결과를 분석해 인사이트를 도출하는 전 과정을 주도적으로 수행할 수 있는 분
- PyTorch, TensorFlow 등 오픈소스 ML 프레임워크를 활용해 학습 파이프라인을 직접 구현하고 개선해 본 경험이 있으며, Python 기반으로 실험과 개발을 빠르게 반복할 수 있는 분
매주 새로운 LLM 모델을 배포하는 제타의 AI 팀 이야기
유저들이 일주일에 12시간 사용하는 AI 모델은 어떻게 만들어질까요?
https://blog.scatterlab.co.kr/interview-mlresearch
회사 및 제품 소개: 스캐터랩 및 제타
스캐터랩은 2024년 4월 1일 새로운 AI B2C 서비스인 '제타(zeta)'를 출시한 이후, 제품의 성장에 모든 역량을 집중하고 있습니다. 제타는 유저가 주인공이 되어 AI와 대화하며 캐릭터, 세계관, 상황이 실시간으로 변화하는 스토리 기반 엔터테인먼트 서비스입니다. 정해진 콘텐츠를 수동적으로 소비하는 것이 아니라, 유저가 선택하고 개입하며 자신만의 이야기를 능동적으로 만들어가는 경험을 제공합니다.
현재 제타는 액티브 유저 기준 하루 평균 약 2시간, 주간 평균 8시간 이상의 사용 시간을 기록하고 있습니다. 출시 이후 매월 유저 수와 매출이 빠르게 성장하며 강력한 제품 중심의 성장 곡선을 그리고 있습니다.
글로벌 확장 또한 가속화하고 있습니다. 일본에 출시된 제타는 한국과 유사한 수준의 높은 사용 시간을 기록 중이며, 공격적인 마케팅과 현지화 전략을 통해 성장하고 있습니다. 최근에는 미국에도 서비스를 출시하여 다양한 문화권의 유저들이 제타의 스토리 경험을 즐기고 있습니다. 스캐터랩은 한국과 일본에서 축적한 성공 경험을 바탕으로, 글로벌 시장에서 AI 엔터테인먼트의 새로운 기준을 만들어가고자 합니다.
주요업무
스캐터랩의 ML Researcher는 제타 서비스의 핵심인 LLM의 학습부터 실제 서비스 서빙까지 이르는 전체 사이클을 주도합니다. 유저의 재미와 경험을 최우선 지표로 삼아, 제한된 자원 내에서 최고의 성능과 안정성을 갖춘 모델을 개발하기 위해 아래 업무를 수행합니다.- 최신 학습 방법론 적용: 제타 서비스에 최적화된 모델 구축을 위해 Continual Pre-training 및 SFT(Supervised Fine-tuning) 관련 최신 방법론을 탐색하고 적용합니다.
- 유저 선호도 최적화: 제품 내 유저 선호도와 상호작용 데이터를 분석하여 RLHF, DPO, GRPO 등 다양한 Preference Optimization 기법을 적용하고, 유저와 밀접하게 정렬된 모델을 제공합니다.
- 효율적인 서빙 전략 설계: 최소 비용으로 최대 성능을 내기 위해 Knowledge Distillation, Quantization-aware Training 등의 학습 방법론을 개발하고, Weight/KV Cache Quantization 등 캐시 친화적인 서빙 전략을 설계합니다.
- 답변 품질 극대화: Model Ensemble, Rejection Sampling 등 여러 모델의 강점을 결합하는 전략을 연구하여 실제 서비스 환경에서의 응답 품질을 높입니다.
- 모델 평가 방법론 개발: 다양한 방법론으로 개발되는 모델들을 빠르고 정확하게 평가하기 위해 A/B 테스트, Multi-armed Bandit(MAB), 자체 리더보드 등 실서비스 지표를 활용한 평가 시스템을 구축합니다.
자격요건
- AI 기술을 실제 제품에 적용하는 과정에 높은 관심을 가지고, 출시 이후에도 성능을 지속적으로 개선하며 고도화할 수 있는 분- AI/ML 분야에 대한 탄탄한 기본기를 바탕으로, 최소 한 가지 이상의 특정 도메인에 대해 깊이 있게 이해하고 관련 프로젝트 경험을 보유한 분
- 문제를 명확하게 정의하고, 적절한 실험을 설계 및 수행한 뒤 결과를 분석해 인사이트를 도출하는 전 과정을 주도적으로 수행할 수 있는 분
- PyTorch, TensorFlow 등 오픈소스 ML 프레임워크를 활용해 학습 파이프라인을 직접 구현하고 개선해 본 경험이 있으며, Python 기반으로 실험과 개발을 빠르게 반복할 수 있는 분
