포지션 상세
책상 위 Mac mini 한 대에서 LLM이 돌아갑니다. 통합 메모리 덕분에 웬만한 GPU 서버보다 큰 모델을 올릴 수 있고, 전기는 훨씬 덜 먹고, 데이터는 밖으로 나가지 않습니다.
앤서랩은 이 구조를 실제 제품 수준으로 만드는 일을 합니다. 모델을 변환하고, 양자화하고, Metal과 Neural Engine을 최대한 짜내서 "이 정도 하드웨어에서 이만큼 나온다"를 만드는 작업입니다. 토큰 속도 20%를 올리기 위해 하루 종일 벤치마크를 돌리는 날도 있습니다.
정답이 정해진 일이 아닙니다. 가설을 세우고, 숫자를 보고, 다시 조정하는 반복입니다. 경력보다 그 반복을 재미있어하는 사람을 찾습니다.
취미로 로컬 LLM 돌려보신 분이라면, 이미 절반은 하고 계신 겁니다.
• Apple Silicon 환경에서 LLM·비전 모델 로컬 구동 파이프라인 설계 및 구현
• MLX / Core ML 기반 모델 변환, GGUF 양자화 적용 및 정확도 손실 최소화
• llama.cpp Metal 백엔드, Ollama 등 추론 엔진 튜닝
• Neural Engine·GPU·CPU 연산 분배 및 통합 메모리 활용 최적화
• 토큰 처리 속도, 메모리, 발열·전력 벤치마킹 및 개선
• 로컬 추론 서버의 API 서빙 및 상시 운영 구조 구축
웹/대시보드 (서브)
• 실험 결과 및 모델 성능 모니터링 대시보드 개발
• 자사 서비스 사이트 및 랜딩페이지 개발·운영
• Python 능숙, PyTorch 또는 Hugging Face 생태계 사용 경험
• 로컬에서 LLM을 직접 띄워본 경험 (도구는 무엇이든 무관)
• macOS 또는 Linux 개발 환경, Git 기반 협업
• 벤치마크 숫자로 판단하고 과정을 남기는 습관
앤서랩은 이 구조를 실제 제품 수준으로 만드는 일을 합니다. 모델을 변환하고, 양자화하고, Metal과 Neural Engine을 최대한 짜내서 "이 정도 하드웨어에서 이만큼 나온다"를 만드는 작업입니다. 토큰 속도 20%를 올리기 위해 하루 종일 벤치마크를 돌리는 날도 있습니다.
정답이 정해진 일이 아닙니다. 가설을 세우고, 숫자를 보고, 다시 조정하는 반복입니다. 경력보다 그 반복을 재미있어하는 사람을 찾습니다.
취미로 로컬 LLM 돌려보신 분이라면, 이미 절반은 하고 계신 겁니다.
주요업무
온디바이스 AI 엔지니어 (메인)• Apple Silicon 환경에서 LLM·비전 모델 로컬 구동 파이프라인 설계 및 구현
• MLX / Core ML 기반 모델 변환, GGUF 양자화 적용 및 정확도 손실 최소화
• llama.cpp Metal 백엔드, Ollama 등 추론 엔진 튜닝
• Neural Engine·GPU·CPU 연산 분배 및 통합 메모리 활용 최적화
• 토큰 처리 속도, 메모리, 발열·전력 벤치마킹 및 개선
• 로컬 추론 서버의 API 서빙 및 상시 운영 구조 구축
웹/대시보드 (서브)
• 실험 결과 및 모델 성능 모니터링 대시보드 개발
• 자사 서비스 사이트 및 랜딩페이지 개발·운영
자격요건
• AI/ML 또는 백엔드 개발 경력 1~3년, 또는 그에 준하는 결과물을 보여줄 수 있는 신입• Python 능숙, PyTorch 또는 Hugging Face 생태계 사용 경험
• 로컬에서 LLM을 직접 띄워본 경험 (도구는 무엇이든 무관)
• macOS 또는 Linux 개발 환경, Git 기반 협업
• 벤치마크 숫자로 판단하고 과정을 남기는 습관
