포지션 상세
에임인텔리전스는 `AI 탈옥(Jailbreak)` 문제를 해결하는 AI 보안 스타트업입니다.
AI 탈옥이란, 프롬프트 인젝션 등을 통해 생성형 AI가 설계 의도를 벗어나 잘못된 정보 전달(환각), 민감 정보 유출, 서비스 실패 등을 일으키는 모든 공격 행위를 말합니다.
에임인텔리전스는 해당 문제의 정복을 목표로 AI의 취약점을 진단하고, 모델의 비정상적 입/출력값을 실시간으로 탐지·차단하는 모더레이션 API 형태의 솔루션을 제공하고 있습니다.
에임인텔리전스의 장기적인 목표는, AI가 스스로 위험을 판단하고 제어할 수 있는 `인공지능의 메타인지 능력`을 구현하는 것입니다.
에임인텔리전스는 현재 `KT, SKT, LGU+, KB국민카드, 우리은행, KB증권` 등 주요 통신사·금융기관과 협업하고 있으며, `Meta Llama Impact Innovation Award, Anthropic 버그바운티 선정` 등 기술력을 인정받고 있습니다.
AI의 신뢰성과 안전성을 책임질 새로운 표준을 함께 만들어갈 동료를 기다립니다.
오픈소스 모델을 파인튜닝하고 최적화하여 위협을 탐지하고, 유해 콘텐츠를 필터링하며, 엔터프라이즈 규모에서 AI 안전을 보장할 수 있는 높은 정확도와 효율성을 갖춘 안전 분류기를 만드는 작업을 수행하게 됩니다.
핵심 업무 - 모델 개발 및 최적화
• 가드레일 특화 사용 사례를 위한 오픈소스 SLM(Llama, Phi, Qwen, Gemma) 선택 및 평가
• 분류 및 탐지 작업에 모델을 적응시키기 위한 파라미터 효율적 파인튜닝(LoRA, QLoRA, PEFT) 구현
• 특정 가드레일 기능을 위한 라벨링된 안전 데이터셋으로 supervised fine-tuning(SFT) 적용
• 최소한의 정확도 손실로 2-4배 추론 속도 향상을 위한 양자화(GPTQ, AWQ, INT4/INT8) 적용
• 새로운 위협 패턴에 빠른 적응을 위한 few-shot learning 구현
• 모델 정확도 향상 및 false positive/negative 감소를 위한 실험 설계 및 수행
• 가드레일 효과성을 위한 포괄적인 평가 프레임워크 개발(정밀도, 재현율, F1 점수)
• 지연시간, 처리량, 안전성 트레이드오프 측정을 위한 벤치마크 생성
• ML/AI 모델 개발 분야 2-6년 이상 경력
• Python 및 ML 프레임워크(PyTorch, Transformers, Hugging Face 생태계) 강력한 숙련도
• 분류 작업을 위한 트랜스포머 아키텍처 실무 경험
• 오픈소스 모델에 대한 모델 파인튜닝(LoRA, QLoRA, PEFT) 검증된 경험
• 모델 최적화 기법(양자화, 프루닝)에 대한 깊은 이해
• 안전 및 위협 탐지를 위한 라벨링된 데이터셋으로 모델 학습 경험
• 모델 성능 및 트레이드오프(정확도, 지연시간, 처리량) 평가 경험
기술 기반
• 머신러닝 기초 및 딥러닝에 대한 탄탄한 이해
• 분류/탐지 작업을 위한 지도학습 경험
• 데이터 전처리, 피처 엔지니어링, 데이터셋 큐레이션 숙련도
• 모델 평가 지표 및 통계 분석 경험
• 강력한 문제 해결 능력 및 분석적 사고
AI 탈옥이란, 프롬프트 인젝션 등을 통해 생성형 AI가 설계 의도를 벗어나 잘못된 정보 전달(환각), 민감 정보 유출, 서비스 실패 등을 일으키는 모든 공격 행위를 말합니다.
에임인텔리전스는 해당 문제의 정복을 목표로 AI의 취약점을 진단하고, 모델의 비정상적 입/출력값을 실시간으로 탐지·차단하는 모더레이션 API 형태의 솔루션을 제공하고 있습니다.
에임인텔리전스의 장기적인 목표는, AI가 스스로 위험을 판단하고 제어할 수 있는 `인공지능의 메타인지 능력`을 구현하는 것입니다.
에임인텔리전스는 현재 `KT, SKT, LGU+, KB국민카드, 우리은행, KB증권` 등 주요 통신사·금융기관과 협업하고 있으며, `Meta Llama Impact Innovation Award, Anthropic 버그바운티 선정` 등 기술력을 인정받고 있습니다.
AI의 신뢰성과 안전성을 책임질 새로운 표준을 함께 만들어갈 동료를 기다립니다.
주요업무
가드레일 시스템을 위한 Small Language Models 개발 및 최적화에 집중할 주니어 시니어부터 시니어 레벨의 AI 모델 엔지니어를 모집합니다. 이는 주로 모델 개발 역할이며, 커스텀 용이성과 성능 최적화를 위한 RAG 구현을 포함합니다.오픈소스 모델을 파인튜닝하고 최적화하여 위협을 탐지하고, 유해 콘텐츠를 필터링하며, 엔터프라이즈 규모에서 AI 안전을 보장할 수 있는 높은 정확도와 효율성을 갖춘 안전 분류기를 만드는 작업을 수행하게 됩니다.
핵심 업무 - 모델 개발 및 최적화
• 가드레일 특화 사용 사례를 위한 오픈소스 SLM(Llama, Phi, Qwen, Gemma) 선택 및 평가
• 분류 및 탐지 작업에 모델을 적응시키기 위한 파라미터 효율적 파인튜닝(LoRA, QLoRA, PEFT) 구현
• 특정 가드레일 기능을 위한 라벨링된 안전 데이터셋으로 supervised fine-tuning(SFT) 적용
• 최소한의 정확도 손실로 2-4배 추론 속도 향상을 위한 양자화(GPTQ, AWQ, INT4/INT8) 적용
• 새로운 위협 패턴에 빠른 적응을 위한 few-shot learning 구현
• 모델 정확도 향상 및 false positive/negative 감소를 위한 실험 설계 및 수행
• 가드레일 효과성을 위한 포괄적인 평가 프레임워크 개발(정밀도, 재현율, F1 점수)
• 지연시간, 처리량, 안전성 트레이드오프 측정을 위한 벤치마크 생성
자격요건
모델 개발 전문성• ML/AI 모델 개발 분야 2-6년 이상 경력
• Python 및 ML 프레임워크(PyTorch, Transformers, Hugging Face 생태계) 강력한 숙련도
• 분류 작업을 위한 트랜스포머 아키텍처 실무 경험
• 오픈소스 모델에 대한 모델 파인튜닝(LoRA, QLoRA, PEFT) 검증된 경험
• 모델 최적화 기법(양자화, 프루닝)에 대한 깊은 이해
• 안전 및 위협 탐지를 위한 라벨링된 데이터셋으로 모델 학습 경험
• 모델 성능 및 트레이드오프(정확도, 지연시간, 처리량) 평가 경험
기술 기반
• 머신러닝 기초 및 딥러닝에 대한 탄탄한 이해
• 분류/탐지 작업을 위한 지도학습 경험
• 데이터 전처리, 피처 엔지니어링, 데이터셋 큐레이션 숙련도
• 모델 평가 지표 및 통계 분석 경험
• 강력한 문제 해결 능력 및 분석적 사고
