[LG경영개발원] LLM Serving Engineer Internship

[수행 업무]

- EXAONE 모델을 안정적으로 서빙할 수 있는 다양한 LLM 서빙 프레임워크 엔진을 개발합니다.

- 이를 위해, EXAONE 모델을 오픈소스 LLM 서빙 프레임워크(Hugging Face, vLLM, SGLang, Ollama 등)에 맞게 포팅하고 정합성을 검증합니다.

- 또한, 포팅된 LLM 서빙 프레임워크(Hugging Face, vLLM, SGLang, Ollama 등)의 공식 채널을 통해 들어오는 단순 질의, 버그 수정, 기능 개선, 성능 최적화 등에 대응하고 기여합니다.

[지원자격]

- 오픈소스 LLM 서빙 프레임워크에 모델을 포팅해 본 경험이 있거나 모델링 관련하여 발생한 이슈를 해결할 수 있는 역량 보유

- 오픈소스 LLM Serving Framework 기여 경험: vLLM, SGLang, Ollama 등 오픈소스 LLM 서빙 프레임워크에 기여한 경험(contribution)

[우대사항]

- Transformer 기반 모델 및 LLM에 대한 이해: Attention 메커니즘, 대규모 언어 모델(LLM)의 구조와 동작 원리에 대한 깊은 이해

- 머신러닝 모델 수명 주기에 대한 이해: 모델 개발, 학습, 서빙, 배포 등 각 단계에 대한 경험과 이해