Upstage

Software Engineer – Model Serving

Upstage

full-time

Posted on:

Origin:  • 🇰🇷 South Korea

Visit company website
✨ AI Apply
Manual Apply

Job Level

Mid-LevelSenior

Tech Stack

AWSAzureGoJavaJavaScriptNoSQLPythonRDBMSTypeScript

About the role

  • 업스테이지의 Solar LLM 과 Document AI 의 API Layer 개발
  • 모델 양자화 및 최적화를 통한 모델 서빙 효율 극대화
  • 각종 서빙 시스템 벤치마크 및 파트너 협업을 통한 모델 서빙 환경 구축
  • 모델 및 시스템의 보안 이슈 해소. 모니터링 및 대시보드 개발
  • 내부 운영 도구 개발 및 내부 시스템 운영 효율화
  • 이 외 업스테이지 제품 및 기술 개발과 관련된 활동

Requirements

  • LLM 또는 Document AI 관련 AI 모델 서빙 시스템 개발 경험 및 관련 기술에 대한 깊은 이해
  • 하나 이상의 프로그래밍 언어에 대한 높은 수준의 이해 (예: Golang, Python, Typescript, Java, C/C++ 등)
  • AWS, Azure 등 클라우드 서비스를 이용한 제품 개발 경험
  • 다양한 형태의 데이터베이스를 이용한 개발 경험 (예: RDBMS 또는 각종 NoSQL 시스템)
  • 한국어 및 영어 능통자 우대사항:
  • LLM 모델 양자화 또는 최적화 개발 경험
  • 멀티 리전에서의 글로벌 서비스 운영 경험
  • 온프레미스 환경에서 구동 되는 제품 개발 경험
  • B2B 환경에서 외부 파트너 또는 고객과 협업 경험
  • HiPPA, GDPR, CCPA 등 보안 컴플라이언스 관련 업무 경험