Lablup
Summary
AI 추론·트레이닝 orchestration 분야의 한국 대표 회사. EP 97에서 노정석이 “한국에서 orchestration의 정점에 있는 회사”로 지목.
AI 추론·트레이닝 orchestration 분야의 한국 대표 회사. EP 97에서 노정석이 “한국에서 orchestration의 정점에 있는 회사”로 지목.
포지셔닝
노정석은 AI 산업의 미래 사이클을 다음 비유로 설명한다:
“2000년 초반에 Google이 BigTable이라든지 MapReduce라든지 이런 computation을 굉장히 분산화하고 효율화하게 하는 인프라, 그러한 인프라가 밖에 있는 오픈 도메인이 Hadoop이나 이런 거 가지고 따라잡는데 꽤 시간이 걸렸다. 이번에도 OpenAI나 Google급 회사를 적어도 어떤 한 vertical에서 꿈꾸는 회사가 있다면 저런 orchestration layer는 좀 갖고 있어야겠구나.”
→ Lablup은 이 비유에서 한국이 가진 BigTable급 추론 인프라 회사로 해석된다.
다루는 워크로드 특성
- prefill vs decode 비율 차이 — workload별 다른 인프라 요구
- context length 다양성 — 모델별·서비스별 변동성 흡수
- 하드웨어 오케스트레이션 — vLLM·SGLang을 깔고 끝이 아니라 GPU·NPU 자원 배치 설계
- 운영 추적 — workload pattern을 보고 최적 inference 구조 결정
핵심 인물
- 신정규 — Lablup 대표. 노정석 채널에 게스트로 출연한 적 있음 (“다시 브랜드의 시대” 발언). 본 에피소드에서도 짧게 언급됨
산업적 의의
자체 AI 서비스를 가지려는 회사의 진입 장벽이 모델 학습이 아니라 추론 인프라 readiness로 이동한 시대에, Lablup은 다음 산업 사이클의 핵심 인프라 공급자 역할을 차지할 가능성이 큰 회사로 평가된다.
관련
- orchestration — 핵심 사업 도메인
- 컨트롤-레이어-하네스 — Lablup이 깔아주는 인프라 위에서 작동
- harness-engineering — 추론 인프라가 받쳐줘야 하는 응용 레이어
- Anthropic · OpenAI · Google — 글로벌 동급 인프라 비교 대상