데이터센터의 모듈화

데이터센터는 더 이상 건물이 아닙니다: 엘리스 PMDC가 보여준 인프라의 제품화
AI 산업의 폭발적인 성장과 함께 고성능 GPU 수요가 급증하면서, 이를 뒷받침할 데이터센터 구축 방식에도 패러다임 전환이 일어나고 있습니다. 수년에 걸쳐 거대한 건물을 짓는 전통적인 방식에서 벗어나, 필요한 곳에 즉시 배치할 수 있는 모듈형 데이터센터(PMDC, Portable Modular Data Center)가 주목받고 있습니다.

이 흐름의 한가운데에 의외의 이름이 있습니다. AI 교육 플랫폼으로 출발한 엘리스그룹입니다. 2015년 온라인 코딩 및 AI 교육 전문 기업으로 설립된 엘리스는 교육 실습 환경을 위한 클라우드 인프라를 직접 구축하면서 기술을 축적했고, 2023년부터 본격적으로 클라우드 인프라 사업에 뛰어들었습니다. 그 결과물이 바로 엘리스 AI PMDC입니다.

하지만 엘리스 PMDC의 진짜 혁신은 단순히 이동하기 편한 컨테이너라는 외형에 있지 않습니다. 그 핵심은 컴퓨팅, 네트워크, 냉각을 하나의 기계처럼 맞물리게 설계한 통합 인프라, 그리고 이를 뒷받침하는 소프트웨어 계층에 있습니다.

1. 사일로의 붕괴: 컴퓨팅, 네트워크, 냉각의 통합 설계
전통적인 데이터센터는 건축, 전기, 설비, IT 부서가 각기 다른 요소를 설계한 뒤 사후에 조립하는 방식을 따릅니다. 반면 엘리스 PMDC의 진가는 이 모든 것을 처음부터 단일 유닛으로 통합 설계했다는 점에 있습니다. 컨테이너 내부에 서버, 전원, 냉각장치, 네트워크가 모두 탑재되어 하나의 완결된 시스템으로 작동합니다.

특히 주목할 것은 델 테크놀로지스 및 엔비디아와의 3자 협력 구조입니다. 엘리스는 Dell AI Factory with NVIDIA 프레임워크를 통해, NVIDIA 텐서코어 GPU가 탑재된 Dell PowerEdge XE 시리즈 서버를 핵심 인프라로 채택했습니다. 여기에 Dell의 IRSS(Integrated Rack System)와 DLC(Direct-to-Chip Liquid Cooling) 기술을 접목해 고밀도 GPU 환경에 최적화된 냉각 아키텍처를 구현했습니다.
전력 밀도 측면에서 보면, 국내 기존 데이터센터의 랙당 전력 공급은 평균 2~4kW에 불과합니다. 엘리스의 초기 PMDC는 이를 랙당 20~40kW까지 끌어올렸고, 엔비디아 B100 및 B200을 지원하는 차세대 수랭식 PMDC에서는 랙당 160kW까지 지원하도록 설계했습니다. 1기당 총 용량은 1MW급에 달합니다. 다만 엘리스 김재원 대표가 언급했듯이, 블랙웰 시리즈가 요구하는 100kW 이상의 랙당 전력을 국내에서 안정적으로 감당하는 것은 여전히 도전적인 과제입니다. 이 격차를 좁히는 것이 바로 PMDC 같은 특수 설계 인프라가 존재하는 이유이기도 합니다.

2. PUE 1.27: 밀폐 구조가 만든 에너지 효율

이러한 통합 설계는 에너지 효율의 극대화로 직결됩니다. 엘리스 PMDC는 PUE(전력사용효율) 1.27을 달성했습니다. 국내 데이터센터의 평균 PUE가 2.3 수준인 것을 감안하면 약 절반에 가까운 효율입니다. 엘리스 공식 자료에서도 PUE 1.3 미만을 표방하고 있습니다.

이 수치가 가능한 이유는 PMDC의 구조적 특성에 있습니다. 컨테이너의 두꺼운 벽체와 밀폐 구조가 외부 환경으로부터의 단열과 오염물질 차단 역할을 동시에 수행합니다. 냉각 설비가 서버와 물리적으로 최단 거리에 밀착되어 있어 냉각수와 공기가 불필요하게 이동하며 낭비되는 에너지가 최소화됩니다. 초기 모델이 공냉식이었던 것에 비해, B200을 탑재한 차세대 PMDC는 수냉식(DLC)으로 전환하면서 효율을 한 단계 더 끌어올렸습니다.

3. 공간의 입체적 활용: 수직 적층과 보안의 물리적 격리

PMDC의 또 다른 차별성은 공간 활용의 유연성입니다. 견고한 모듈 자체가 독립적인 뼈대 역할을 하기에, 도심이나 좁은 부지에서도 유연한 배치가 가능합니다. 김재원 대표는 한국이 산이 많아 미국처럼 대규모 데이터센터를 구축하기 어렵지만, 컨테이너 형태의 AI PMDC는 2층까지 적층이 가능해 공간을 효율적으로 사용할 수 있다고 설명한 바 있습니다.

이 적층 구조를 활용하면 하단 층에는 전력 공급 장치와 냉각 펌프를, 상단 층에는 GPU 랙을 배치하는 방식의 기능별 층 분리가 가능합니다. 이를 통해 유지보수 효율이 높아지고 열과 진동의 간섭을 줄일 수 있습니다.

여기에 모듈형 구조가 주는 보안상 이점도 중요합니다. 각 컨테이너는 물리적으로 완전히 격리된 독립 공간입니다. 고객별로 별도의 컨테이너를 제공할 수 있어, 마치 개별 금고를 분리해 놓은 것과 같은 보안 구조를 자연스럽게 형성합니다. 이런 물리적 보안 구조 덕분에 엘리스는 2025년 2월, 이동형 모듈러 데이터센터로는 국내 최초로 CSAP(클라우드 서비스 보안인증) IaaS 인증을 획득했습니다. CSAP 인증은 14개 분야 116개 통제항목을 평가받아야 하는데, 물리적 보안이 핵심 평가 요소 중 하나입니다.

4. 레고 블록식 확장성과 속도

미래 수요를 예측해 처음부터 거대하게 짓는 기존의 오버프로비저닝 낭비도 사라집니다. 초기에는 필요한 만큼만 1동을 설치하고, 향후 수요가 늘어나면 옆이나 위로 모듈을 추가하기만 하면 됩니다.

속도 차이는 매우 극적입니다. 전통 방식의 AI 데이터센터는 부지 확보, 설계, 건축, 장비 설치, 인허가까지 최소 2~3년 이상이 소요됩니다. 반면 엘리스의 PMDC는 미리 제작된 컨테이너에 설비를 탑재한 뒤 현장에 배치하고 전력과 네트워크를 연결하면 되기 때문에 약 3개월이면 구축이 완료됩니다.

비용 측면에서도 장점이 큽니다. 엘리스 공식 자료 기준으로 글로벌 퍼블릭 클라우드 대비 총소유비용(TCO)을 최대 50% 절감하는 것을 목표로 하며, GPU 사용 비용 기준으로는 최대 77% 이상 절감이 가능하다고 밝히고 있습니다. 다만 이 두 수치는 비교 기준이 다르므로 자사 상황에 맞는 기준으로 판단할 필요가 있습니다.

5. ECI 소프트웨어로 완성되는 가상화된 단일 컴퓨터

물리적으로 여러 층과 여러 동으로 나뉘어 확장되더라도, 사용자 경험은 하나로 유지됩니다. 엘리스의 클라우드 인프라 소프트웨어인 ECI(Elice Cloud Infrastructure)가 이를 뒷받침하기 때문입니다.

ECI는 VM(가상머신) 기반 플랫폼으로, B200을 포함한 다양한 GPU 서버를 클러스터링해 유연하게 관리할 수 있게 합니다. Ceph 기반의 분산 스토리지 시스템을 활용해 안정적이고 확장 가능한 스토리지를 할당하며, 분 단위 과금 정책으로 비용 효율성을 구현했습니다. 이 소프트웨어 계층 덕분에 PMDC는 분절된 모듈의 합이 아닌, 하나의 통합된 컴퓨팅 환경으로 작동하게 됩니다.

CSAP IaaS 인증 역시 이러한 소프트웨어 역량이 뒷받침되었기에 가능했습니다. 물리적 인프라만으로는 클라우드 보안인증의 116개 통제항목을 모두 충족할 수 없기 때문입니다.

6. 확장되는 생태계: SKT, 슈나이더, 그리고 국가 AI 컴퓨팅 센터

엘리스 PMDC의 가능성은 시장에서 빠르게 검증되고 있습니다. 2025년 3월 SK텔레콤과 업무협약을 체결하고 PMDC 테스트베드를 구축하고 있으며, 유럽 데이터센터 전문기업인 슈나이더 일렉트릭과도 협력을 진행 중입니다. 대규모 데이터센터를 주요 거점에 두고 중간 지점에 PMDC를 배치하는 애자일 인프라 형태의 하이브리드 전략이 핵심입니다.

정부가 추진하는 2조 원 규모의 국가 AI 컴퓨팅 센터 구축 사업에도 참여를 검토하고 있으며, 동남아시아 시장 진출도 논의 중입니다. 엘리스클라우드의 이용 기관 수는 6개월 만에 9배 증가하는 성장세를 기록하며, 에듀테크에서 인프라 기업으로의 전환이 실질적인 시장 견인력을 갖추고 있음을 보여주고 있습니다.

결론: 데이터센터의 제품화

엘리스 PMDC는 단순한 건축물이 아닙니다. 최상의 AI 연산 퍼포먼스를 내기 위해 컴퓨팅, 냉각, 전력, 보안, 소프트웨어가 정밀하게 튜닝된 완성된 고성능 컴퓨터 제품입니다.

물론 한계도 존재합니다. 대규모 퍼블릭 클라우드와 직접 경쟁하기에는 규모의 제약이 있으며, 국내 전력 인프라의 근본적인 문제는 PMDC가 단독으로 해결할 수 없는 구조적 영역입니다. 엘리스 역시 CSP와의 직접 경쟁보다는 AI 특화 HPC 제공이라는 포지션을 명확히 하고 있습니다.

그럼에도 불구하고, AI 인프라가 필요하지만 대규모 투자를 감당하기 어려운 기업이나 연구소, 그리고 데이터 보안이 필수적인 공공기관에게 엘리스 PMDC가 제시하는 인프라의 제품화라는 접근법은 매우 현실적이고 빠른 해답이 될 수 있습니다. AI 교육 플랫폼에서 시작해 인프라의 본질을 재정의하고 있는 이들의 다음 행보가 기대됩니다.