엔비디아는 반란과 주권 인공 지능에 에스케이 텔레콤과 파트너

엔비디아(NVIDIA), 리벨리온(Rebellions), SK텔레콤이 한국의 통신 및 산업용 컴퓨팅 분야 전반에 이기종 소버린(Sovereign) AI 인프라를 구축하기 위한 기술 프레임워크를 마련했습니다. 이번 이니셔티브는 특화된 신경망처리장치(NPU)를 기존 GPU 패브릭과 통합하여 대규모 인공지능 모델의 연산 및 전력 수요를 해결합니다.

시스템 통합 및 엔지니어링 역할
운영 아키텍처는 상호 보완적인 하드웨어 및 설비 관리 계층을 결합합니다. 엔비디아는 상호 연결 표준과 시스템 청사진을 제공하고, 리벨리온은 타깃 추론용 반도체를 공급하며, SK텔레콤은 데이터센터 설비 차원의 구축을 총괄합니다.

통합은 타사 맞춤형 가속기를 표준 스케일업 패브릭에 연결하는 '엔비디아 NVLink Fusion' 인터페이스를 기반으로 합니다. 리벨리온은 이 프로토콜을 활용해 자체 '리벨 R200(Rebel R200)' 프로세서를 호스트 플랫폼에 직접 연결합니다. 하드웨어 레이아웃은 열 방출 프로파일, 배전 버스, 물리적 섀시 규격을 표준화한 '엔비디아 MGX' 랙 레퍼런스 사양을 준수합니다. 이러한 공통 표준 덕분에 데이터센터 운영사는 기본 물리 설비를 재구성하지 않고도 혼합 아키텍처 서버 노드를 도입할 수 있습니다.

워크로드 분할 및 추론 운영
해당 인프라는 분리형 추론 처리 파이프라인을 구현합니다. 생성형 모델 서비스에서 연산은 프롬프트 처리 단계인 '프리필(prefill)' 단계와 토큰 생성 단계인 '디코드(decode)' 단계로 나뉩니다.

이 아키텍처는 높은 병렬 처리량을 활용해 멀티 토큰 프롬프트를 빠르게 수용할 수 있는 엔비디아 GPU에 연산 집약적인 프리필 계산을 할당합니다. 토큰 디코딩은 고속 패브릭을 통해 연속적인 단일 토큰 생성에 최적화된 메모리 대역폭 중심 아키텍처를 갖춘 리벨리온 리벨 R200 프로세서로 라우팅됩니다. 이러한 기능적 분할은 수조 개 파라미터 규모의 전문가 혼합(MoE) 네트워크 추론 시 토큰 생성 효율을 극대화하는 동시에 전력 소비를 줄이는 것을 목표로 합니다.

산업 배포 환경
SK텔레콤은 이 이기종 컴퓨팅 클러스터를 자사의 지역 AI 데이터센터 네트워크에 통합할 예정입니다. 이 물리적 시스템에는 A.X K2 시스템을 포함한 SK텔레콤의 자체 기반 모델과 과학기술정보통신부가 총괄하는 공공 부문 워크로드가 호스팅될 계획입니다.

기술 아키텍처와 관련하여 젠슨 황(Jensen Huang) 엔비디아 창립자 겸 CEO는 "NVLink Fusion을 통해 한국의 칩 제조사들은 자체 맞춤형 ASIC을 엔비디아의 AI 팩토리 플랫폼에 연결하여 프로세서를 엔비디아 컴퓨팅과 긴밀히 결합하고 AI 워크로드를 실행할 수 있다"라고 밝혔습니다.

박성현 리벨리온 공동창립자 겸 CEO는 "리벨리온의 전용 반도체 및 시스템 설계를 엔비디아의 NVLink Fusion, 초고속 인터커넥트, 랙 스케일 설계 전문성, 그리고 SKT의 모델 및 데이터센터 운영 역량과 결합함으로써, 대규모 프론티어 모델을 위한 저지연·고효율 추론을 제공할 것"이라고 전했습니다.

리벨 R200 시스템의 하드웨어 공급 및 데이터센터 설비 구축은 2028년 실제 상용 가동을 목표로 예정되어 있습니다.

편집: 에브게니 추릴로프(Evgeny Churilov), Induportals Media - AI 각색

www.nvidia.com