오늘 서울 코엑스에서 열린 엔비디아 AI 데이 서울에서 SKT 엔비디아 리벨리온이 함께 한국형 소버린 AI 인프라를 만들기 위한 협약을 맺었습니다. 세 회사는 GPU와 NPU를 하나의 서버 랙에 통합하는 시스템을 개발하고, 우리나라 AI 데이터센터의 전력 효율과 운영 비용을 개선하는 것을 목표로 합니다. 이 소식은 단순한 반도체 협력 이상으로, 한국이 글로벌 AI 생태계에서 어떤 위치를 차지할지 보여주는 신호이기도 합니다.
핵심 내용을 한눈에 정리하면 아래 표와 같습니다.
| 회사 | 이번 협약에서 맡은 역할 |
|---|---|
| SKT | AI 데이터센터 구축과 운영, 독자 AI 모델과 대국민 서비스 연결 |
| 엔비디아 | GPU와 NVLink Fusion, MGX 같은 플랫폼 기술 제공 |
| 리벨리온 | 국산 NPU Rebel R200 개발과 추론 최적화 |
목차
왜 GPU와 NPU를 함께 써야 할까
최근 에이전틱 AI가 늘어나면서 추론 요청이 폭발적으로 증가하고 있습니다. AI가 질문에 답할 때는 두 가지 단계가 필요합니다. 먼저 질문을 분석하는 프리필 단계에서는 고성능 연산이 필요하고, 답변의 단어를 하나씩 만들어 내는 디코드 단계에서는 메모리 데이터를 빠르게 읽는 능력이 중요합니다. 엔비디아 GPU는 프리필에 강하고, 리벨리온 NPU는 디코드에 유리합니다. SKT 엔비디아 리벨리온은 이 두 강점을 한 시스템에서 활용하겠다는 구상입니다.
제가 이번 발표에서 가장 인상 깊었던 점은 분리형 추론이라는 접근입니다. 모든 연산을 한 종류의 칩이 감당하는 대신, 각 단계에 적합한 반도체를 연결해 속도와 전력 효율을 동시에 높입니다. AI 데이터센터에서 전력은 곧 비용이기 때문에 이 방식은 운영비 절감에도 효과적입니다. 국산 NPU가 실제 글로벌 플랫폼과 함께 성능을 검증할 수 있다는 점도 반갑습니다.
프리필과 디코드를 조금 더 풀어보겠습니다. 프리필은 사용자가 입력한 질문을 분석해 핵심 의도를 파악하는 과정입니다. 미리 학습된 지식을 바탕으로 계산량이 많아 고성능 GPU가 유리합니다. 디코드는 확률적으로 다음 단어를 선택하며 하나의 문장을 완성하는 과정입니다. 이때는 메모리에 저장된 값을 빠르게 꺼내는 NPU가 효율적입니다. 그래서 SKT 엔비디아 리벨리온은 역할을 나누는 선택을 했습니다.
협약의 배경을 더 자세히 이해하려면 아래 기사를 참고하시면 좋습니다.
NVLink Fusion과 MGX가 만드는 통합 시스템
이번 협약의 핵심 기술은 NVLink Fusion입니다. 엔비디아는 GPU 간 데이터 전송에 쓰던 NVLink 기술을 다른 반도체에서도 쓸 수 있도록 확장했습니다. 리벨리온의 Rebel R200이 이 기술로 엔비디아 플랫폼에 연결되고, 엔비디아의 서버 랙 표준 MGX가 적용되면 서버 랙 단위의 GPU NPU 통합 시스템이 완성됩니다.
MGX는 엔비디아가 제시하는 서버 랙 표준 설계 규격입니다. 여러 제조사가 이 규격에 맞춰 서버를 만들면, 이종 반도체를 하나의 랙에 효율적으로 배치할 수 있습니다. 같은 규격을 쓰면 유지보수와 확장도 쉬워집니다.
이 구조가 중요한 이유는 표준화에 있습니다. 국산 반도체가 엔비디아 생태계와 호환되는 컴퓨트 표준을 만들면, 한국에서 검증된 시스템을 해외 데이터센터에도 확장할 수 있습니다. SKT 엔비디아 리벨리온 협력은 국산 NPU를 글로벌 시장에 내놓을 수 있는 실질적인 발판이 될 수 있습니다.
SKT 엔비디아 리벨리온 협력이 가져올 변화
SKT는 이 시스템을 실제 AI 데이터센터에 도입해 성능과 안정성을 확인하고 상용화 가능성을 검토합니다. 독자 AI 모델인 A.X K2와 모두의 AI 같은 서비스까지 연결하면, 한국형 소버린 AI를 위한 풀스택 구조를 갖추게 됩니다. 정부 정책과 연계해 공공과 민간에 AI 서비스 기반을 넓히는 것도 목표입니다.
토큰 생산 비용이 낮아지면 AI 서비스 이용 가격도 내려갈 수 있습니다. SKT가 언급한 소버린 토큰은 한국에서 만든 AI 토큰을 글로벌에 공급하겠다는 뜻으로 해석됩니다. AI를 사용하는 기업 입장에서도 같은 비용으로 더 많은 추론을 실행할 수 있다는 것은 유의미한 변화입니다.
리벨리온은 국민성장펀드 1호 투자처이기도 합니다. 국내 스타트업이 만든 NPU가 엔비디아와 직접 손잡는 사례는 이번이 처음이 아닐까 싶을 만큼 상징적입니다. 한국 반도체 산업의 생태계가 확장되는 모습을 지켜보는 것은 반가운 일입니다.
기업에서 AI 서비스를 운영하는 분이라면 GPU와 NPU를 함께 활용하는 통합 시스템의 흐름을 눈여겨볼 만합니다. 같은 추론 작업을 더 적은 전력으로 처리할 수 있다면 장기적으로 운영비 절감에 도움이 되기 때문입니다.
앞으로의 소버린 AI 생태계
지금까지 살펴본 SKT 엔비디아 리벨리온 협력은 세 회사의 기술을 하나로 묶는 일입니다. 국산 NPU와 글로벌 AI 생태계, AI 데이터센터 운영 경험이 결합되면 한국형 소버린 AI 인프라의 실체가 선명해집니다. 단순히 국산 반도체를 사용한다는 의미를 넘어, 글로벌 표준과 호환되는 시스템을 먼저 만들고 이를 해외로 확장할 수 있다는 점에서 기대가 큽니다.
제 시야로 보면 이번 협약은 한국 AI 산업이 한 단계 도약하는 계기가 될 것입니다. 앞으로 이 통합 시스템이 실제 데이터센터에서 안정적으로 운영되고, 다양한 국산 모델과 서비스가 그 위에서 돌아간다면 한국은 AI를 소비하는 나라를 넘어 토큰을 생산해 공급하는 나라가 될 수 있습니다.
자주 묻는 질문
Q1 이번 협약에서 가장 중요한 기술은 무엇인가요
A1 엔비디아 GPU와 리벨리온 NPU를 하나의 서버 랙에서 운영하는 GPU NPU 통합 시스템입니다. NVLink Fusion이 국산 NPU를 엔비디아 플랫폼에 연결하고 MGX 표준이 랙 단위 구성을 돕습니다.
Q2 토큰 생산 비용이 왜 중요한가요
A2 AI 추론 요청이 늘수록 데이터센터 전력 비용이 커집니다. GPU와 NPU를 나눠 쓰면 전력 효율을 높일 수 있고 토큰 생산 비용이 낮아져 더 많은 사람이 AI 서비스를 부담 없이 이용할 수 있습니다.
Q3 소버린 AI와 관련해 어떤 효과가 있나요
A3 국가가 자체 AI 인프라와 모델을 갖추는 기반을 다집니다. 국산 NPU와 자체 모델, 대국민 AI 서비스가 이어지면서 한국형 소버린 AI 생태계가 구체적으로 만들어질 수 있습니다.
