정부, 1.4조 투입해 GPU 1만장 확보…10월 GPUaas 서비스 개시

[아이뉴스24 서효빈 기자] 정부가 인공지능(AI) 경쟁력 강화를 위해 연내 첨단 그래픽처리장치(GPU) 1만장을 확보한다. 확보 대상은 엔비디아의 최신 제품인 H200과 블랙웰(B200) 시리즈로 이르면 7월부터 구매 발주가 시작된다. 이어 10월에는 클라우드 서비스(GPUaaS)를 개시한다.

과학기술정보통신부는 14일 경제관계장관회의 겸 산업경쟁력강화 관계장관회의에서 이같은 내용의 '첨단 GPU 확보 추진 방안'을 확정 발표했다. 전체 사업에는 1조4600억원 규모의 추가경정예산이 투입된다.

정부는 확보할 GPU 모델로 엔비디아의 H200과 차세대 B200 시리즈를 6대 4 비중으로 계획했으며, 이르면 오는 7월부터 구매 발주에 나선다는 방침이다. 구체적으로는 H200 6400장, B200 3600장 등 총 1만장을 우선 계획하되, 실제 구매 시에는 GPU 운용 주체인 클라우드 기업(CSP)들의 선호도와 기술 발전 속도를 반영해 모델 구성과 비중을 조정할 예정이다.

정부는 이번 대규모 GPU 확보의 배경에 대해 "AI 컴퓨팅 인프라가 AI 생태계의 혁신 성장을 좌우하는 핵심 자원임에도 불구하고, 현재 국내 인프라는 절대적으로 부족해 글로벌 경쟁에서 실질적 한계에 직면했다"고 진단했다. 이에 따라 민관 합작 형태의 ‘국가 AI 컴퓨팅 센터’(SPC)와 슈퍼컴퓨터 6호기 구축을 병행하고, GPU 확보에 속도를 낼 계획이다.

과기정통부는 이번에 확보하는 GPU를 클라우드 기업이 보유한 기존 데이터센터에 우선 설치하고, 이르면 10월부터 GPU 기반 클라우드 서비스(GPUaaS)를 개시할 예정이다. 클라우드 기업은 이달 중 공모를 통해 선정된다. 공모에 참여할 CSP는 가용 예산 내에서 GPU 확보 및 구축 계획을 제시해야 하며, 과기정통부는 별도 전문가 위원회를 구성해 서면 및 발표 평가와 현장 실사를 병행해 최종 사업자를 결정한다.

평가 항목에는 재정 투입 대비 컴퓨팅 성능 등 GPU 확보 역량, 신속한 서비스 실행력, GPU 자원의 자체 활용 계획 등이 포함된다. 선정된 CSP와는 5년 단위로 협약이 체결되며, 정보통신산업진흥원(NIPA)이 GPU 소유권을 보유하고, SPC가 해당 GPU를 사용하는 구조다. 협약에는 CSP가 일부 GPU를 자체 활용하는 조건도 포함된다.

GPU가 구축되면, 향후 설립될 국가 AI 컴퓨팅 센터로 해당 GPU를 순차 이관할 계획이다. 센터는 SPC(특수목적법인) 형태로 운영되며, 민간 기업과 공공기관이 컨소시엄을 구성해 참여한다. SPC의 컨소시엄 공모는 이달 말까지 진행되며, 정부는 이 컨소시엄에 참여 의사를 밝힌 CSP를 중심으로 GPU 운용 주체를 선정할 방침이다.

센터 설립 이후에는 이번에 확보한 GPU를 국내 산학연 기관과 '월드 베스트 LLM(거대언어모델)' 기업 등 국가대표 AI 기업에 우선 배분할 계획이다. 과기정통부는 지난달 대기업을 제외한 산학연 기관 405곳을 대상으로 GPU 수요조사를 실시한 결과, 응답기관의 45.9%가 "6개월 이내 GPU가 필요하다"고 응답했으며, 약 80%가 "1년 이내 필요하다"고 답한 것으로 나타났다.

GPU가 도입될 국가 AI 컴퓨팅 센터의 입지는 당초 계획대로 비수도권으로 유지하되, 정부 구매 GPU 외의 추가 인프라 구축은 타 부지에서 운영이 가능하도록 할 계획이다.

운영 방식과 관련해, SPC의 공공 지분은 51% 이상으로 설계되며, 공공기관운영법상 공공기관 지정 요건에 해당한다. 과기정통부는 SPC가 공공기관으로 지정될 경우 경영공시, 실적 평가, 국회 예결산, 감사원 감사 등의 의무가 발생해 민간의 자율적 운영에 제약이 있을 수 있다는 우려가 있는 만큼, 내년 1월 예정된 공공기관운영위원회의 심의에서 민간의 자율성을 최대한 보장하는 방향으로 부처 간 협의를 진행 중이라고 밝혔다.

아울러 SPC 운영과 관련해 '바이백(매수청구권)' 조항도 도입될 예정이다. 이는 사업 안착 이후 공공 지분을 민간 사업자가 정부로부터 현금으로 사들일 수 있도록 하는 조항으로, 공공 투자금 회수와 민간의 적극적 참여를 유도하기 위한 장치다.

GPU 활용에 따른 비용 부담도 조정된다. 과기정통부는 GPU 자원을 활용하는 기관의 규모와 사업 성격, 기존 자부담 수준 등을 고려해 적정 수준으로 GPU 사용료를 설정할 계획이며, 구체적인 매칭 비율은 오는 9월까지 마련될 예정이다.

정부는 GPU 확보를 위해 국제 협력도 병행한다. 과기정통부는 5월 16일(미국 시간 기준) 엔비디아와 GPU 구매 및 협력 논의를 진행할 예정이며, 같은 날 오전 10시에는 LW컨벤션센터 그랜드볼룸에서 CSP를 대상으로 한 사전설명회를 개최해 공모 절차를 본격화할 계획이다.