SK하이닉스 주영표 "AI 시스템 한가운데 메모리를…인텔과 긴밀히 협력"

[아이뉴스24 권서아 기자] SK하이닉스가 미국 반도체 기업 인텔과 메모리 중심의 인공지능(AI) 시스템 설계에 협력하고 있다. GPU에 붙일 수 있는 메모리 용량에 한계가 있는 만큼, 여러 서버가 별도의 대용량 메모리를 함께 쓰는 구조를 제시했다.

주영표 SK하이닉스 부사장은 12일 서울 강남구 코엑스에서 열린 '인텔 AI 서밋 서울 2026'에서 "고객·파트너와 시스템 설계 단계부터 논의하고 있다"며 "인텔과도 이러한 일들을 긴밀하게 수행하고 있다"고 말했다.

주 부사장은 여러 AI 에이전트가 일을 나눠 맡으면 사람이 개입하지 않는 동안에도 에이전트끼리 주고받는 데이터가 크게 늘어난다고 짚었다. 그는 "메모리의 성능이나 용량에 대한 요구도 역시 급격하게 올라가고 있는 것이 현실"이라고 말했다.

발표 자료에는 지피티(GPT)-4급 모델을 가정하면 가중치 저장에 3.5테라바이트(TB)가 필요하다는 예시가 담겼다. 초당 20토큰을 생성하는 조건에서 가중치를 읽는 데 필요한 대역폭은 초당 4.4TB로 제시됐다.

주 부사장은 "시스템의 가운데다 메모리를 두고 데이터를 넣고 꺼내 쓰면 통신을 더 효율적으로 할 수 있다"고 설명했다. 한 GPU가 작업 결과를 공유 메모리인 '메모리 풀'에 저장하면 다른 GPU가 필요할 때 꺼내 쓰는 방식이다.

AI와 여러 차례 대화하면 앞선 문맥을 처리한 중간 데이터인 '임시저장 키값(KV 캐시)'이 쌓인다. 주 부사장은 저장 공간이 부족해 캐시를 버리면 필요한 데이터를 다시 계산해야 한다고 설명했다.

이날 공개한 실험에서 캐시를 다시 계산했을 때 AI가 첫 토큰을 내놓기까지 평균 80.76초가 걸렸다. 원격 솔리드스테이트드라이브(SSD)에 저장한 캐시를 불러오면 33.56초, 원격 컴퓨트익스프레이스링크(CXL) 메모리에서 불러오면 15.45초로 줄었다. SK하이닉스는 고객·파트너와 관련 시험을 진행하고 있다.

인텔코리아에 따르면 이날 행사에는 국내외 업계 관계자 약 1000명이 참석했다. LG전자도 발표에 참여하며, 행사는 오후 5시까지 진행된다.