업스테이지-다음-퓨리오사AI 'AI 동맹'..."국산 NPU·LLM·서비스 첫 결합"

[아이뉴스24 안세준 기자] 퓨리오사AI의 국산 인공지능(AI) 반도체에서 업스테이지의 거대언어모델(LLM)을 구동해 포털 다음의 검색 요약 기능을 제공하는 'AI 동맹'이 결성됐다. 국산 AI 반도체와 모델, 포털 서비스를 하나로 연결하는 국내 첫 '풀스택 소버린 AI' 사례라는 점에서 주목된다.

업스테이지와 포털 다음 운영사 AXZ, 퓨리오사AI는 15일 성남시 판교에 위치한 AXZ 사옥에서 온라인 중계 방식의 3사 대표 대담을 진행했다. 3사는 이 자리에서 퓨리오사AI의 신경망처리장치(NPU) 'RNGD'(레니게이드)를 활용해 업스테이지의 거대언어모델(LLM) '솔라'를 탑재한 다음의 AI 요약 서비스 'AI 오버뷰'를 구동한다고 밝혔다.

24개 국산 NPU가 하루 5억 토큰 처리

다음 AI 오버뷰는 이용자가 검색어를 입력하면 검색엔진이 관련 문서를 찾고, 솔라가 내용을 읽어 핵심 답변과 근거를 정리해주는 서비스다. 기존처럼 여러 링크를 일일이 열어보지 않아도 검색 결과의 전체 맥락을 한 번에 파악할 수 있다. 다음은 지난 1일부터 AI 오버뷰 베타 서비스를 시작했다.

이건수 AXZ 대표는 "AI 오버뷰는 AI가 먼저 읽고 요약해주는 서비스"라며 "실시간 정보가 중요한 만큼 정확한 최신 정보를 전달하는 데 초점을 맞췄다"고 말했다. 키워드 검색과 벡터 검색을 결합한 하이브리드 검색을 적용하고, 프롬프트와 제어 규칙을 포함한 하네스 엔지니어링을 고도화해 LLM 환각을 줄였다는 설명이다.

이 서비스 인프라에는 3개 서버 노드와 레니게이드 24개가 투입됐다. 백준호 퓨리오사AI 대표는 토큰 처리량과 관련해 "AI 요약 처리를 위해 3개 노드로 하루 5억 개의 토큰을 처리하고 있다"고 했다.

엔비디아 H200과 대등한 속도…토큰 비용 낮춰

퓨리오사AI는 레니게이드 강점으로 엔비디아 고성능 GPU에 견줄 추론 성능과 전력·비용 효율을 제시했다. AI 모델을 칩에 맞게 변환하는 컴파일러와 다양한 서비스 환경을 지원하는 서빙 엔진을 하드웨어와 함께 설계한 결과라는 것이다.

백 대표는 "하드웨어와 소프트웨어를 함께 원천 설계해 H200과 대등한 성능을 내면서 전성비와 가성비를 높였다"며 "총소유비용(TCO) 기준 최소 1.5배 수준의 효율을 확인하고 있다. 최적화를 통해 비용을 절반 이하로 낮추는 것이 목표"라고 말했다.

그는 "소버린 AI 반도체와 모델은 공급망과 국제 정세 측면에서도 확보해야 할 전략 기술"이라고 했다. 김성훈 업스테이지 대표도 "엔비디아 GPU를 구매하는 데 많은 비용이 든다"며 국산 NPU를 통한 토큰 비용 절감 가능성에 기대감을 드러냈다.

다음 검색 넘어 쇼핑·맛집·개인 에이전트로

3사는 이번 협력을 AI 요약에 그치지 않고 에이전트 서비스로 확대한다. 현재 AI 오버뷰는 다음 전체 검색 질의의 약 20%에 노출되고 있다. AXZ는 이를 절반 이상으로 높일 계획이다.

AXZ는 쇼핑과 맛집 등 분야별 검색으로 범위를 넓힌 뒤 이용자별 '1인 1에이전트'도 선보인다. 이 대표는 "사용자가 매일 삼성전자 주가나 관련 뉴스를 검색하지 않아도 보유 종목과 경쟁사 소식을 아침마다 요약해주는 형태가 가능하다"며 "검색하지 않아도 필요한 정보가 미리 배달되는 에이전트부터 시작할 것"이라고 설명했다.

퓨리오사AI는 늘어날 수요에 맞춰 공급도 확대한다. 김 대표가 연말까지 레니게이드 1만장을 공급할 수 있는지 묻자 백 대표는 "양산이 성공적으로 진행되고 있어 충분히 공급할 수 있다"고 답했다. 김 대표는 "다음에서 AI 요약을 사용하는 것이 솔라와 국산 NPU를 함께 사용하는 것"이라며 "사용량과 품질이 함께 높아지는 선순환을 만들어야 한다"고 말했다.