(서울=뉴스1) 윤주영 기자 = KT클라우드는 리벨리온·업스테이지·디노티시아·폴라리스오피스와 '인공지능(AI) 파운드리' 사업을 위한 전략적 파트너십을 체결했다고 18일 밝혔다.

최근 많은 기업이 AI 도입을 통한 업무 혁신에 관심을 갖지만, 인프라 투자 비용·설루션 운영 부담이 문제다. 이에 회사는 검색 증강 생성(RAG)·AI 모델·추론용 인프라 등 AI 분야에서 검증된 파트너사들과 AI 파운드리 사업을 추진, 고객사 수요를 해결하겠다는 설명이다.

이들은 고객이 보유한 데이터를 빠르게 정제하고, 경량화 모델·모듈형 RAG 서비스를 통해 간편하고 신뢰성 높은 AI 시스템을 구현하는 게 목표다.

구체적으로 △RAG 구현에 필수적인 '파싱'과 광학 문자인식(OCR) 영역에서는 폴라리스오피스와 업스테이지 △임베딩 모델 영역은 업스테이지 △데이터베이스 벡터화 영역은 디노티시아 등이 협력한다.

AI모델은 라마 4 스카우트, 미스트랄 7B, 솔라 등 다양한 오픈소스 모델이 연계될 예정이다.

이런 종합 서비스를 뒷받침하는 추론용 인프라 팜에는 회사가 확보한 엔비디아 GPU와 함께 팹리스 기업 리벨리온의 신경망 처리 장치(NPU)가 적용된다. 팜은 여러 대의 GPU·NPU 등을 집약시킨 인프라다.

고객은 AI 파운드리를 통해 업무에 최적화한 AI 모델링을 간편하게 구현할 수 있다. 사용 요금은 실 사용량 기반으로 책정된다.

예를 들어 AI 금융 상담사 출시를 원하는 금융사라면 회사의 AI 파운드리를 통해 수천 장의 투자 리포트 등을 자동 분석하거나 지식 베이스 기반 고객 상담을 구현하는 등이 가능하다.

회사는 AI 파운드리 서비스 정식 출시에 앞서 고객 참여형 파일럿 프로그램을 2분기 내 선보일 예정이다. 업종·회사 규모와 관계없이 무상으로 참여할 수 있다.

legomaster@dqdt.shop