반도체

디노티시아, 하이퍼엑셀과 RAG 최적화 추론 시스템 협력…할루시네이션 줄인다

고성현 기자
RAG 기반 AI 추론 시스템 개발에 나선 디노티시아와 하이퍼엑셀 [ⓒ디노티시아]
RAG 기반 AI 추론 시스템 개발에 나선 디노티시아와 하이퍼엑셀 [ⓒ디노티시아]

[디지털데일리 고성현 기자] 인공지능(AI) 반도체 기업 디노티시아(대표 정무경)가 AI반도체 설계 기업(팹리스) 하이퍼엑셀과 검색증강생성(RAG) 최적화 시스템 개발에 나섰다.

디노티시아는 하이퍼엑셀과 'RAG 최적화 AI 추론 시스템' 개발을 위한 계약을 체결했다고 20일 밝혔다. 양사는 이번 계약으로 디노티시아의 벡터 데이터 연산 가속기 칩(VDPU)와 하이퍼엑셀의 거대언어모델(LLM) 가속기 칩 'LPU'를 결합해 하나의 통합 시스템을 구현할 방침이다.

최근 AI 서비스 분야는 높아지는 데이터 검색 중요성에 따라 RAG의 역할이 부각되고 있다. 늘어나는 데이터 양과 높은 소프트웨어 의존도로 검색 속도가 느리고 할루시네이션 영향이 커진 탓이다. 양사는 이를 해소하고 LLM 기반 서비스의 속도 향상, 정교한 데이터 검색을 위해 협력에 나섰다.

디노티시아는 이번 계약으로 VDPU를 활용해 AI가 대규모 멀티모달 데이터를 실시간으로 검색·활용할 수 있도록 하고, 하이퍼엑셀은 LPU 칩으로 AI 모델의 연산 성능을 극대화한다. 두 회사의 칩이 결합된 시스템은 검색과 추론을 동시에 처리하는 RAG 특화 AI 시스템으로 꾸려진다.

정무경 디노티시아 대표는 "LLM 서비스가 확산되면서 데이터 검색에 대한 요구사항이 급격히 늘어나고 있다. 이번 협력을 통해 AI 모델의 추론뿐 아니라 데이터 검색 기능까지 최적화한 새로운 개념의 AI 시스템을 선보이겠다"며 "할루시네이션 문제를 줄이고, 더욱 전문화되고 개인화된 AI 서비스로 도약하는 중요한 이정표가 될 것"이라고 강조했다.

김주영 하이퍼엑셀 대표는 "AI 연산의 병목 현상을 해결하고, 성능과 효율성을 동시에 확보하는 것이 AI 반도체의 핵심 과제"라며 "이번 협력을 통해 RAG와 LLM을 최적화한 AI 시스템을 구축함으로써, AI 시스템 운영 방식을 혁신하는 중요한 전환점이 될 것"이라고 말했다.

고성현 기자
naretss@ddaily.co.kr
기자의 전체기사 보기 기자의 전체기사 보기
디지털데일리가 직접 편집한 뉴스 채널