[일문일답] KT의 ‘믿음’직한 AI…“환각 70%·가격 30% 줄였다”
[디지털데일리 권하영 기자] KT가 자체 초거대 인공지능(AI) ‘믿음(Mi:dm)’을 선보인다. 이를 통해 거대언어모델(LLM)을 사업화해 기업용(B2B) 시장을 본격 공략한다.
믿음은 경량 모델부터 초대형 모델까지 총 4종으로 구성돼 기업 니즈에 따라 완전맞춤형(Full Fine-Tuning, FFT)으로 사용할 수 있다. 또한 AI 풀스택을 통해 KT클라우드와 함께 믿음의 기업전용 AI 클라우드팜(Mi:dm CloudFarm)을 패키지로 제공한다.
특히 KT는 기업 누구나 믿음을 사용할 수 있도록 조(兆)단위 데이터의 사전 학습을 완료한 초거대AI 핵심기반 모델인 파운데이션모델(Foundation Model)을 개방한다. 이를 통해 LLM의 B2B 사업화를 가속화할 계획이다.
다음은 최준기 KT AI·빅데이터사업본부장, 배순민 KT AI2XL연구소장, 이용재 콴다 대표, 김성훈 업스테이지 대표와의 일문일답.
Q. KT 초거대AI의 해외 시장 진출 전망을 어떻게 보는지?
A. (최준기 본부장) KT는 태국과 믿음을 활용한 LLM 구축사업을 협력 중이다. 사실 글로벌 빅테크들의 초거대AI 모델들은 동남아와 같은 비영어권 언어가 비교적 적게 들어간다. 하지만 비영어권 국가들도 초거대AI 모델을 확보하려는 니즈들이 있고, KT가 이를 해결할 수 있다고 봤다.
Q. 글로벌 시장에서 빅테크 AI와 차별화 포인트는?
A. (최준기 본부장) 노하우 전수 측면에서 빅테크와 차별화할 수 있다고 본다. 또 글로벌 빅테크는 1부터 100까지 다 제공한다고 하는데, 우리는 업스테이지 등 능력 있는 스타트업과 계속 협력할 계획이다. 실제 태국 LLM 구축에 있어 업스테이지가 굉장히 빠른 시간 안에 모델 성능을 끌어낸 경험이 있는데, 이런 게 장점이 될 수 있다.
Q. 믿음이 국내 업계 최초로 파운데이션 모델을 공개하는 의의는 무엇인지.
A. (최준기 본부장) 아직 초거대AI를 활용한 혁신사례가 많이 안나왔고 연구해야 할 게 많다. 따라서 새로운 서비스 아이템을 만드는 게 중요하다. GPT도 누구나 쓸 수 있지만 파인튜닝하거나 만져보기는 어렵고, 한국어 성능으로 일부분 부족한 면도 있다. 믿음의 차별점은 생태계를 잘 만들어 특정 영역 데이터를 가진 사람과 베네핏을 나눠갈 생각으로 만들어갈 것이라는 점이다.
Q. 타사와 비교했을 때 어느 정도 비용 절감이 가능한지.
A. (최준기 본부장) 비용이 딱 정해진 건 아니지만 가장 많이 쓰이는 A사와 비교시 30% 이상 절감된 금액으로 제공하려 한다. 기업고객을 위한 요금체계도 다른 방향으로 생각 중이다. 많이 쓰는 기업고객은 토큰 단위 과금에 부담을 느끼는데, 그에 대해 인스턴스 과금체계를 제공할 계획이다. 사용량이 어느 정도 올라온다 생각했을 때 KT클라우드와 믿음 조합으로 쓰는 게 가장 저렴하다고 보면 된다.
Q. 파라미터 규모는 어느 정도인지.
A. (최준기 본부장) 파라미터 규모는 모델별로 라인업이 준비돼 있기 때문에 100억 이하에서 수백억대, 수천억대로 다양하다. 업무의 난이도에 따라 골라 쓰면 된다. 가장 많은 숫자로 보면 2000억 파라미터 규모다.
Q. KT만의 B2B 경쟁력은 무엇인지. 또 추후 B2C 출시 계획은 없는지.
A. (최준기 본부장) B2B의 경우 기업고객 니즈를 정확히 이해하는 컨설팅 과정, 기존 레거시 시스템과 자연스럽게 붙이고 완결적으로 목표를 달성할 수 있게 하는 딜리버리 과정이 필수다. 우리나라에서 B2B로 IT 비즈니스를 하는 기업들을 생각해보면, 이런 컨설팅과 딜리버리를 제공하는 기업이 자사 LLM을 안가지고 있을 수도 있고 노하우가 부족할 수도 있다. 하지만 KT는 종합적으로 가장 나은 품질의 B2B LLM을 제공할 수 있을 것으로 확신한다. B2C에 대해선 여러 생각 중이다. 기가지니를 포함한 유무선 통신 등 많은 가능성 가지고 있기 때문에, 몇가지 아이템을 준비 중이고 때가 되면 알려줄 수 있을 것 같다.
Q. 믿음 서비스의 예상 BEP 달성 시점과 매출 목표, 향후 투자 계획이 궁금하다.
A. (최준기 본부장) 처음 투자되는 GPU팜 규모를 볼 때 즉각적인 BEP 달성은 힘들지만, 추산해보면 3년 뒤에는 우리나라 전체로 봤을 때 좁게 봐도 3000억 규모 시장이 열릴 것이고 글로벌로는 훨씬 더 빠르게 열릴 것이다. 믿음을 통한 매출 목표는 3년 뒤 약 1000억원대를 왔다갔다 하는 수준을 기대하고 있다. 향후 투자는 앞서 발표한 5년간 초거대 AI 관련 1.5조원을 투자하겠다는 계획이 아직 유효하다.
Q. KT가 자체 LLM을 가졌다는 것의 장점은 무엇인지?
A. (배순민 소장) AI 연구소 입장에서 말하자면, AI로 할 수 있는 건 많은데 하나하나 처리할 때마다 전담하는 팀이나 인력이 필요했다. 자체 모델을 가져서 좋은 점은 한번 업데이트가 되면 같은 모델을 필요한 영역 어디에나 적용할 수 있어 생산성이 올라갔다는 점이다. 하나의 모델이 이렇게 파급력이 높다는 건 대단히 효율적인 이점이 있다. 게다가 이제는 글로벌 시장까지 노릴 수 있지 않나. 다음 단계로 도약을 위한 확실한 준비라고 생각한다.
Q. 글로벌 사업자들과의 경쟁이 두렵지는 않은지. 그들과 제휴할 계획은 있는지.
A. (최준기 부문장) 당연히 두렵다. 다만 1대1로 경쟁하겠다는 건 아니고. LLM은 캐피탈이 많이 들어가는 모델인데 만들어본 경험이 있는 기술진과 만들어보지 못한 기술진의 차이는 굉장히 크다. 가볍고 빠르고 전문 영역을 갖춘 기업을 원하는 니즈가 분명히 있다고 생각한다. 제휴 가능성도 물론 열려 있다.
Q. 업스테이지와 콴다는 왜 KT를 파트너로 택했는지.
A. (이용재 대표) 한국어 모델은 KT 외에 기반을 제공하는 회사가 없다. 또 우리는 대규모 서비스를 위해 인프라가 중요한데, 이를 종합적으로 제공하는 파트너는 KT가 유일했다.
A. (김성훈 대표) 처음부터 B2B에 관심 많았는데 그쪽으로는 KT가 AI B2B를 너무 잘하고 있고 또 많은 노하우를 보유하고 있다고 생각했다.
스트레스 완충자본 규제 유예… 한시름 놓은 은행권, 기업금융 고삐죌까
2024-12-22 14:06:20심각한 노인빈곤율…"면세자에 대한 환급형 세액공제 도입해야"
2024-12-22 12:38:24올해 정보보호 투자액 2조원 돌파…공시 의무화 효과 '톡톡'
2024-12-22 12:00:00예상 빗나가지 않은 강호동 농협중앙회장의 '물갈이'… 탄핵 정국속 '마이웨이'
2024-12-22 11:21:15