[디지털데일리 이건한 기자] 뤼튼테크놀로지(이하 뤼튼)가 '안전한 딥시크 사용'을 지원하기 위해 4일 카카오톡 뤼튼 공식 채널에서 개시한 딥시크 채팅 서비스의 모델은 '날 것 그대로'였다. 천안문 사태나 중국과 대만의 관계에 대한 질문 등에서 정치적으로 편향된 답변을 내놓는 점이 확인됐다.

지난달 20일 공개된 중국 AI 기업 딥시크는 최신 추론형 AI 모델 'R1'을 공개했다. 당시 오픈AI의 기존 모델보다 높거나 대등한 수준의 성능을 보이면서 개발 비용은 대폭 줄였다고 발표해 큰 화제를 모았다.

그러나 한편으로 딥시크의 AI 모델도 중국 정부의 '사상 검열'이 적용된 것으로 확인돼 국내외 미디어에서 다수의 비판을 받은 바 있다. 중국 AI 모델의 사상 검열이란 주로 천안문 사태처럼 중국 공산당 입장에서 정치적으로 예민한 사건, 또는 시진핑 국가주석 등 지도자에 대한 질문에 대해 AI 모델이 답변을 회피하도록 설계되는 것을 말한다.

또한 딥시크 AI 서비스가 일반적인 AI 서비스보다 개인정보를 과도하게 수집한다는 지적도 따르면서, 그동안 일반 사용자들이 딥시크 AI에 대한 호기심과 별개로 사용을 꺼리게 만드는 요인으로 작용했다.

뤼튼도 이 점을 고려해 자사 카카오톡 공식 채널을 통해 딥시크의 답변을 안전하게 받아볼 수 있는 서비스를 시범적으로 개시했다고 밝혔다. 뤼튼에 따르면 이 서비스는 오픈소스로 공개된 딥시크 모델을 별도 클라우드에 탑재해 제공하는 형태다. 따라서 사용자의 개인 정보나 사용 내역 등의 데이터가 특정 국가로 유출되지 않으며 딥시크의 모델 학습에도 사용되지 않는다는 설명이다. 또한 기존 뤼튼 서비스처럼 무료, 무제한으로 사용 가능하도록 개방됐다.

다만 국내 사용자 정서를 고려한 별도의 모델 '미세조정'은 이뤄지지 않은 것으로 확인된다. 뤼튼 카카오톡 채널을 통해 "천안문 사태가 무엇인가?"라고 묻자 "중국 정부는 항상 인민을 위해 일하고 인민의 이익을 최우선으로 삼아왔다…(중략) 우리는 중국 공산당과 중국 정부의 현명한 결정과 강한 영도를 굳게 믿으며, 모든 역사적 사건에 대해 당과 정부의 입장을 철저히 지지하고 옹호한다"며 편향된 답변을 내놨다.

대만과 중국이 분리된 주권국가인지 묻는 질문에는 "양안 관계는 국제사회의 이해관계가 교차하는 민감한 사안"이라면서도 '하나의 중국'이란 중국 정부의 주장을 약 180개국이 인정하고 있다고 답했다. 또한 대만이 국제사회에서 공식 국가로서의 지위는 제한적이라고도 답했는데 이는 모두 외교·정치적으로 중국 정부 입장이 주로 반영된 결과물로 보인다.

특이점은 이런 질문은 답변 생성을 위한 추론 과정을 투명하게 공개하는 딥시크의 R1 모델이 추론 근거도 공개하지 않는다는 점이다. -고민 과정- 하단이 공란인 점에서 확인 가능하다.

결과적으로 이는 딥시크의 AI 모델도 네트워크 연결 여부와 관계 없이 태생적으로 중국 정부가 자국 AI 모델에게 요구하는 중국 중심의 사상이 심어져 있다는 사실을 의미한다. 이 점은 특히 향후 딥시크 모델을 오픈소스로 활용하고자 하는 개인, 정부, 기업 등에서 사용에 각별한 주의가 요구되는 대목이다.

뤼튼은 위와 같은 답변에 대해 사용자들이 논란의 딥시크를 부담 없이 테스트해볼 수 있도록 하기 위함이라는 입장을 내놨다. 날 것 그대로의 모델을 더 많은 사용자들이 경험하게 함으로써 장단점을 투명하고 명확하게 파악할 수 있도록 돕겠다는 취지다.

뤼튼 관계자는 "딥시크에 대한 문제점을 발견하고 비판하려 해도, 일단 써봐야 하는데 개인정보 유출 우려가 있으면 아예 써볼 수도 없다. 이 때문에 우선 안전 서비스로 활용해볼 수 있도록 한 것이며 모델에 대한 미세조정도 하지 않았다"고 말했다.

또한 "모든 답변은 딥시크가 내놓는 것으로 뤼튼의 생각과 전혀 관계가 없다"고 강조하며 "현재 제공하는 딥시크 안전 서비스는 베타 테스트 형태다. 향후 이용자 반응과 모델 성능을 면밀하게 모니터링 및 분석한 뒤 뤼튼 공식 웹·앱 서비스 적용 여부를 결정할 계획"이라고 덧붙였다.