[디지털데일리 권하영기자] “앤스로픽이 다른 인공지능(AI) 기업과 다른 차별점은 바로 우리가 ‘헌법적 AI(Constitutional AI)’를 추구하고 있다는 것입니다.”

최근 아마존웹서비스(AWS)와 AI 협력을 강화하고 있는 대표 생성형 AI 기업 앤스로픽의 다리오 아모데이 최고경영자(CEO) 및 공동설립자는 26일(현지시간) 미국 워싱턴DC의 월터E. 워싱턴 컨벤션센터에서 개최된 공공부문 대상의 ‘AWS 워싱턴DC 서밋’에서 “AI는 민주주의의 힘”이라며 이같이 강조했다.

이날 아모데이 앤스로픽 CEO는 데이브 레비 AWS 글로벌공공부문(WWPS) 부사장과의 세션에 참석해 공공분야 AI 도입 필요성과 미래 생성형 AI의 중요성을 설파했다.

앤스로픽은 2021년 설립 이후 현재 가장 주목받는 생성형 AI 스타트업 중 하나로, 아마존으로부터 40억달러(약 5조6000억원)에 이르는 투자를 포함해 구글과 세일즈포스 등 다수의 빅테크 기업들로부터 총 73억달러(약 10조원) 투자를 유치한 상태다.

앤스로픽이 최근 발표한 최신 거대언어모델(LLM) ‘클로드 3.5 소네트(Sonnet)’는 자사 전작과 비교해 속도가 2배 빨라졌고, 자체 평가에선 현존 최고 AI 모델로 꼽히는 오픈AI의 ‘GPT-4o’나 구글의 ‘제미나이 1.5 프로’ 등 경쟁 모델보다 더 높은 점수를 받았다고 알려져 있다. ‘클로드 3.5 소네트’는 신기능 ‘아티팩트(Artifacts)’를 탑재해 차트·그래프 같은 시각적 자료를 해석하고 추론하는 멀티모달 능력까지 끌어올렸다.

하지만 앤스로픽이 업계 관심을 받는 이유는 비단 AI 모델의 뛰어난 성능 때문만은 아니다. 앤스로픽은 AI를 통한 공격적인 수익화 이전에 ‘안전한 AI’라는 원칙을 최우선으로 추구하는 기업으로 평가된다. 실제 앤스로픽을 설립한 다리오·다니엘라 애머데이 남매는 ‘챗GPT’로 생성형 AI 열풍을 일으킨 오픈AI의 공동 창립자 중 일부였지만, 생성형 AI의 위험성과 안전성에 대한 의견차로 회사를 떠났던 것으로 전해졌다.

아모데이 CEO는 이날 세션에서도 “오픈AI를 비롯한 다른 생성형 AI 기업들과 다른 우리의 차별점은 헌법적 AI에 있다”며 “우리는 유엔 인권 선언 등 기본적인 것들에서 영감을 받아 AI 모델이 해야 하는 일에 대한 방향성을 잡고 있다”고 강조했다.

그는 “우리는 AI 모델이 수억개 뉴런과 많은 파라미터 매개변수로 인간의 지능을 넘어서는 어떤 작동 회로를 가지게 되는지 연구를 계속했고, 완벽하게 이해하는 것은 불가능해도 매년 관련 논문을 내며 성과를 올리고 있다”며 “최근에는 편향의 존재 여부를 설명할 여러 기전을 이해하고 이와 관련된 메커니즘을 적용했다가 제외했다가 하는 식으로 연구하면서 모델의 학습과 평가에 반영하고 있다”고 설명했다.

실제 앤스로픽은 책임 있는 AI 사용을 위한 ‘책임 있는 조정(Scaling)’ 정책을 펼치고 있다. 이 정책에 따라 앤스로픽은 AI 기술의 다양한 위험 단계(Level)를 설정해 사례를 분석하고 테스트한 뒤 그 결과를 정부와 연구기관에 공유하고 있다.

생성형 AI의 악용을 최소화하기 위한 명확한 사용 기준도 두고 있다. 아모데이 CEO는 “예컨대 선거 정보를 만드는 데는 AI 모델을 쓰지 못하게 하고 있고, 생화학 무기를 만드는 방법을 질문했을 때 AI 모델이 여기에 대한 답변을 주지 못하게 하고 있다”며 “우리는 AI 모델에 대한 정책 취약성 테스트를 하고 있으며, 어떤 악의적 집단이 AI 모델이 해선 안 되는 일을 하게끔 유도할 때 모델이 거기에 굴복하는지 아닌지를 계속 확인하고 있다”고 강조했다.

이를 위해 앤스로픽은 미국 국립표준기술연구소(NIST) 산하 AI안전연구소와도 긴밀하게 협력하고 있다는 전언이다. 아모데이 CEO는 “AI안전연구소는 규제 집행 능력이 있는 건 아니지만 AI 모델에 대해 시행할 수 있는 많은 테스트를 개발 중”이라며 “아직 어느 모델이 국가 안보에 위협이 될지 가려낼 수 있는 정교하고 체계화된 테스트가 없지만, 결국 규제 집행을 위해서도 테스트는 필요하다”고 지적했다.

이어 그는 “AI안전연구소는 연방정부에서 AI를 도입하는 데 있어 관련 표준과 절차를 만드는 데 중추적 역할을 할 것”이라며 “그 표준이 연방정부 차원에서 널리 활용될 것이고, 주 정부 차원에서도 법을 제정할 때 NIST가 만든 표준을 참조해서 주마다 국가마다 규제가 반복되지 않게 할 필요가 있다”고 덧붙였다.

결국 생성형 AI가 이러한 헌법적 가치를 기반으로 할 때, 궁극적으로 민주주의 발전에 기여할 수 있다는 게 아모데이 CEO의 생각이다. 그는 “예를 들어 선거나 공중보건 정보에 관한 챗봇으로 시민들이 쉽게 정보를 제공받고 상호작용하는 경험을 만든다면, 이는 더 큰 관점에서 볼 때 민주주의 정당성을 강화하는 일”이라고 주장했다.

실제 앤스로픽은 AWS 및 액센츄어와 함께 워싱턴DC에서 미국 보건부와 협력해, 자연어 질문을 받으면 백신과 간단한 건강정보에 대한 답변을 제공하는 서비스도 지원하고 있다. 아모데이 CEO는 “워싱턴DC는 미국에서 가장 건강한 도시가 되고자 하고 있고, 개인정보보호나 모델의 적절한 행동 기준을 현실화했다”며 “이는 곧 민주주의를 해치는 불평등과 차별의 개념을 약화시켜 민주주의를 더 발전시키는 역할을 하게 될 것”이라 지적했다.

그는 “앤스로픽은 군사활동이나 인신매매 등 국가 안보에 위협이 되는 다양한 요소들에 대응하기 위해 클로드를 적용하고 있으며, 다양한 방식으로 AI가 민주주의의 힘이 되고 나아가 민주주의가 더 잘 기능하면서 악의적인 시도들을 멈출 수 있도록 기여하고 있다”며 “자사의 ‘클로드 3.5 소네트’와 ‘클로드 3 하이쿠’를 AWS의 거브클라우드(Govcloud)와 인텔리전스 커뮤니티 마켓플레이스에서 제공하고 있으며, 앤스로픽은 정부와 긴밀히 협력해 국가 안보 관련 측면에서 ‘클로드 3.5 소네트 출시 전 미국 AI안전연구소와 검증한 바 있다”고 밝혔다.

한편, 생성형 AI가 급속도로 발전함에 따라 AI의 수익성과 공익성, 개발론과 파멸론이라는 각각의 가치를 뒤따르는 진영 구분이 가속화할 것으로 보인다. 지난해 11월 샘 올트먼 오픈AI CEO의 축출 사태가 그 출발점이었다. 당시 올트먼 CEO는 지나치게 수익성에만 몰두한다는 이유로 AI의 위험성을 우려한 오픈AI 이사회로부터 해고당했지만, 오픈AI의 최대 투자자인 마이크로소프트(MS)의 반발로 다시 복귀한 바 있다. 이후 아모데이 남매가 회사를 나와 설립한 앤스로픽은 이러한 오픈AI의 대척점에 서 있다고 볼 수 있다.

오픈AI와의 독점적 파트너십으로 폐쇄적 AI 모델 생태계를 형성한 MS와 달리, AWS는 안전하고 책임 있는 AI 기술 개발을 강조하면서 후자 진영에 힘을 싣고 있다. AWS는 이번 서밋에서 2년간 5000만달러(약 697억원)를 투자하는 ‘AWS 공공부문 생성형 AI 임팩트 이니셔티브’를 발표하고, 정부와 비영리단체 및 교육·의료 등 공공분야에 자사 생성형 AI 서비스를 활용할 수 있도록 크레딧과 기술지원을 제공하겠다고 밝혔다.