ⓒAWS

[디지털데일리 권하영기자] 아마존웹서비스(AWS)는 첨단 생성형 인공지능(AI) 애플리케이션과 경험을 개발할 수 있게 지원하는 ‘아마존 베드록(Amazon Bedrock)’의 신규 혁신 기능을 24일 발표했다.

아마존 베드록은 생성형 AI 애플리케이션을 신속하게 구축하고 배포하는 데 필요한 기능·보안과 더불어, AI21랩스·앤스로픽·코히어·메타·미스트랄AI·스태빌리티AI·아마존 등에서 제공하는 주요 파운데이션모델(FM)에 대한 광범위한 액세스를 제공한다.

이번 신규 기능을 통해 고객은 아마존 베드록에서 자체 완전 관리형 모델을 실행하고, 사용사례에 가장 적합한 모델을 쉽게 찾고, 생성형 AI 애플리케이션에 더 쉽게 보호기능(safeguard)을 적용하고, 더 많은 모델 선택권을 제공받을 수 있게 됐다.

신규 기능 ‘커스텀 모델 가져오기’는 조직이 자체 커스텀 모델을 아마존 베드록으로 가져와 운영 오버헤드를 줄이고 애플리케이션 개발을 가속화할 수 있도록 지원한다.

조직이 아마존 베드록에서 완전히 관리되는 응용프로그램인터페이스(API)로 자체 커스텀 모델을 가져와 액세스할 수 있게 함으로써, 생성형 AI 애플리케이션 구축 시 전례 없는 선택의 폭을 제공한다는 설명이다.

고객은 클릭 몇 번으로 아마존 세이지메이커나 다른 도구에서 커스터마이징한 모델을 손쉽게 아마존 베드록에 추가할 수 있다. 자동화된 검증 프로세스를 거치고 나면 아마존 베드록의 다른 모델과 마찬가지로 커스텀 모델에 쉽게 액세스해 매끄러운 확장성과 강력한 애플리케이션 보호 기능 등을 기본 인프라 관리 없이도 누릴 수 있게 된다.

이 기능은 조직이 동일한 API를 통해 아마존 베드록 모델과 자체 커스텀 모델의 조합을 쉽게 선택할 수 있도록 지원한다. 현재 프리뷰 버전으로 제공되며, 가장 인기 있는 오픈 모델 아키텍처인 플란-T5, 라마, 미스트랄 세 가지를 지원한다. 향후 더 많은 아키텍처가 지원될 예정이다.

또 하나의 신규 기능 ‘모델 평가’는 고객이 애플리케이션에 가장 적합한 모델을 평가, 비교, 그리고 선택할 수 있도록 지원한다. 기존에는 새로운 모델이 사용 사례를 충족할 수 있는지 분석하는 데 수많은 시간을 투자해야 했는데, 신기능은 모델 평가에 소요되는 시간을 몇 주에서 몇 시간으로 단축해주는 것이 특징이다.

주관적인 기준이나 세심한 판단이 필요한 콘텐츠의 경우, 고객은 간편하게 워크플로우에 평가자를 추가해 관련성, 스타일, 브랜드 보이스 등 사용 사례별 메트릭에 따라 모델 응답을 평가할 수 있도록 지원한다. 설정 프로세스가 완료되면 아마존 베드록이 평가를 실행하고 보고서를 생성한다.

또 다른 신기능인 ‘가드레일 포 아마존 베드록’은 개인 및 민감한 정보, 욕설, 특정 단어를 제거하고 유해한 콘텐츠를 차단하는 안전장치를 쉽게 구현 가능하다.

이 기능은 FM의 기본 기능에 업계 최고의 안전 보호 기능을 추가해 고객이 유해 콘텐츠를 최대 85%까지 차단할 수 있도록 지원한다. 고객이 단일 제품에서 기본 제공 및 맞춤형 보호 기능을 사용할 수 있도록 최고의 클라우드 제공업체가 제공하는 유일한 솔루션으로, 아마존 베드록의 모든 대규모언어모델(LLM)은 물론 미세조정된 모델에서도 작동한다.

또한 이번 신규 업데이트로 고객은 더 많은 모델을 선택할 수 있게 됐다. 현재 아마존 베드록은 아마존 타이탄 제품군을 지속적으로 확장해 고객에게 더 많은 선택권과 유연성을 제공하고 있다. 더불어 현재 아마존 베드록에서 메타 라마 3 FM도 사용할 수 있으며, 곧 코히어의 커맨드 R 및 커맨드 R+ 모델도 출시될 예정이다.