메타, 차세대 대규모 오픈소스 언어모델 ‘라마2’ 공개

인터넷

디지털데일리 발행일 2023-07-20 09:17:39

이나연 기자

[디지털데일리 이나연 기자] 메타가 연구와 상용(商用) 목적으로 활용 가능한 차세대 대규모 언어모델 ‘라마2(Llama2)’를 오픈소스로 공개한다.

메타는 개방형 접근 방식을 통해 생성형 인공지능(AI) 기술 발전과 안전한 개발을 도모한다며 20일 이같이 밝혔다. ‘라마’는 메타가 올해 초 연구원들을 위해 공개한 오픈소스 대규모 언어모델이다. 출시 이후 연구원들로부터 10만건이 넘는 액세스 요청을 받은 바 있다.

차세대 버전인 라마2는 연구뿐만 아니라 상업적 용도로도 활용할 수 있는 것이 특징이다. 성능 면에서는 이전 모델(라마1) 대비 40% 더 많은 2조 개 토큰을 학습했으며, 2배 더 긴 컨텍스트 길이를 자랑한다.

컨텍스트 길이는 하나의 언어모델이 처리할 수 있는 토큰 양으로, 길이가 길수록 더 많은 정보와 더 다양한 맥락을 이해할 수 있다. 파라미터(매개변수) 규모는 70억, 130억, 700억개다.

라마2를 활용하는 주요 파트너로는 메타와 오랜 협력 관계를 유지해온 마이크로소프트가 함께한다. 마이크로소프트 클라우드 플랫폼인 ‘애저(Azure)’에 라마2를 제공해 애저 이용자들이 라마2를 활용해 다양한 AI 경험을 구축할 수 있도록 했다.

메타는 이번 파트너십 확장을 통해 원천적인 AI 기술에 대한 접근성을 높여 전 세계 비즈니스 생태계 발전에 기여할 계획이다.

이나연 기자

lny@ddaily.co.kr

당신이 좋아할 만한 뉴스