메타의 라마3 기반으로 제작된 8B 경량 모델
보편적인 답변 선호도를 반영한 지시사항 데이터셋 2000개 추가해 오류 최소화
한국어 LLM 측정하는 ‘Logickor’ 리더보드에서 글쓰기, 이해 부분 높은 점수 기록... 문서 생성 및 요약 등 한국어 실무에 특화
오픈소스 모델로 누구나 사용 가능, 올거나이즈 알리 플랫폼 내에서 SaaS 형태로 사용도 가능

/사진=올거나이즈 제공
/사진=올거나이즈 제공

 

[이슈앤비즈 김하성 기자]LLM 올인원 솔루션 기업 올거나이즈는 한국어 실무에 강한 LLM(Large Language Model, 거대언어모델)인 '알파-인스트럭트(Alpha-Instruct)’을 출시한다고 3일 밝혔다. 

올거나이즈의 알파-인스트럭트 모델은 메타의 오픈소스 LLM인 '라마3'를 기반으로 제작된 파라미터(매개변수) 8B(80억) 규모의 경량 LLM이다. 한국어를 잘 이해할 수 있도록 라마3를 개량한 모델과 지시사항을 따르는데 특화된 라마3의 인스트럭트 모델을 병합하는 방식으로 제작됐다.

이후 보편적인 답변 선호도를 반영한 지시사항 데이터셋 2000개를 추가 학습시킴으로써 동일 대답 반복, 불필요한 영어 대답 등의 오류를 최소화했다. 

한국어 이해도가 높아 문서 생성 및 요약 등의 실무에 특화돼 있다. 한국어 언어모델의 다분야 사고력을 측정하는 'Logickor' 리더보드에서 높은 점수를 기록하고 있다. Logickor는 한국어 추론, 수학, 글쓰기, 코딩, 이해 등의 요소를 측정하며, 올거나이즈의 알파-인스트럭트 모델은 글쓰기 및 이해 부분에서 높은 점수를 기록 중이다.

올거나이즈는 알파-인스트럭트 모델을 오픈소스로 공개했다. 라이센스 제한 없이 누구나 자유롭게 사용 가능하다. 올거나이즈의 알리 플랫폼 내에서 알파-인스트럭트 모델을 사용할 수도 있으며, 기업 맞춤형 특화모델로 파인튜닝하거나 LLM을 내부 데이터에 연결해서 검색증강생성(RAG) 솔루션과 자유롭게 결합해 활용할 수 있다.

한편 올거나이즈는 알리(Alli) 플랫폼을 통해 기업용 LLM 인에이블러(Enabler) 서비스를 제공하고 있다. 다양한 오픈소스 LLM 모델을 이용한 LLM 앱 개발 도구 및 미리 개발된 LLM 앱들을 앱 마켓 형태로 제공한다. 금융 특화 LLM '알파-F(Alpha-Finance)'를 비롯해 산업·기업별 특화 언어 모델을 제작해 기업들에게 공급하고 있다. 

올거나이즈의 이창수 대표는 “완성도 높은 한국어 모델을 만들기 위해 공들여 데이터셋을 구성하고, 다양한 방법론들에 대한 수많은 테스트를 거침으로써 극히 적은 리소스만으로 성능 좋은 모델을 만들 수 있었다"며, "앞으로도 최신 오픈소스 모델의 성능을 계속 평가하고, 고객이 효율적으로 잘 활용할 수 있는 모델을 지속적으로 만들어 나갈 것”이라고 밝혔다. 

2017년 설립된 올거나이즈코리아㈜는 AI로 기업의 생산성을 혁신하는 LLM 올인원 솔루션 기업이다. 

파이브락스(5Rocks)를 창업하고 2014년 탭조이에 성공리에 매각했던 이창수 대표가 세운 두 번째 회사다.

올거나이즈는 알리(Alli) 플랫폼을 통해 기업용 LLM 인에이블러(Enabler) 서비스를 제공하고 있다. ‘알리 LLM 앱 빌더(App Builder)’를 활용해 개발 지식 없이 노코드 형태로 기업 맞춤형 앱을 쉽게 제작할 수 있으며, ‘알리 LLM 앱 마켓(App Market)’에 등록된 LLM 앱 중 필요한 앱을 골라 직군별 업무에 활용할 수 있다. 오픈AI의 GPT-3.5, GPT-4, 구글의 제미나이, 앤트로픽의 클로드3, 네이버의 하이퍼클로바X 등 원하는 LLM을 선택해 사용 가능하며, 올거나이즈의 산업 특화 sLLM(경량화 LLM 모델)도 온프레미스 형태로 사용 가능하다.

올거나이즈만의 LLM(거대언어모델) 기술력이 응집된 네 건의 기술 특허를 출원했다. LLM 앱 마켓에 LLM 앱을 등록하고 제공하는 방법에 관한 기술, 고객이 기업 특화 sLLM(소형언어모델)을 구축하고자 할 때 LLM을 활용해 학습 데이터를 효율적으로 생성할 수 있는 기술 등이다.

또한, 병합된 셀 등이 포함된 복잡한 표에서도 LLM이 답을 찾아내는 기술과 LLM의 환각을 줄이고 정확도를 높일 수 있는 'RAG(검색 증강 생성)+ 사용자 피드백' 기술에 대해서도 특허를 출원했다. 

한국, 미국, 일본 3개국에서 동시에 사업을 진행하며 현재 200개 이상의 엔터프라이즈 기업 고객에게 AI 솔루션을 제공하고 있다. KB증권, 일본의 미쓰이스미토모은행(SMBC) 금융그룹, KDDI, KAO, 미국의 트래블러스 등에서 사용 중이다.

올거나이즈는 한국, 미국, 일본 투자자들로부터 누적 468억원(3500만 달러)를 유치했다. 2022년 8월, 일본 시장 확대 및 도쿄거래소 상장을 목표로 본사 기능을 미국 휴스턴에서 일본 도쿄로 이전했다.
 

저작권자 © 이슈앤비즈 무단전재 및 재배포 금지