업스테이지, 인텔 코어 Ultra 프로세서에 자체 개발 거대언어모델 ‘솔라’ 최적화

[이슈앤비즈 김하성 기자]인공지능(AI) 기술 기업 업스테이지가 개발한 거대언어모델(LLM) 솔라가 인텔 프로세서에 최적화된다.

업스테이지는 솔라의 경량화 버전인 ‘솔라 미니(Solar Mini)’와, 솔라 기반 LLM 문서 작업용 앱 ‘라이트업(WriteUp)’을 ‘인텔 코어 Ultra 프로세서’에 최적화한다고 7일 밝혔다.

외부 클라우드 연결 없이 기기 자체에서 AI 처리가 가능한 ‘온디바이스 AI’가 화두다. 특히, 단말에 내장된 칩에 직접 LLM을 설치하는 AI PC는 높은 접근성, 생산성 뿐만 아니라 정보 유출을 원천 차단해 보안성을 극대화했다. 

이에 업스테이지와 인텔은 AI 기능에 특화된 인텔 코어 Ultra 프로세서에 솔라를 최적화해, 세계 최고 수준의 LLM과 결합한 AI PC의 새로운 기준을 제시한다. 이를 통해 앞으로 인텔의 해당 프로세서를 장착한 윈도우 PC 제품군에서 솔라를 온디바이스 AI로 활용할 수 있게 될 전망이다.

솔라는 업스테이지가 개발한 자체 사전학습 LLM이다. 솔라 미니는 매개변수(파라미터)를 경량화한 모델로, 작지만 강력한 성능으로 다양한 산업, 기업별 맞춤형 파인튜닝(미세조정) 뿐만 아니라 온디바이스 AI 등 구축형에 특화됐다. 한국어와 영어, 일본어 등 다양한 언어를 지원한다.

라이트업은 솔라 기반의 문서 작업용 앱이다. 설치형으로 폐쇄망, 오프라인 환경에서도 동작해 솔라 LLM을 활용한 다양한 문서 작업이 가능하다. 문장 생성, 요약뿐만 아니라 문맥에 맞는 문장의 톤까지 다양하게 조절할 수 있는 점이 특징으로, 실시간 다국어 번역 기능까지 지원한다.

아울러, 업스테이지는 이달 4일부터 7일까지 대만 타이베이에서 개최되는 아시아 최대 IT 박람회 ‘컴퓨텍스(COMPUTEX) 2024’, 5일 서울에서 개최된 ‘인텔 AI 서밋(Intel AI Summit Seoul)’을 통해 인텔 칩셋에서 구동되는 솔라를 시연했다.

업스테이지 김성훈 대표는 “업스테이지가 개발한 세계 최고 수준의 솔라 LLM을 인텔의 고성능 프로세서에 탑재하게 되어 매우 기쁘다”라며 “높은 생산성과 보안성을 갖춘 온디바이스 AI에 특화된 솔라를 통해, 인텔 기반의 윈도우 PC 사용자들은 생성형 AI 기술을 더욱 쉽고 빠르게 활용할 수 있을 것”이라고 밝혔다.

업스테이지는 2020년 10월에 설립된 국내 대표 AI 스타트업이다. 

업스테이지는 허깅페이스 리더보드에서 오픈LLM 역사상 최초로 챗GPT의 벤치마크 점수를 뛰어넘는 성능으로 1위를 차지하며 거대 언어 모델(LLM) 업계에서 두각을 나타내고 있다. 

이런 기술력을 기반으로 데이터 보안을 극대화하고 할루시네이션을 해결한 신뢰할 수 있는 프라이빗 LLM의 표준을 제시, 최첨단 기술을 기업이 편리하게 사용할 수 있도록 돕는다. 

업스테이지의 Chat AI ‘AskUp’은 170만 명이 넘는 사용자를 보유, 국내 최대 AI 서비스로 자리매김했다. 

또다른 업스테이지 대표 솔루션인 Document AI Pack은 세계 최고 권위 OCR 대회를 석권한 AI OCR 기술을 활용, 효율성과 정확성을 높여 문서 자동화 실현한다. 

최소한의 데이터로 사전 학습된 모델을 통해 문서 처리를 최적화함으로써 수작업 방식에 비해 비용과 시간을 획기적으로 최소화한다. 

교육프로그램 ‘에듀스테이지’를 통해 AI 비즈니스 경험을 녹여낸 실습 위주의 교육과 탄탄한 AI 기초 교육을 통해 AI 비즈니스에 즉각 투입될 수 있는 차별화된 전문 인재를 육성하는 교육 콘텐츠 사업에도 적극 나서고 있다.