업스테이지가 2024년 슬로건인 ‘AGI for Work(업무용 인공 일반지능)’ 실현 일환으로 기업용 온디바이스 AI 파트너십을 강화하고 있습니다. 그 중심에는 업스테이지의 경량 LLM(거대언어모델) ‘솔라(SOLAR)‘가 있는데요. 올해 LG전자에에 이어 폴라리스 오피스, 센드버드 등 내로라하는 기업들이 솔라를 자사 제품에 도입하기로 결정하면서 관련 계획에 청신호가 켜졌습니다.
먼저 알아둘 이야기
‘온디바이스 AI’ 시대가 온다
업스테이지는 3월6일, 글로벌 챗봇 API 플랫폼 회사인 센드버그가 자사 AI 챗봇에 솔라를 접목하기로 했다고 발표했습니다. 센드버그는 미국 실리콘밸리에 본사를 둔 한국 기업입니다. 전세계 3억명의 사용자를 보유하고 있으며, 업계 내 영향력이 큰 한국의 첫 B2B(기업간거래) 유니콘(기업가치 1조원)이기도 하죠.
앞선 2월에는 LG전자가 자사의 스테디셀러 노트북 ‘그램(GRAM)’, 전세계 1억2800만명의 사용자를 보유한 폴라리스 오피스도 자사 문서형 오피스 솔루션에 솔라 기반의 온디바이스 AI 기능을 탑재하겠다고 밝혔는데요. 특히 업스테이지와 폴라리스 오피스는 오피스계의 선두인 마이크로소프트보다 앞서 세계 최초로 온디바이스 AI 기반 문서 오피스 개발이란 이정표를 세울 예정이죠.
이 가운데 계속 언급되는 온디바이스 AI란 표기 그대로 On-device, 즉 기기 내부에서 자체적으로 구동 가능한 인공지능(AI)를 말합니다. 온디바이스 AI는 클라우드를 비롯한 외부 네트워크와 연결되지 않으므로 AI 사용기록 및 데이터가 외부로 전송되지 않습니다. 따라서 개인정보 보호에 유리하며 보안에 민감한 정부·금융·사기업도 부담 없이 활용할 수 있습니다. 또한 특정 사용자 맞춤형 AI 구동 환경 구축이 용이하며 네트워크 접속 비용이 없어 경제적이죠.
사실상, 가능하면 AI는 온디바이스 환경에서 구축하는 것이 사용자 측면에선 비용과 안전성 모두 더 유리합니다. 하지만 강력한 성능의 클라우드 컴퓨팅 인프라 기반으로 작동하는 AI 대비 낮은 성능은 그간 온디바이스 AI의 적용처를 제한하는 한계로 지목돼 왔는데요. 상황이 달라지고 있습니다.
지난 수년간 AI 업계의 지속적인 기술 고도화 노력 덕분에 이제는 온디바이스 환경에서도 꽤 좋은 성능을 내는 경량 AI 모델과 하드웨어들이 속속 개발되고 있거든요. 좋은 예로 삼성전자는 올해 초 공개한 신형 스마트폰 ‘갤럭시S24’ 시리즈에 강력한 온디바이스 AI 기반 서비스들을 성공적으로 탑재해 큰 화제를 모았죠. 이처럼 일상에서 널리 쓰이는 스마트폰용 온디바이스 AI의 흥행은 시사점이 꽤 큽니다. 이제 성능의 아쉬움은 뒤로하고, 앞으로 더 다양한 카테고리에서 온디바이스 AI 기반 제품과 서비스가 쏟아져 나올 것임을 상징하고 있기 때문입니다.
업무· 생산성 도구와 ‘찰떡궁합’
이런 예측은 이미 현실화되고 있습니다. LG전자와 폴라리스 오피스가 각각 노트북과 오피스 솔루션을 사용자가 더 편리하게 사용할 수 있도록 온디바이스 AI 접목을 결정한 것도 동일선상에 있거든요. 두 제품의 공통점은 모두 높은 가성비로 사무환경에서도 널리 쓰이는 생산성 도구란 점인데요. 노트북은 데스크톱과 더불어 가장 대표적인 생산성 ‘하드웨어’고 오피스는 모든 사무업무에서 활약하는 대표적인 생산성 ‘소프트웨어’죠.
이런 생산성 도구들은 분류만큼이나 편의 기능과 손쉬운 사용 환경을 구현하는 것이 중요합니다. 예컨대 LG전자는 노트북에 접목한 AI로 사용자의 명령을 인식하고, 저장된 데이터 기반으로 사용자가 원하는 내용을 검색 및 추천하거나 요약하는 기능을 제공할 수 있다고 설명했습니다. 기존에는 사용자가 관련 기능의 실행 메뉴얼을 숙지하거나 수작업, 직감 등을 동원해야 할 수 있었던 일을 “쓸만한 XX 데이터를 찾아 요약해줘” 같은 단순한 요청으로 AI가 처리할 수 있게 되는 겁니다. 이런 환경에선 당연히 작업 시간을 크게 줄일 수 있죠.
따라서 이제는 AI와 잘 융합한 생산성 도구와 그렇지 않은 도구 간 사용자 만족도 격차는 크게 벌어질 겁니다. 이는 업무용 제품을 만드는 기업들이 다른 분야보다 AI 도입에 더 적극적으로 나설 수밖에 없는 이유이기도 합니다.
핵심 인사이트
온디바이스용 LLM의 ‘미덕’은?
그러나 온디바이스 AI 도입은 신중해야 합니다. 구동 환경이 전보다 나아졌다지만 여전히 최소 하드웨어로 최대 성능을 내기 위한 AI 모델 최적화는 중요한 문제거든요. 또한 고성능 모델이라도 얼마나 쉽고 빠르게 제품에 접목할 수 있는지 또한 기업의 제품 출시 시기를 앞당기는 부분, 개발 비용 절감과 맞닿은 문제로써 중요합니다.
이 가운데 업스테이지는 2023년 공개한 사전학습 경량 LLM 솔라를 내세워 선전하고 있습니다. 솔라는 앞서 언급한 기업들의 온디바이스 AI 구현을 위한 필요를 모두 충족한 모델로서, 지난해부터 대내외에서 인정받고 있었죠.
몇 가지 예로 지난해 글로벌 LLM 분야의 ‘빌보드 차트’로 불리는 허깅페이스 리더보드에서 챗GPT의 기반인 GPT-3.5 점수를 세계 최초로 추월하고, 글로벌 생성형 AI 활용 플랫폼 ‘Poe’에 오픈AI(챗GPT), 구글, 메타, 엔트로픽 등 유명 기업들의 LLM과 함께 이름을 올린 것 등이 대표적입니다. 올해 초에는 솔라를 이용해 만든 수학 특화 AI 모델 ‘MathGPT‘가 글로벌 수학AI 벤치마크 테스트 2곳에서 마이크로소프트를 앞서기도 했고요.
특히 솔라는 철저히 기업 맞춤형으로 설계돼, 위와 같은 성능 지표를 넘어 실제 기업용 제품 환경에서도 높은 효용을 보이고 있습니다. 우선 솔라의 기술적 특징은 소형 LLM에 속하는 매개변수 30B(300억개) 미만 모델 중에서도 성능이 좋지만 사이즈가 큰 13B 모델과, 사이즈는 작지만 지적 능력에 제약이 있는 7B 모델 사이에서 장점을 최적화한 세계 최초의 10.7B 모델이란 점인데요. 여기에 자체 개발한 ‘Depth-Up-Scaling’ 방식을 적용, 모델의 사고 체계를 한층 고도화함으로써 적은 데이터로도 우수한 성능을 낼 수 있도록 만들어진 특징도 있습니다.
또한 다양한 기업 서비스 환경에서 꼭 필요한 기본 지식과 자연어 기반 소통을 원활히 하는 핵심 데이터들을 사전학습해 탑재함으로써 ‘기본형 솔라’의 효용을 높였습니다. 자동차로 치면 최저트림인 ‘깡통차’에도 상당한 편의옵션들이 내장된 채로 출시된 셈으로 볼 수 있습니다. 특히 이 덕분에 이번에 솔라를 접목하는 폴라리스 오피스의 문서기반 솔루션들은 별도의 데이터 추가학습 및 파인튜닝(Fine-tuning, AI 모델을 특정한 목적에 맞춰 조정하는 작업) 없이도 곧바로 도입이 가능했던 것으로 확인됐습니다.
이 같은 솔라의 높은 ‘데성비(데이터 대비 성능비)’와 ‘빠른 도입‘의 이점은 이 시점, 빠르게 온디바이스 AI 제품 시장을 선점해야 하는 수요사들 입장에선 최선의 선택지 중 하나로 작용했습니다.
‘AGI for Work’로 명확해진 정체성
‘물 들어올 때 노 젓는다’는 말이 있죠. 최근 국내외 AI 기술 트렌드와 솔라의 성과를 바탕으로 업스테이지도 당분간 솔라 기능 고도화에 전력을 다할 계획이라고 합니다.
관련 노력으로 만들어진 결과물들도 이미 주목할 만한 결과물을 내고 있습니다. 최근 API를 통해 공개한 업스테이지 솔라의 번역 특화 모델의 경우 벤치마크 ‘Flores’ 테스트에서 GPT-4(챗GPT 유료모델), DeepL(유명 AI 번역 플랫폼) 등을 제치고 1위를 기록했는데요. 요즘 AI 번역 기능의 대한 소비자 제품 및 서비스 업계의 수요가 높아지고 있는 점을 고려하면 솔라 기본형의 활용 가치가 번역 부문에서도 더욱 개선될 것을 예상해 볼 수 있겠습니다.
더불어 솔라의 선전 및 중량급 온디바이스 AI 파트너십이 연속적으로 발표된 근래의 성적표는 업스테이지의 숙원 중 하나인 ‘글로벌 공략‘에도 긍정적으로 작용할 전망입니다. 업스테이지는 설립 당시부터 기업의 손쉬운 AI 도입 및 운용을 돕는 조력자 역할을 겨냥해 세워진 스타트업이었는데요. 그동안 그 역할론에 다소 광의적인 측면이 보였다면, 이제는 업무용 제품 시장의 사용자 경험을 뒤바꿀 ‘AGI for Work‘를 새로운 기치로, 회사의 정체성도 더욱 공고히할 수 있게 됐다는 의의도 함께 발견됩니다.
참고로 AGI 및 인공 일반지능은 사람과 동등한 수준의 지적 수준을 가진 미래 AI를 의미합니다.
업스테이지도 선점 효과를 굳히기 위해 기술개발 외 전사 조직적으로도 해외시장을 겨냥한 변화에 노력을 기울이고 있습니다. 업스테이지에 따르면 최근 대고객 서비스 및 AI B2B 솔루션 총괄을 위해 EBS(Enterprise Business Solution)이라는 조직도 확대 신설했는데요. 아울러 국내에서 시행 중인 완전자율 원격근무를 해외환경에 맞춰 최적화하기 위한 방안도 고민 중이라고 합니다. 모두 더 넓은 시장에서의 안정적인 서비스 제공 및 고객사 관리, 현지 인재 고용의 안정화를 위한 사전 작업으로 풀이됩니다.
