K-GPT
K-GPT가 제공하는 모델은 Closed GPT 형식으로
사용 기업의 데이터가 GPT 학습을 통해 외부로 유출되지 않습니다.
사용 기업의 데이터가 GPT 학습을 통해 외부로 유출되지 않습니다.
K-GPT
케이엠에스랩(주)은 2000년 설립후 20년 넘게 빅데이터와 지능형 알고리즘 기반 소프트웨어 개발에 집중하여 축적된 노하우를 가지고 있으며, 대규모 트랜잭션을 지원하는 아카이빙 시스템과 자체 개발한 지능형 채팅 엔진 기반 협업시스템을 주요 솔루션으로 하고 있습니다. 현재 LG전자, 농협, 아모레퍼시픽, 대상그룹, 포스코, 연합뉴스 등 국내 40만명 이상의 유저가 사용하고 있으며, 일부 고객사의 경우 자체 개발한 인공지능을 이용하여 학습한 내용에 따라 감사 기준상 문제가 있는 온라인 문서들을 자동으로 분류하고 정리하는 기능을 제공하고 있습니다.
여기에 사용되는 핵심 기술인 데이터 중복제거 및 압축 기술, 검색, 분류 등의 대규모 텍스트 처리 능력은 LLM 학습 과정에서 텍스트를 Vector로 변환하여 저장하고 관리하는 핵심 기능으로 사용됩니다. 이미지 등 비텍스트 파일에서도 OCR 기술을 이용하여 텍스트화하여 관리하는 케이엠에스랩(주)의 기술은 기업 내 다양한 형태의 데이터 학습에 활용합니다. 그리고 케이엠에스랩(주)이 자체 개발한 채팅 엔진은 사용자와의 질의/응답 과정에서 원활한 커뮤니케이션을 담당합니다.
여기에 사용되는 핵심 기술인 데이터 중복제거 및 압축 기술, 검색, 분류 등의 대규모 텍스트 처리 능력은 LLM 학습 과정에서 텍스트를 Vector로 변환하여 저장하고 관리하는 핵심 기능으로 사용됩니다. 이미지 등 비텍스트 파일에서도 OCR 기술을 이용하여 텍스트화하여 관리하는 케이엠에스랩(주)의 기술은 기업 내 다양한 형태의 데이터 학습에 활용합니다. 그리고 케이엠에스랩(주)이 자체 개발한 채팅 엔진은 사용자와의 질의/응답 과정에서 원활한 커뮤니케이션을 담당합니다.
도입 효과
빠른 데이터 분석
기업에서 발생하는 수많은 데이터(이메일, 채팅, 각종 온라인 문서 등)를 통합적으로 분석하여 명확하게 요약하여 제공합니다.
AI 기반 업무 생산성 혁신
기업 내부의 방대한 데이터를 분석하여 핵심 내용을 명확하게 요약하고, 메일 답변 및 보고서 작성을 지원합니다.
의사결정에 필요한 다양한 정보를 제공하여 업무 생산성을 획기적으로 향상시킵니다.
순환형 통합적 구조로 의사 결정
기업 내 학습 가능한 모든 정보를 통합하여 순환적, 통합적 구조로 협업을 지원하고 의사결정에 도움이 되는 정보를 제공하게 됩니다.
프레임워크
작동 원리
- 기업 내 다양한 형태의 데이터(정형, 비정형)가 수집되면 K-GPT의 학습 서버가 수집된 데이터를 분석하여 Facts 저장소(VectorDB)에 저장합니다.
- 저장된 데이터는 K-GPT 질의응답 서버에서 처리되며 기본 서비스 UI를 통하여 질의응답 서비스를 수행하거나 개별 기업 내부시스템에 API 형태로 연결하여 데이터 서비스를 제공합니다.
- 수집된 데이터별 조회 권한(개인, 부서, 사업부문 등)이 설정되어 있는 경우 권한에 따라 선택적으로 응답 결과를 받을 수 있습니다.
- 질의/답변은 케이엠에스랩(주)이 자체적으로 개발한 K-Portal 채팅 엔진을 통해 사용자에게 전달됩니다.
- 기업 내 외부의 정제된 데이터 제공을 통한 학습으로 AI가 데이터 오류까지 학습해 잘못된 답변을 내놓는 할루시네이션(Hallucination) 현상을 방지할 수 있으며 K-GPT 엔진의 답변 정확도를 100%로 구현합니다.
K-GPT sLLM
학습 모델
K-GPT 2단계 모델에서는 경량화 언어 모델인 sLLM 사용하여 신속한 학습과 적용이 가능합니다.
sLLM은 small Large Language Model의 약자로서 오픈AI가 개발한 챗GPT가 사용하는 대규모 언어모델(LLM)에 비해서 작은 규모의 언어 학습 모델을 말합니다. sLLM은 작은 규모의 언어 학습 모델을 사용하여 빠른 학습 시간과 효율적인 메모리 사용의 특징이 있으며, 특정 분야에 특화된(domain-specific LLMs) 학습 모델 개발에 적합합니다.
K-GPT는 사전학습(Pretrained LM)을 통한 학습과 파인 튜닝(Supervised Fine-Tuning) 2가지 방법을 병행하여 학습을 진행합니다.
K-GPT는 기업 내부에서 발생한 데이터를 정제하여 사전 학습(Pretrained LM) 시킴으로서 학습 속도와 정확도를 높입니다.
파인 튜닝을 통해 사전학습으로 나온 결과를 미세조정하고 파라미터를 업데이트하여 적용 공장의 사용 목적에 맞게 변형하는 작업을 진행합니다.
학습해서 나온 결과는 개별 언어 모델 생성 절차를 거쳐 케이엠에스랩(주)이 자체 개발한 채팅 엔진을 통해 사용자에게 전달됩니다.
sLLM은 small Large Language Model의 약자로서 오픈AI가 개발한 챗GPT가 사용하는 대규모 언어모델(LLM)에 비해서 작은 규모의 언어 학습 모델을 말합니다. sLLM은 작은 규모의 언어 학습 모델을 사용하여 빠른 학습 시간과 효율적인 메모리 사용의 특징이 있으며, 특정 분야에 특화된(domain-specific LLMs) 학습 모델 개발에 적합합니다.
K-GPT는 사전학습(Pretrained LM)을 통한 학습과 파인 튜닝(Supervised Fine-Tuning) 2가지 방법을 병행하여 학습을 진행합니다.
K-GPT는 기업 내부에서 발생한 데이터를 정제하여 사전 학습(Pretrained LM) 시킴으로서 학습 속도와 정확도를 높입니다.
파인 튜닝을 통해 사전학습으로 나온 결과를 미세조정하고 파라미터를 업데이트하여 적용 공장의 사용 목적에 맞게 변형하는 작업을 진행합니다.
학습해서 나온 결과는 개별 언어 모델 생성 절차를 거쳐 케이엠에스랩(주)이 자체 개발한 채팅 엔진을 통해 사용자에게 전달됩니다.