'AI 지우개' 만든 삼성맨의 새도전…자료 유출 없이 AI 마음껏 쓴다

[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 ‘데이터랩’에서 볼 수 있습니다.]

"최신 LLM(대규모 언어 모델)에 문서를 올리거나 질문하면 높은 수준의 답변을 얻을 수 있지만, 문서 보안에 대한 우려도 있습니다. 저희 솔루션은 문서 전체를 외부로 보내는 대신 필요한 부분만 마스킹해 전달합니다. 답변마다 근거 자료와 출처를 함께 제시해 전문 분야에서도 검증된 데이터를 바탕으로 최신 AI의 성능을 활용할 수 있습니다."

서정환 피카부랩스 대표는 자사 인공지능(AI) 문서 에이전트 '스쿠피(Scoopie)'를 이같이 소개했다. 피카부랩스는 2024년 2월 설립된 스타트업이다. 사용자 PC나 사내 서버에서 문서를 분석하는 온디바이스·하이브리드 AI 기술을 앞세워 금융권과 대기업을 중심으로 고객을 넓히고 있다.

피카부랩스는 최근 우리금융그룹의 스타트업 육성 프로그램 '디노랩' 디노랩 테크센터 1기로 선정됐다. 현재 우리FIS와 협업하며 스쿠피를 그룹 업무 환경에 맞게 적용하고 있다.

서 대표는 창업 전 삼성전자에서 13년간 근무했다. 사내 스타트업으로 갤럭시 스마트폰의 'AI 지우개' 기능을 기획·개발해 상용화했고, 회사 추천으로 MBA를 마친 뒤 반도체(DS) 부문에서 AX(AI 전환)를 지원하는 기술 컨설턴트로 1년 반가량 일했다.

그는 "삼성 같은 글로벌 기업은 AI를 쓰는 데 필요한 하드웨어·소프트웨어 자원이 충분하지만 그 외 기업들은 혜택을 보기 어렵겠다는 생각이 들었다"며 "비용이든 방법이든 이 문제를 풀어보고 싶어 창업했다"고 말했다.

피카부랩스의 첫 아이템은 AI 모델을 노트북·스마트폰 등 기기에 맞게 자동 경량화하는 플랫폼 '카브(Carve)'였다. 하지만 8~9개월간 시장을 두드려 보니 자체 AI 모델을 가진 기업이 거의 없었다. 대부분 챗GPT 같은 외부 LLM을 연결해 사용하는 구조여서 경량화 기술을 적용할 여지가 마땅치 않았다.

방향을 바꾼 계기는 직장 생활에서 겪은 불편이었다. 서 대표는 "문서를 작성할 때 흩어져 있는 데이터와 필요한 정보를 찾는 과정이 너무 힘들었다"고 말했다. 이 경험을 바탕으로 지난해 하반기 문서 검색 서비스 '로컬독스'를 출시했다.

이후 고객을 만나면서 문서 검색만으로는 부족하다는 점을 알게 됐다. 필요한 정보를 찾아도 이를 가공해 보고서나 문서로 작성하고 다른 사람에게 전달하는 과정이 남아 있었다. 피카부랩스는 올해 2월 로컬독스를 검색부터 분석·생성까지 지원하는 '스쿠피'로 확장했다. 카브에서 축적한 경량화 기술은 스쿠피에 적용된 여러 AI 모델의 경량화에 활용됐다.

서 대표가 꼽는 스쿠피의 차별점은 세 가지다. 먼저 사용자가 넣은 문서 안에서만 답한다. 범용 AI는 문서 내에 없는 내용도 추론 등을 통해 답변을 내놓기 때문에 환각이 발생할 수 있다. 스쿠피는 문서에 해당 정보가 없으면 없다고 답한다. 답변마다 근거가 된 문서의 위치를 함께 보여줘 사용자가 직접 확인할 수 있다는 점도 특징이다.

데이터 보안도 차별점으로 꼽힌다. 스쿠피는 사용자 기기나 사내 서버에서 질문과 관련된 부분만 추출한 뒤 외부 고성능 LLM(대규모 언어 모델)에 필요한 판단을 맡긴다. 문서 전체를 외부로 보내지 않는 방식이다. 서 대표는 "예를 들어 아직 공시되지 않은 재무제표를 외부 AI에 올리면 문서 전체가 반출될 우려가 있을 수 있다"며 "스쿠피는 정말 필요한 조각만 넘어가기 때문에 보안과 최상급 모델의 성능을 함께 가져갈 수 있다"고 설명했다.

피카부랩스는 우리FIS 외에도 국내 대형 보험사와 조선사, 글로벌 바이오 기업 등 5~6곳과 PoC(개념검증)를 진행하고 있다. 이 가운데 금융권의 반응이 가장 좋다.

금융 업무는 정확한 수치를 찾아 계산해야 하는 만큼 AI의 답변 정확도가 중요하다. 피카부랩스는 데이터의 출처와 처리 과정을 단계별로 추적하는 방식으로 연산의 정확도를 높였다.

국내 조선사와는 전사 AX(인공지능 전환) 프로젝트를 진행 중이다. 문서 검색을 넘어 사내 데이터를 서로 연결해 전 직원이 활용하는 시스템으로 확장하는 게 목표다. 서 대표는 "파일럿 부서에서 쓸 만하다는 경험을 주는 게 가장 어렵다"며 "그것만 검증되면 전사 확장은 하드웨어 자원과 사용자만 늘리면 된다"고 말했다.

사업 모델은 고객의 상황에 따라 다르다. 이미 계약한 LLM API가 있는 기업에는 해당 API를 연결하고 스쿠피 사용료를 받는다. 별도 API가 없는 기업에는 관련 비용을 묶어 공급한다. 개인용 B2C 서비스도 운영 중이다. 회계사와 변호사, 변리사, 연구원 등 근거의 정확성이 중요한 전문직이 주로 이용한다.

피카부랩스는 지난해 동문파트너즈로부터 시드 투자를 유치했다. 임직원 대부분은 AI 연구개발 인력이다. 내년쯤 후속 투자를 유치해 GPU와 서버 등 인프라를 확충하고 자체 추론 비중을 높일 계획이다.

서 대표는 "금융권은 망분리로 외부 AI를 쓰기 어렵고 업무 흐름도 비슷해 우리가 개발한 기술이 가장 잘 맞는 곳"이라며 "내년까지는 금융권을 중심으로 고객을 넓혀갈 것"이라고 말했다.

[머니투데이 스타트업 미디어 플랫폼 유니콘팩토리]