노타, 두베와 금융권 AI 코딩 시장 공략…GPU 효율 최대 95% 개선

노타, 두베와 금융권 AI 코딩 시장 공략…GPU 효율 최대 95% 개선

송정현 기자
입력 2026.11.16 09:24 드롭다운 아이콘 수정 2026.11.16 09:24
구글 선호 매체 등록 구글 검색선호 출처로 추가↗

/사진제공=노타
/사진제공=노타

AI(인공지능) 모델 최적화 기업 노타(13,600원 ▲380 +2.87%)가 금융 IT (정보·통신) 기업 두베와 금융권 특화 AI 코딩 에이전트용 LLM(대규모언어모델) 및 서버 공급 계약을 체결하고 납품을 완료했다고 16일 밝혔다.

이번 계약에 따라 노타는 두베의 AI 코딩 에이전트에 최적화된 LLM과 서버를 공급했다. 이번 계약은 AI 모델의 크기를 줄이는 경량화 기술부터 추론(답변 생성) 및 서빙(요청 처리) 환경 최적화, 서버 구성까지 아우른다.

두베는 금융권 시스템통합(SI) 개발 전문기업으로, 금융기관을 대상으로 AI 코딩 에이전트를 공급하고 있다. 해당 에이전트는 개발 요구사항 분석과 정리부터 화면 및 인터페이스 개발까지 소프트웨어 개발 업무 전반을 지원한다. 고객사의 코딩 규칙과 내부 라이브러리도 반영할 수 있다.

금융권은 소스코드와 내부 업무정보의 외부 유출을 막기 위해 외부 인터넷과 분리된 폐쇄망을 운영하는 경우가 많다. 이에 외부 서버와 통신해야 하는 클라우드 기반 AI 코딩 도구를 도입하는 데 제약이 있다.

노타와 두베가 공급하는 AI 코딩 에이전트는 고객사 내부 서버에서 LLM을 구동하는 온프레미스 방식이다. 외부 AI API 호출 없이도 AI 기반 개발 업무를 지원한다. 이를 통해 기업은 민감한 개발 정보를 내부 환경에서 관리하면서 코드 작성 등 개발 업무에 AI를 활용할 수 있다.

여기에 노타의 AI 최적화 기술을 적용해 GPU(그래픽처리장치)를 추가하지 않고도 더 많은 요청을 처리할 수 있도록 했다. 노타는 코딩 에이전트가 대량의 소스코드와 개발 지침을 처리한다는 점을 고려해 AI 모델의 데이터 정밀도를 낮춰 메모리 사용량을 줄이는 양자화 기술을 활용했다. 아울러 답변 생성 과정과 여러 사용자의 요청을 동시에 처리하는 환경도 개선했다.

그 결과 동일한 GPU 환경에서 최적화 적용 전보다 분당 처리 요청 수가 최대 95% 증가했다. 사용자가 질문을 입력한 뒤 AI가 첫 답변을 생성하기까지 걸리는 시간도 절반 이하로 줄었다. 기업 입장에서는 AI 코딩 에이전트 이용자가 늘어나더라도 서버 증설에 따른 비용 부담을 줄일 수 있을 것으로 기대된다.

노타는 이번 계약을 계기로 두베와 함께 금융권 고객을 대상으로 온프레미스 AI 코딩 에이전트 공급을 확대할 계획이다. 고객사의 사용자 규모와 보안·운영 환경에 맞춰 최적화된 LLM과 서버를 제공하고, 외부 클라우드 활용이 제한되는 다른 산업으로도 사업을 확장한다는 구상이다.

채명수 노타 대표는 "기업용 AI 에이전트 시장이 확대되면서 제한된 GPU 자원으로 얼마나 많은 요청을 안정적으로 처리할 수 있는지가 실제 도입 비용과 운영 효율을 결정하는 핵심 요소가 되고 있다"며 "금융권처럼 보안과 인프라 운영 제약이 높은 환경에서도 AI 에이전트를 효율적으로 활용할 수 있도록 지원하겠다"고 말했다.

<저작권자 © ‘돈이 보이는 리얼타임 뉴스’ 머니투데이. 무단전재 및 재배포, AI학습 이용 금지>

송정현 기자

안녕하세요. 미래산업부 송정현입니다

공유