AWS 10억달러·메가존 150명 'FDE'에 투입…기업 안으로 들어가는 AI 구축팀
보험 약관부터 원전 절차서까지…"회사 업무 알아야 AI도 제대로 만든다"
기업이 챗GPT나 클로드 같은 AI 서비스를 구입한다고 곧바로 업무가 자동화되는 것은 아니다. 사내 문서가 어디에 있는지, 어떤 정보를 AI가 읽어도 되는지, 기존 전산시스템과 어떻게 연결할지를 먼저 정해야 한다.
이 틈을 클라우드 관리서비스기업(MSP)들이 파고들고 있다. 그동안 기업에 클라우드를 골라주고 서버를 대신 관리해온 MSP들이 이제는 AI 엔지니어를 고객사에 보내 업무를 직접 살펴보고 그에 맞는 AI 서비스를 함께 만드는 회사로 변하고 있다.
이런 인력을 FDE(현장배치형 엔지니어)라고 불린다. 고객사 직원 옆에 앉아 AI가 실제로 작동할 때까지 만드는 개발자다. 아마존웹서비스(AWS)는 지난달 30일 FDE 조직에 10억달러를 투자하고 수천명의 엔지니어를 고객사에 직접 투입하겠다고 밝혔다.
FDE 모델의 원조는 미국 데이터기업 팔란티어다. 정보기관 등 고객 현장에 엔지니어를 투입해온 이 회사는 올해 1분기 매출이 전년 동기 대비 85% 늘었다.
오픈AI는 지난 5월 40억달러 이상을 초기 투자해 기업 AI 도입을 전담하는 '배포회사'를 세웠다. 앤트로픽도 블랙스톤·헬먼앤드프리드먼 등과 함께 기업 AI 구축 전담 독립회사 '오드'를 이달 출범시켰다. MIT 산하 프로젝트 난다(NANDA)는 지난해 보고서에서 기업용 생성형 AI 시범사업의 95%가 측정 가능한 손익 효과를 내지 못했다고 분석했다.
국내에서도 비슷한 변화가 시작됐다. 메가존클라우드는 FDE 조직을 150명 규모로 운영중이다. LG CNS(LG씨엔에스(61,800원 ▼5,200 -7.76%))는 팔란티어와 손잡고 FDE 전담조직을 신설했다. KT(53,900원 ▼500 -0.92%)도 P-FDE 전담조직을 운영한다.
베스핀글로벌은 AIA생명에 상담 지원 AI를 구축했다. 폐쇄된 사내 환경에서 약 1000개의 매뉴얼을 AI가 정확히 찾아내도록 문서 구조와 검색 방식을 다듬었다. 한국수력원자력에는 외부 인터넷과 분리된 사내 데이터센터에 원전 절차서와 과거 대응 사례를 읽는 전용 AI가 들어갔다. 설계 변경과 정비, 안전 점검 등 7개 업무별로 기능을 만들었고, 문서 검토 시간이 약 90% 줄어든 것으로 알려졌다.
삼성SDS(삼성에스디에스(200,500원 ▼17,000 -7.82%))는 챗GPT 기업용 상품을 판매하는 데 그치지 않고 AI 컨설팅과 개발·운영, 클라우드, 보안 인력을 하나의 팀으로 묶었다. '리셀러'를 넘어 'AX 파트너'로 진화한다는 설명이다.
독자들의 PICK!
MSP들이 현장으로 나서는 데는 절박함도 있다. 주 수익원이던 클라우드 재판매는 수수료율이 한 자릿수에 그치는데, AWS가 할인 공유 방식을 제한하는 등 보상체계를 계속 바꾸면서 그 마진마저 줄고 있어서다. 마이크로소프트는 직접과금 파트너 연간 매출요건을 100만달러로 높였고, 오는 10월부터는 신규 고객 확보와 AI 도입 성과를 낸 파트너에게 추가 마진을 주기로 했다.
클라우드를 대신 관리하던 MSP가 기업별 'AI 제작소'로 바뀌는 셈이다. 업계 관계자는 "AI 모델은 누구나 구할 수 있지만, 이를 회사 업무에 연결해 실제로 일하게 만드는 능력을 갖추기는 어렵다"며 "고객사 안으로 들어가는 AI 엔지니어가 MSP의 새 성장동력으로 떠오르는 이유"라고 말했다.
