기업들이 앞다퉈 AI(인공지능) 도입을 선언하고 있다. 생성형 AI, 자동화, 에이전트 등은 경영 회의의 단골 주제가 됐다. 그러나 현장에서는 도입을 시도하는 순간 멈추는 경우가 많다. 기술이 부족해서가 아니라 준비가 안 됐기 때문이다.
기업을 만나보면 반복적으로 나오는 질문이 있다. ROI(투자 대비 수익)에 대한 불안이나 도입 후 운영에 대한 걱정이다. 전략이나 기술에 대한 질문처럼 보이지만 기초 체계 없이 AI를 얹으려다 발생하는 혼란에 가깝다.
이 과정에서 공통적으로 발견되는 오해가 있다. AI는 100% 정확해야 한다는 기대다. 기술이 좋아지면 효율이 올라갈 것이라는 믿음도 마찬가지다. 업무 흐름에 맞게 설계되지 않으면 어떤 AI도 성과를 내지 못한다. 문제는 기술이 아니라 업무와 데이터 구조의 설계에 있다.
더 근본적인 문제도 있다. AI 모델 성능은 충분하지만 기업 내부 데이터는 여전히 AI가 활용하기 어려운 상태다. 시장조사업체 IDC에 따르면 기업 데이터의 약 90%는 비정형 데이터다. 문서는 부서별로 단절돼 있고 동일 문서의 여러 버전이 혼재하며, 핵심 정보가 이미지 형태로 존재하기도 한다.
이 상태에서는 AI를 붙여도 효과가 없다. 제조업의 도면·품질 기록, 에너지 산업의 유지보수 로그, 영업 조직의 고객 정보가 구조화되지 않은 채 산재해 있다면 활용 가능한 데이터가 없는 것과 같다. 기업이 데이터를 보유한 것이 아니라 데이터처럼 보이는 파일을 쌓아둔 상태다.
이 때문에 AX(AI 전환)의 출발은 기술 도입이 아니라 데이터 자산화에 있다. 가트너의 2025년 AI 하이프 사이클에서도 AI 에이전트와 함께 'AI-Ready Data(레디 데이터)'가 빠르게 부상하는 핵심 기술로 꼽혔다. 데이터 자산화는 AI가 이해하고 활용할 수 있는 구조로 변환하는 과정이다. 구조와 맥락, 정합성이 없는 상태에서 AI를 적용하면 의사결정 자체가 틀어진다.
이는 비즈니스와 직결된다. 스노우플레이크가 발간한 'AI+데이터 예측 2026 보고서'는 데이터 상태, 거버넌스, 조직 역량의 차이가 기업 간 AI 활용 격차를 만들 것이라고 진단했다. 고객 데이터가 정리되지 않으면 영업 기회를 놓치고, 과거 거래 정보가 연결되지 않으면 추가 매출로 이어지지 않는다. 데이터가 정리되지 않았다는 것은 곧 매출이 새고 있다는 뜻이다.
이 문제를 해결하려면 내부 상태를 점검해야 한다. 경영진이 직접 AI를 써봤는지, AX를 특정 팀에만 맡기고 있지는 않은지, AI 활용이 성과 평가에 반영되는지 확인해야 한다. 내부 문서 구조와 데이터 현황을 파악하고 있는지, AI에 쓸 데이터와 그렇지 않은 데이터를 구분해 본 적 있는지도 핵심 기준이다.
AX의 성패는 AI가 작동할 수 있는 구조에 달려 있다. 문서가 데이터가 되고 데이터가 연결되며, 그 위에서 AI가 작동하는 구조가 만들어질 때 성과가 나온다. 이 과정을 설계하지 않으면 AI는 비용이 되지만 구조가 갖춰지면 성과로 이어진다. 기업이 고민해야 할 것은 조직의 데이터가 AI를 활용할 수 있는 상태인지다.
글/ 박현지 넥톤 대표