치명적인 IT 오해: 데이터 웨어하우스만으로는 AI 혁신을 가로막는 이유
끝없는 준비의 시대는 끝났다: AI가 마침내 진정한 부가가치를 창출하는 방법
인공지능은 엄청난 잠재력을 지니고 있지만, 실제 비즈니스 환경에서는 값비싼 환상으로 전락하는 경우가 많습니다. 그 이유는 간단하면서도 치명적입니다. 기업들이 야심 찬 AI 프로젝트를 무심코 막대한 자원을 소모하는 데이터 마이그레이션 프로젝트로 변질시키기 때문입니다. 신속하고 측정 가능한 비즈니스 성과를 달성하겠다는 본래 목표는 완벽한 데이터 인프라 구축과 중앙 데이터 웨어하우스로의 원활한 통합을 위한 장기적인 투쟁으로 변질됩니다. 수십억 달러가 준비 단계에 투입되는 동안, 기업의 3분의 2는 여전히 시범 단계에 머물러 있으며, 실질적인 가치 창출은 뒷전으로 밀려납니다.
이 글에서는 "인프라 우선" 전략을 고수하는 것이 왜 실패로 이어지는지, 그리고 AI 성공을 위해 완전한 데이터 마이그레이션이 반드시 필요한 것은 아닌 이유를 밝힙니다. 또한, 절실히 필요한 패러다임 전환을 제시합니다. 구체적인 비즈니스 성과를 기반으로 역으로 계획하고 연합 데이터 접근 방식을 활용하는 기업은 수년간의 대규모 IT 프로젝트 완료를 기다릴 필요가 없습니다. 데이터를 원래 위치에 유지하고, AI에 필요한 특정 컨텍스트만 제공하며, 단기간에 목표 지향적인 "빠른 성과"를 통해 측정 가능한 성공을 달성하는 방법을 알아보세요. 이제 완벽한 데이터 구축에 대한 집착에서 벗어나 실용적인 AI 가치 창출에 초점을 맞춰야 할 때입니다.
이와 관련된 내용:
데이터의 함정에서 벗어나기: 결과의 관점에서 AI를 생각하기
인공지능의 가장 큰 위협은 데이터 마이그레이션입니다
AI 프로젝트가 실패하는 이유는 대개 기술 자체의 문제 때문이 아니라, 단순한 IT 인프라 구축 프로젝트로 전락하기 때문입니다. 모든 데이터의 통합을 필수적인 요구 사항으로 잘못 인식하는 경우가 많습니다.
결과로부터 생각하기(역설계)
AI를 위해 모든 데이터를 어떻게 준비해야 하는지 묻는 대신, 핵심 질문은 바로 이것입니다. AI가 구체적인 비즈니스 결과를 도출하기 위해 현재 시점에서 어떤 특정 데이터 맥락이 필요한가?
복사본 대신 컨텍스트 사용(연합 액세스)
AI는 전체 데이터 웨어하우스를 필요로 하지 않습니다. 연합 데이터 접근, 데이터 가상화, RAG(검색-증강 생성)와 같은 기술을 통해 데이터는 원본 시스템에 보관하고 쿼리 시점에만 컨텍스트를 구성할 수 있습니다. 이는 막대한 시간과 비용을 절감해 줍니다.
정지 상태가 아닌 병렬 운전
장기적인 데이터 마이그레이션(보고서, 이력 등을 위한 ETL 프로세스)은 계속될 수 있습니다. 하지만 AI 프로젝트는 이를 기다릴 필요 없이 기존의 분산된 데이터에 병렬적으로 접근할 수 있습니다.
민첩성이 완벽주의를 이긴다
포괄적인 데이터 스키마를 구축하려는 시도는 비효율적입니다. 도메인 지향적이고 사용 사례별 컨텍스트 모델(데이터 메시 접근 방식과 유사)이 훨씬 더 유망합니다.
"빠른 성공"의 힘
이해관계자들의 신뢰를 회복하기 위해 AI 프로젝트는 투자 수익률(ROI)을 신속하게 입증해야 합니다. 이상적인 초기 활용 사례(높은 빈도, 측정 가능한 기반, 기존 데이터)는 몇 주 안에 가시적인 결과를 제공하여 추가 투자를 정당화합니다.
기업들이 실질적인 가치 창출 대신 인프라에 수십억 달러를 쏟아붓는 이유는 무엇일까요?
최근 몇 년간의 디지털 전환은 모든 산업 분야에 걸쳐 역설적인 양상을 보여주고 있습니다. 기업들은 인공지능(AI)에 막대한 투자를 하고 있지만, 대부분의 경우 실제 가치 창출은 기대에 미치지 못합니다. 그 이유는 기술 자체에 있는 경우가 드뭅니다. 오히려 조직이 AI 도입에 접근하는 방식에 문제가 있습니다. 측정 가능한 비즈니스 성과에 집중하기보다는, AI 프로젝트는 점차 거대한 데이터 인프라 구축 사업으로 변모하여 본래의 목적을 잃어버리는 경우가 많습니다. AI를 활용하기 위한 전략적 이니셔티브로 시작된 사업은 결국 눈에 띄는 투자 수익 없이 수년간의 데이터 마이그레이션으로 끝나는 경우가 흔합니다.
가트너의 2025년 12월 전망에 따르면, 전 세계 인공지능(AI) 투자액은 2025년에 약 1조 8천억 달러에 달하고 2029년에는 4조 7천억 달러까지 증가할 것으로 예상됩니다. 한편, 맥킨지의 AI 현황에 대한 2025년 글로벌 설문조사에서는 응답 기업의 88%가 이미 최소 한 가지 사업 분야에서 AI를 활용하고 있지만, 거의 3분의 2는 여전히 실험 또는 시범 단계에 머물러 있는 것으로 나타났습니다. 영업이익(EBIT)의 5% 이상을 AI가 창출하는 이른바 ‘AI 고성과 기업’은 전체 기업의 약 6%에 불과합니다. 이러한 수치는 AI에 투자되는 자금과 궁극적으로 창출되는 가치 사이에 근본적인 격차가 있음을 보여줍니다. 이러한 격차를 분석해 보면 기술적인 문제를 훨씬 뛰어넘는 구조적인 문제가 드러납니다.
인프라 프로젝트가 인공지능 이니셔티브를 어떻게 집어삼켰는가
기업들이 이러한 상황에 이르게 되는 논리적 과정은 언뜻 보기에 그럴듯해 보입니다. AI에는 데이터가 필요합니다. 데이터는 여러 시스템에 파편화되어 있으므로 통합이 필요합니다. 통합에는 마이그레이션이 필요하고, 마이그레이션에는 변환이 필요하며, 변환에는 거버넌스가 필요하고, 거버넌스에는 데이터 품질 프로그램이 필요합니다. 이 과정의 각 단계는 그 자체로는 타당해 보입니다. 하지만 이러한 단계들이 모두 합쳐지면 AI 프로젝트는 하나의 AI 성과가 나타나기까지 수년이 걸리는 데이터 인프라 구축 프로그램으로 변모하게 됩니다.
이러한 현상은 데이터에서 확연히 드러납니다. Caylent의 2025년 데이터 마이그레이션 보고서에 따르면, 조사 대상 기업 중 가장 복잡한 마이그레이션 프로젝트를 예정대로 완료한 기업은 단 6%에 불과했습니다. 응답 기업의 거의 절반은 중요한 마이그레이션 과정에서 5시간 이상의 시스템 다운타임을 경험했으며, 이로 인해 고객 경험 문제, 매출 손실, 운영 지연이 발생했습니다. 500개 이상의 기업 사례를 분석한 결과, 데이터 마이그레이션 프로젝트의 약 73%가 부적절한 계획, 거버넌스 부재, 플랫폼별 전문 지식 부족으로 인해 실패하는 것으로 나타났습니다. 평균 150%의 시간 초과는 예외가 아니라 일반적인 현상입니다.
이러한 마이그레이션 프로젝트는 그 자체로 역동적인 흐름을 만들어냅니다. 전담 팀을 유치하고, 핵심 성과 지표(KPI)를 생성하며, 프로젝트 완료에 자신의 명성을 걸고 지원하는 이사회 차원의 후원자를 확보합니다. 원래 계획했던 AI 활용 사례는 다음 단계로, 마이그레이션 이후 단계로 미뤄지다가 결국 계획 논의에서 조용히 사라집니다. 누구도 이러한 결과를 예상하지 못합니다. 이는 각각은 정당하지만, 전체적으로는 자원과 관심의 전략적 배분을 잘못 초래하는 수많은 작은 결정들이 모여서 생겨나는 것입니다.
전형적인 시나리오를 통해 문제를 설명하겠습니다. 지난 2년과 마찬가지로 분기별 사업 검토 회의가 시작됩니다. 데이터 변환 팀은 진행 상황을 발표합니다. 마이그레이션은 73% 완료되었고, 6개 영역에 걸쳐 데이터 품질 지표가 개선되었습니다. 데이터 웨어하우스 아키텍처는 최신 감사를 통과했습니다. 최고 경영 책임자는 마일스톤 차트를 보며 고개를 끄덕입니다. 그때 모두가 피하던 질문이 나옵니다. "AI는 언제 가동될 예정입니까?" 잠시 침묵이 흐릅니다. 누군가는 2단계를 언급하고, 다른 누군가는 관련 작업들을 지적합니다. 18개월 안에 AI 기반 인사이트를 제공하겠다는 원래 일정은, 자체적인 생명력을 가진 데이터 인프라 프로젝트 속에서 그저 부록처럼 되어버렸습니다.
미완성된 준비로 인한 10억 달러 규모의 낭비
이 문제의 경제적 측면은 매우 중요합니다. 가트너는 2026년 말까지 AI 활용 준비가 된 데이터가 없는 조직은 AI 프로젝트의 60% 이상이 실패하고 중단될 것으로 예측합니다. 하버드 비즈니스 리뷰는 AI 프로젝트의 전체 실패율을 80%로 추산했는데, 이는 AI를 사용하지 않는 IT 프로젝트의 실패율보다 거의 두 배에 달하는 수치입니다. S&P 글로벌 마켓 인텔리전스의 2025년 조사에 따르면, 기업의 42%가 대부분의 AI 프로젝트를 포기했는데, 이는 전년도의 17%에서 크게 증가한 수치입니다. 평균적으로 조직은 AI 개념 증명(PoC)의 46%를 실제 운영 단계에 도달하기도 전에 폐기했습니다.
가트너는 또한 데이터 품질 저하, 부적절한 위험 관리, 비용 증가 또는 불분명한 비즈니스 가치로 인해 생성형 AI 프로젝트의 최소 30%가 개념 증명 단계 이후에 중단될 것으로 예측합니다. 인포매티카 CDO 인사이트 설문조사 2025는 AI 성공의 가장 큰 장애물로 데이터 품질 및 성숙도(43%), 기술적 성숙도 부족(43%), 숙련된 인력 부족(35%)을 명확히 지적합니다.
이러한 수치는 많은 조직에서 만연한 근본적인 오해를 보여줍니다. 문제는 AI 활용 사례가 실패하는 것이 아닙니다. 문제는 데이터 마이그레이션 자체가 목적 달성을 위한 수단이 아니라 하나의 작업으로 전락했다는 점입니다. 모든 데이터를 중앙 데이터 웨어하우스에 통합하는 것이 그 자체로 목적이 되어버렸고, 본래의 비즈니스 가치는 뒷전으로 밀려났습니다. 한편, AI 활용에 적합한 데이터에 대한 투자는 폭발적으로 증가하고 있습니다. 가트너는 AI 데이터 시장이 2024년 1억 3,400만 달러에서 2029년 146억 달러로 성장할 것으로 예측하며, 이는 연평균 155%의 복합 성장률을 의미합니다. 자금은 흐르고 있지만, 데이터 제공을 반복적인 프로세스가 아닌 단일화된 준비 프로젝트로 접근한다면 잘못된 방향으로 가고 있는 것입니다.
인프라 구축 관점에서 계획하기보다는 결과 중심적으로 생각하십시오
대안적인 접근 방식은 근본적으로 다른 질문에서 시작합니다. AI를 위한 데이터 준비 방법을 묻는 대신, AI가 특정 비즈니스 성과를 달성하기 위해 필요한 맥락은 무엇인지 물어야 합니다. 이러한 관점의 전환은 프로젝트 구조 전체를 바꿉니다.
대부분의 AI 활용 사례는 데이터 포트폴리오 전체를 마이그레이션하는 것보다는 3~5개 시스템의 컨텍스트 정보를 필요로 합니다. 컨텍스트 요구사항은 구체적입니다. 계약 분석 AI는 계약서, 수정 계약서, 당사자, 의무 사항에 대한 정보가 필요하지만 전체 데이터 웨어하우스가 필요한 것은 아닙니다. 고객 서비스 AI는 상호 작용 기록, 제품 데이터, 사례 관리 기록이 필요하지만 모든 소스 시스템의 모든 테이블이 필요한 것은 아닙니다.
최소 필수 데이터 경로는 마이그레이션 프로젝트의 범위보다 훨씬 좁은 경우가 대부분입니다. 마이그레이션은 발생 가능한 모든 미래 쿼리에 최적화되어 있습니다. 반면 AI는 현재의 특정 사용 사례에 맞는 적절한 맥락을 필요로 합니다. 이 두 가지 요구 사항은 근본적으로 다르며, 이를 동등하게 취급하는 것이 바로 인프라 프로젝트가 AI 이니셔티브를 잠식하는 방식입니다.
AI 결과에서 역으로 살펴보면, 필요한 데이터가 이미 존재하는 경우가 많습니다. 데이터를 옮길 필요 없이, 연결하고 사용 사례에 맞게 구성하여 런타임에 활용할 수 있도록 준비하면 됩니다. 효과적인 AI 데이터 관리는 바로 이러한 깨달음에서 시작됩니다. 먼저 결과를 정의하고, 그 결과를 구현하는 데 필요한 컨텍스트로 가는 가장 간단한 경로를 찾는 것입니다.
🤖🚀 관리형 AI 플랫폼: UNFRAME로 더욱 빠르고 안전하며 스마트한 AI 솔루션을 경험하세요
여기서는 기업이 맞춤형 AI 솔루션을 신속하고 안전하게, 그리고 진입 장벽 없이 구현하는 방법을 배우게 됩니다.
관리형 AI 플랫폼은 인공지능을 위한 모든 것을 포함하는, 걱정 없는 솔루션입니다. 복잡한 기술, 값비싼 인프라, 그리고 장기간의 개발 과정을 직접 처리할 필요 없이, 전문 파트너로부터 필요에 맞춘 완벽한 솔루션을 단 며칠 만에 제공받을 수 있습니다.
주요 장점을 한눈에 살펴보세요:
⚡ 신속한 구현: 아이디어 구상부터 바로 사용 가능한 애플리케이션 개발까지 몇 달이 아닌 며칠 만에 완료됩니다. 즉각적인 부가가치를 창출하는 실용적인 솔루션을 제공합니다.
🔒 최고의 데이터 보안: 귀하의 민감한 데이터는 안전하게 보호됩니다. 당사는 제3자와 데이터를 공유하지 않고 안전하고 법규를 준수하는 데이터 처리를 보장합니다.
💸 재정적 위험 없음: 결과에 대해서만 비용을 지불합니다. 하드웨어, 소프트웨어 또는 인력에 대한 높은 초기 투자 비용이 완전히 사라졌습니다.
🎯 핵심 사업에 집중하세요: 귀사가 가장 잘하는 일에 집중하십시오. AI 솔루션의 기술 구현, 운영 및 유지 관리는 저희가 모두 담당합니다.
📈 미래 지향적이고 확장 가능: 귀사의 AI는 귀사와 함께 성장합니다. 지속적인 최적화 및 확장성을 보장하고, 새로운 요구 사항에 맞춰 모델을 유연하게 조정합니다.
자세한 내용은 여기에서 확인하세요:
데이터 완벽주의부터 AI 실용주의까지: 투자 수익률을 저해하는 인지 편향
연합 데이터 접근 방식은 대안적인 아키텍처 모델입니다
데이터 마이그레이션 없이 AI를 구현하는 것은 지름길이 아닙니다. 이는 실제 운영 환경에서 AI가 작동하는 방식을 반영하는 새로운 아키텍처입니다. 이 접근 방식은 세 가지 기본 원칙으로 특징지어집니다.
첫째, 페더레이션 액세스는 사전 중앙화 과정 없이 데이터가 저장된 소스 시스템에 AI를 연결합니다. CRM 데이터는 CRM에, 문서는 문서 저장소에, 운영 데이터는 ERP에 그대로 유지됩니다. AI 레이어는 동기화를 기다릴 필요 없이 이 모든 데이터에 접근할 수 있습니다. 페더레이션 데이터 액세스는 데이터를 원래 위치에 보존하고, 가상화 기술을 활용하여 통합된 뷰를 제공하며, 필요에 따라 실시간 인사이트를 제공합니다. 데이터를 물리적으로 중앙 위치로 이동하는 데이터 웨어하우징과 달리, 페더레이션 액세스는 데이터 중복과 관련된 위험 및 비용을 제거하고 운영 효율성을 향상시킵니다.
둘째, 사용 사례별 컨텍스트 모델은 각 AI 애플리케이션에 구체적으로 필요한 것을 정의합니다. 모든 것을 포괄하는 범용 스키마를 구축하는 대신, 시스템은 각 개별 사용 사례와 관련된 특정 엔티티, 관계 및 신호를 정의합니다. 이러한 원칙은 도메인 중심 팀이 각자의 데이터를 독립적으로 관리하고 특정 비즈니스 요구 사항을 반영하는 맞춤형 거버넌스 표준을 유지하는 데이터 메시 아키텍처 개념과 일맥상통합니다.
셋째, 런타임 어셈블리는 배치 파이프라인을 통해 미리 컨텍스트를 구성하는 대신, 결정 순간에 컨텍스트를 구성합니다. AI가 질문에 답해야 할 때, 컨텍스트가 어디에 있든 모든 소스에서 관련 컨텍스트를 컴파일합니다. 동기화 지연이 없고, 오래된 스냅샷도 없습니다. 최신 데이터가 필요에 따라 구성됩니다. 이러한 원칙은 RAG(Retrieval Augmented Generation)의 확산으로 기술적으로 성숙해졌습니다. RAG 아키텍처를 통해 AI 시스템은 사전 학습된 지식에만 의존하는 대신, 질의 순간에 관련 외부 정보를 검색하여 컨텍스트에 통합할 수 있습니다. 2026년 중반까지 기업용 생성형 AI 구현의 66% 이상이 RAG 아키텍처를 활용할 것으로 예상됩니다.
이 아키텍처의 실질적인 구현은 실제 기업 환경에서 분명하게 나타납니다. 예를 들어 SAP의 페더레이티드 머신 러닝 라이브러리는 SAP 데이터스피어의 데이터 페더레이션 아키텍처를 활용하여 데이터 복제나 이동 없이 SAP 데이터와 비SAP 데이터를 머신 러닝에 지능적으로 노출합니다. 호주 최대 통합 서비스 제공업체 중 하나인 다우너(Downer)와 같은 기업은 분산형 민첩성과 중앙 집중식 거버넌스를 결합한 페더레이션 데이터 및 AI 플랫폼을 구현하여 사업 부서가 독립적으로 혁신하는 동시에 기업 데이터를 원활하고 안전하게 공유할 수 있도록 지원합니다.
데이터 가상화와 배치 처리 비교
데이터 가상화를 통한 연합 액세스와 기존 ETL 기반 통합 방식 중 어느 것을 선택할지는 양자택일의 문제가 아니라, 각 워크로드의 요구 사항에 맞춰 조정해야 하는 문제입니다. 데이터 가상화는 규모가 작고 분산된 데이터 세트를 쿼리할 때 더 빠른 응답 시간을 제공합니다. 그러나 데이터 양이 증가하고 변환 요구 사항이 복잡해짐에 따라, ETL은 사전 정의된 변환 규칙을 사용하여 대규모 데이터 세트를 처리할 수 있기 때문에 더 효율적일 수 있습니다.
근본적인 상충 관계는 데이터 가상화가 물리적 통합을 논리적 통합으로 대체한다는 점입니다. 쿼리가 소스 시스템에 직접 액세스하므로 최신 데이터를 얻을 수 있고, 모든 데이터를 단일 웨어하우스에 복사하는 데 드는 비용과 복잡성을 피할 수 있습니다. 하지만 동시에 각 기본 시스템의 가용성과 성능에 의존하게 됩니다. 페타바이트 규모의 대용량 분석 쿼리의 경우, 사전 계산된 집계와 컬럼형 스토리지를 갖춘 웨어하우스가 네트워크를 통한 연합 쿼리보다 10배 이상 뛰어난 성능을 보입니다.
가장 효과적인 해결책은 두 가지 접근 방식을 상호 보완적으로 활용하는 것입니다. ETL은 보고를 위한 구조화된 과거 데이터 처리를 담당하고 데이터 일관성을 보장합니다. 데이터 가상화는 시간 제약이 있는 쿼리를 위해 실시간 또는 분산 데이터에 신속하게 접근할 수 있도록 지원합니다. 새로운 데이터 소스를 통합할 때 ETL 워크플로우를 수정하는 데 며칠 또는 몇 주가 걸릴 수 있습니다. 데이터 가상화를 통해 임시 또는 실험적인 데이터 소스를 즉시 통합할 수 있습니다. 이러한 하이브리드 접근 방식은 성능, 비용 및 유연성을 모두 최적화합니다.
측정 가능한 AI 결과를 얻는 가장 빠른 길
결과 중심적 접근 방식의 경제적 논리는 매우 설득력이 있습니다. 일반적인 AI 프로젝트 기간은 익숙한 패턴을 따릅니다. 3개월의 계획, 6개월의 개발, 6개월의 테스트, 3개월의 배포를 거쳐 투자 수익(ROI) 달성까지 총 18개월이 소요됩니다. 가트너에 따르면, 평균적으로 AI 프로젝트 중 단 48%만이 실제 운영 단계까지 도달하며, AI 프로토타입에서 실제 운영 단계까지 도달하는 데 8개월이 걸립니다. 심지어 실제 운영 준비 단계에 이르는 AI 프로젝트는 35%에 불과합니다.
하지만 다른 방법도 있습니다. IDC 연구에 따르면 성공적인 AI 구현 사례의 92%가 12개월 이내에 투자 대비 긍정적인 수익을 창출합니다. 또한 40%의 기업은 6개월 이내에 긍정적인 수익을 보고합니다. 핵심은 적절한 초기 활용 사례를 선택하고 지나치게 야심찬 인프라 구축을 피하는 데 있습니다.
인공지능 투자 수익률(ROI)을 신속하게 달성하기 위한 프레임워크는 네 가지 원칙에 기반합니다. 이상적인 첫 번째 활용 사례는 사용 빈도가 높아야 합니다. 즉, 해당 작업이 매일 또는 매주 수행되어야 합니다. 명확한 기준선이 존재하고 현재 성능을 측정할 수 있어야 합니다. 데이터가 이미 존재해야 하며, 다른 시스템에 대한 의존성이 제한적이어야 합니다. 이러한 기준이 충족되면 몇 주 안에 측정 가능한 결과를 얻을 수 있습니다.
이러한 단기적인 성과는 즉각적인 재정적 수익을 훨씬 뛰어넘는 파급 효과를 가져옵니다. 한 통신 사업자는 고객이 가장 자주 묻는 5가지 요금 관련 문의에 대해 AI 챗봇을 도입했습니다. 60일 만에 이 솔루션은 사람의 개입 없이 문의의 35%를 해결했고, 평균 해결 시간을 24시간에서 10분으로 단축했으며, 고객 만족도 점수를 22% 향상시켰습니다. 한 중견 제조업체는 핵심 생산 라인에 AI 기반 예측 유지보수 시스템을 도입했습니다. 45일간의 시범 프로젝트를 통해 계획되지 않은 가동 중단 시간을 62% 줄이고, 15만 7천 달러의 생산 손실을 방지했으며, 유지보수 비용을 28% 절감했습니다. 클라르나의 AI 비서는 첫 달에 모든 고객 채팅 문의의 3분의 2를 해결했고, 평균 해결 시간을 11분에서 2분 미만으로 단축했습니다.
이해관계자의 신뢰가 가장 귀중한 자산인 이유
이러한 단기적인 성과는 단순한 비용 절감 이상의 기능을 수행합니다. 가시적인 결과 없이 수년간 진행된 인프라 프로젝트로 인해 약화된 이해관계자들의 신뢰를 회복하는 데 기여합니다. 신속한 성공은 AI가 비즈니스 가치를 창출한다는 빠르고 구체적인 증거를 제공합니다. 이는 의사결정권자들의 신뢰를 구축하고, 도입에 대한 저항을 줄이며, 더 큰 규모의 AI 투자로 이어지는 발판을 마련합니다.
단기적인 성공은 긍정적인 피드백 루프를 만들어 AI 도입을 가속화합니다. 초기 성공은 더 광범위한 구현을 위한 열정과 자원을 창출합니다. 구현이 확대됨에 따라 추가적인 가치와 조직 학습이 발생합니다. 이러한 학습을 통해 더욱 정교한 애플리케이션과 더 큰 이점을 얻을 수 있습니다. 이러한 더 큰 이점은 AI 역량에 대한 투자 증대를 정당화합니다.
맥킨지의 데이터는 이러한 메커니즘을 뒷받침합니다. AI 활용 실적이 뛰어난 기업, 즉 AI를 통해 측정 가능한 영업이익(EBIT) 기여도를 달성한 상위 6% 기업은 그렇지 않은 기업보다 조직 혁신을 위해 AI를 활용할 계획이라고 응답할 가능성이 3배 더 높습니다. 또한 이러한 기업은 워크플로를 근본적으로 재설계할 가능성이 거의 3배 더 높으며, 이러한 의도적인 워크플로 재설계는 측정 가능한 비즈니스 성과를 달성하는 데 가장 강력한 기여 요소 중 하나입니다. AI 활용 실적이 뛰어난 기업은 동종 기업보다 더 많은 비즈니스 기능에 AI를 정기적으로 도입하고 있으며, AI 에이전트 사용을 확장할 가능성도 3배 더 높습니다.
순차적 의존성 대신 병렬 처리
마이그레이션 프로젝트를 중단할 필요는 없습니다. 인공지능 분야 외에도 다양한 용도로 활용될 수 있습니다. 규제 보고, 과거 데이터 분석, 내부 로드맵 관련 경영진 대시보드 등에 통합 데이터가 필요할 수 있습니다. 이러한 목적을 위해 기반을 구축하는 데 투자된 비용은 결코 헛되지 않습니다.
하지만 AI는 마이그레이션이 완료될 때까지 기다릴 필요가 없습니다. 두 작업은 병렬로 진행될 수 있습니다. 마이그레이션은 본래의 목적에 따라 자체 일정에 맞춰 계속 진행됩니다. AI는 현재 존재하는 데이터를 기반으로 즉시 결과를 제공합니다.
실용적인 접근 방식은 측정 가능한 비즈니스 가치를 제공할 수 있는 2~3개의 AI 활용 사례를 식별하는 것에서 시작합니다. 그 다음 각 활용 사례에 필요한 특정 데이터 컨텍스트를 매핑합니다. 그런 다음 마이그레이션 없이 해당 컨텍스트에 직접 접근할 수 있는지 검토합니다. 마지막으로, 가능한 가장 좁은 데이터 경로를 통해 AI를 시범 운영합니다.
이러한 접근 방식은 가트너 분석가 하리타 칸다바투의 분석과 일맥상통합니다. 그녀는 생성형 AI에 대한 관심이 점차 줄어들고 있으며, AI 도입에 필요한 데이터와 AI 에이전트 등 지속 가능한 AI 배포를 지원하는 핵심 요소에 집중되고 있다고 설명합니다. 투자는 인프라 우선 전략에서 데이터 및 역량 우선 아키텍처로 전환되고 있습니다. 데이터 준비 상태를 부차적인 고려 사항으로 여기는 조직은 파일럿 단계를 넘어서지 못하는 94%에 속할 가능성이 가장 높습니다.
투자 논리의 재편
가트너의 지출 데이터는 투자 논리의 지각변동을 보여줍니다. AI 인프라는 2025년까지 9,650억 달러라는 엄청난 규모로 여전히 가장 큰 지출 항목이지만, 그 성장률은 연평균 29%로 비교적 완만합니다. 다른 분야에서는 가속화가 일어나고 있습니다. AI 데이터는 연평균 155%, AI 사이버 보안은 74%, AI 모델은 68%의 성장률을 보이고 있습니다. 투자는 헤드라인을 따라가는 것이 아니라, 병목 현상이 발생하는 곳으로 향하고 있습니다.
AI 데이터 시장 내 성장 동력은 더욱 분명합니다. 합성 데이터 생성은 연평균 178%의 성장률을 보이며 2029년에는 4,100만 달러에서 68억 달러로 증가할 것으로 예상됩니다. AI 워크플로우에 맞춰 구조화된 사전 큐레이션 데이터, 즉 AI 준비 데이터 세트는 연평균 136%의 성장률을 보이고 있습니다. 기업들은 데이터 생산 과정을 단축하기 위해 기꺼이 비용을 지불하고 있습니다. 이는 시장이 느리고 포괄적인 데이터 마이그레이션보다 신속한 데이터 준비에 더 큰 가치를 두고 있음을 분명히 보여줍니다.
이러한 변화를 통해 진정한 가치를 얻는 성공적인 조직들은 기업 규모에서 AI 시스템을 작동시키는 데 필요한 역량, 즉 데이터 준비, 거버넌스, 통합 및 보안에 투자합니다. 이들은 일반적인 지출 비율을 뒤집어 시간과 예산의 50~70%를 데이터 준비, 즉 데이터 추출, 정규화, 거버넌스 메타데이터, 품질 대시보드 및 보존 제어에 할애합니다. 그러나 이러한 데이터 준비는 단일 마이그레이션 프로젝트가 아니라 사용 사례 중심의 반복적인 프로세스로 이해되어야 합니다.
데이터 완벽주의에서 AI 실용주의로
이 분석의 핵심은 한 가지 원칙으로 요약할 수 있습니다. 목표는 완벽한 인프라 구축이 아니었습니다. 목표는 AI를 통해 결과를 도출하는 것이었고, 다행히 이를 위해서는 완벽한 데이터 통합이 필수적이지 않습니다. 이러한 점을 인식하는 팀은 마이그레이션을 필수 조건으로 여기지 않고 AI 결과를 진정으로 중요한 지표로 보기 시작합니다.
데이터가 모든 것을 말해줍니다. 기업의 88%가 AI를 사용하고 있지만, 이를 확장하기 시작한 기업은 3분의 1에 불과합니다. 마이그레이션 프로젝트의 73%는 기술 자체의 문제가 아니라 구현상의 문제로 실패합니다. 2025년까지 기업의 42%는 대부분의 AI 관련 계획을 포기할 것으로 예상됩니다. 그러나 상위 6%의 기업들은 성공의 길이 마이그레이션 프로젝트를 완료하는 데 있는 것이 아니라, 야심찬 목표 설정, 워크플로 재설계, 그리고 빠른 확장에 있음을 보여줍니다.
이는 CIO와 CTO에게 명확한 행동 촉구를 제시합니다. 이제 문제는 AI 구현 전에 모든 데이터를 어떻게 통합할 것인가가 아닙니다. 핵심은 차세대 AI 활용 사례에 필요한 구체적인 데이터 컨텍스트가 무엇이며, 이 컨텍스트를 가장 빠르고 비용 효율적으로 제공하는 방법입니다. 연합 액세스, 활용 사례별 컨텍스트 모델, 런타임 어셈블리는 이러한 접근 방식을 가능하게 하는 아키텍처 도구입니다. 이러한 도구들은 완벽한 준비라는 패러다임을 반복적인 가치 창출이라는 패러다임으로 대체합니다.
AI를 인프라 프로젝트의 부수적인 수혜자가 아니라 데이터 요구 사항을 결정하는 원동력으로 보는 기업들이 시범 단계에서 확장 단계로 가장 빠르게 나아갈 것입니다. 마이그레이션 프로젝트는 계속 진행될 수 있지만, AI 도입은 기다릴 필요가 없습니다.


