생산성 저하의 작업 엉터리: AI 프로젝트는 95%의 기업에 측정 가능한 수익을 가져다주지 못하며 이를 피해야 하는 이유

Xpert 사전 출시

온라인 문의 (Konrad Wolfenstein)

언어 선택 📢

게시일: 2025년 9월 26일 / 업데이트일: 2025년 9월 26일 – 저자: Konrad Wolfenstein

생산성 저하의 작업 엉터리: AI 프로젝트는 95%의 기업에 측정 가능한 수익을 가져다주지 못하며 이를 피해야 하는 이유

생산성 저하: AI 프로젝트는 95%의 기업에 측정 가능한 수익을 가져다주지 못하며 이를 피해야 하는 이유 – 이미지: Xpert.Digital

기업 AI 사용이 유일한 옵션이 되는 경우: 경쟁 우위로서의 산업별 AI 솔루션

알아두면 좋은 정보! 인공지능의 역설: 수십억 달러가 기업에 투자되었지만 왜 실패하는가

생성 인공지능(AI)에 300억~400억 달러라는 전례 없는 투자에도 불구하고, 95%의 기업은 측정 가능한 투자 수익률을 달성하지 못하고 있습니다. 2025년 MIT의 종합적인 연구에 따르면, 이 충격적인 통계는 기대와 현실 사이에 엄청난 간극이 있음을 보여줍니다. AI 기술은 매일 뉴스 헤드라인을 장식하며 미래 생존의 열쇠로 칭송받고 있지만, 대다수의 기업은 AI 이니셔티브를 통해 실질적인 가치를 창출하지 못하고 있습니다.

GenAI 격차: 경제를 통한 보이지 않는 격차

매사추세츠 공과대학교(MIT)는 이러한 현상을 두고 "GenAI 격차(GenAI Divide)"라는 용어를 만들어냈습니다. 인공지능의 혜택을 누리는 소수 기업과 끝없는 시범 단계에 갇힌 일반 대중 간의 심각한 격차를 뜻합니다. 이러한 격차는 기술적 문제가 아닌, 광범위한 결과를 초래하는 조직적 실패로 나타납니다.

수치만 봐도 알 수 있습니다. 통합 AI 파일럿 프로젝트 중 현재 측정 가능한 가치를 창출하는 프로젝트는 5%에 불과하며, 나머지 95%는 수익에 전혀 영향을 미치지 않는 것으로 나타났습니다. ChatGPT 및 Microsoft Copilot과 같은 소비자 도구의 높은 도입률을 고려할 때 이러한 차이는 더욱 두드러집니다. 약 80%의 조직이 이러한 플랫폼을 테스트하고 있으며, 거의 40%는 이미 구축했습니다.

연구 결과는 300건 이상의 공공 AI 구현 사례에 대한 체계적인 분석과 다양한 산업 분야의 임원 153명을 대상으로 한 구조화된 인터뷰를 기반으로 합니다. 2025년 1월부터 6월까지 진행된 이 연구는 GenAI 격차의 네 가지 특징적인 패턴을 보여줍니다. 8개 주요 분야 중 단 두 분야에서만 제한적인 혁신이 발생하고, 시범 사업은 활발하지만 확장성은 낮은 기업 패러독스 현상이 나타나고, 가시적인 기능에 대한 투자 편향이 나타나며, 자체 개발보다 외부 파트너십을 통한 구현이 유리한 것으로 나타났습니다.

Workslop: AI 생산성의 숨겨진 독

연구에서 확인된 특히 심각한 문제 중 하나는 "워크슬롭(workslop)"입니다. "워크(work)"와 "슬롭(slop)"의 합성어로, AI가 생성한 작업 콘텐츠는 표면적으로는 전문적으로 보이지만 자세히 살펴보면 불완전하고 쓸모없는 경우가 많습니다. 겉보기에는 세련되었지만 실체가 없는 이러한 작업은 창작자의 부담을 수취인에게 전가하여 전체 작업량을 줄이는 것이 아니라 오히려 증가시킵니다.

Workslop의 영향은 상당합니다. 설문 조사에 참여한 1,150명이 넘는 미국 정규직 직원 중 40%가 지난달 이러한 콘텐츠를 수신했다고 답했습니다. 직원들은 자신이 받는 업무 문서의 평균 15.4%가 이 범주에 속한다고 추정합니다. 특히 전문 서비스 및 기술 산업이 영향을 많이 받는데, 이러한 현상은 불균형적으로 자주 발생합니다.

재정적 비용은 상당합니다. Workslop 사고 발생 시 기업은 직원 1인당 월 평균 186달러의 손실을 입습니다. 직원 1만 명 규모의 기업이라면 연간 900만 달러 이상의 생산성 손실이 발생합니다. 하지만 사회적, 정서적 비용은 훨씬 더 클 수 있습니다. 수신자의 53%는 불쾌감을, 38%는 혼란스러움을, 22%는 불쾌감을 느꼈습니다.

동료 간의 신뢰가 크게 손상됩니다. 수신자의 약 절반은 Workslop 메시지를 보내는 동료를 창의성, 역량, 신뢰성 측면에서 떨어진다고 생각합니다. 42%는 신뢰도가 낮다고, 37%는 지능이 낮다고 생각합니다. 영향을 받는 사람들 중 3분의 1은 앞으로 그러한 동료들과 함께 일하는 것을 줄이고 싶어합니다. 이러한 업무 관계의 약화는 성공적인 AI 도입 및 변화 관리에 필수적인 협업의 핵심 요소를 위협합니다.

구조적 학습 격차: 기업이 실패하는 이유

핵심 문제는 기술 자체가 아니라 AI 시스템과 조직 모두에 영향을 미치는 근본적인 학습 격차에 있습니다. 현재의 생성 AI 시스템은 피드백을 영구적으로 저장하거나, 조직의 상황에 적응하거나, 지속적으로 성과를 개선할 수 없습니다. 이러한 한계로 인해 ChatGPT를 매일 개인적으로 사용하는 전문가조차도 회사 내부에서 구현된 AI를 거부하게 됩니다.

특히 눈에 띄는 사례는 한 변호사가 회사의 5만 달러짜리 계약 분석 도구가 20달러짜리 ChatGPT 구독보다 지속적으로 성능이 떨어진다고 보고한 사례입니다. 이러한 차이는 소비자용 도구가 값비싼 기업용 솔루션보다 더 나은 결과를 제공하는 경우가 많다는 역설을 보여줍니다. 둘 다 유사한 모델을 기반으로 함에도 불구하고 말입니다.

기업 AI의 과소평가된 약점과 소비자 도구가 이를 추월하는 방식

ChatGPT와 같은 저렴한 소비자용 AI 도구가 값비싼 기업용 솔루션보다 눈에 띄게 우월한 이유는 몇 가지 구체적인 원인에서 찾을 수 있습니다. 가장 큰 문제는 기업용 AI 시스템이 고도로 전문화되고 비용이 많이 들더라도 사용자의 중요한 요구와 모델의 역동적인 진화를 고려하지 않고 개발되는 경우가 많다는 것입니다. 소비자용 도구는 수백만 건의 사용자 상호작용을 통해 더욱 유연하고 직관적이며 최적화되는 경우가 많습니다. 반면 기업용 시스템은 복잡한 통합, 데이터 사일로, 경직된 워크플로우로 인해 제약을 받으며, 피드백을 영구적으로 저장하지 못하는 경우가 많습니다.

핵심 문제는 적응력 부족입니다. 기업용 솔루션은 한 번 구현된 후 개발 속도가 느린 반면, 소비자용 AI 도구는 사용자 피드백과 최신 지식을 기반으로 지속적으로 학습됩니다. ChatGPT를 사용하면 사용자는 대화창에서 직접 질문하고, 입력 내용을 변경하고, 최적화된 결과를 즉시 얻을 수 있습니다. 반면, 많은 기업용 솔루션은 양식 기반이며, 미리 정의되어 있고 종종 오래된 텍스트 모듈을 사용하기 때문에 유연성이 떨어지고 응답성이 떨어집니다.

여기에 높은 통합 및 관리 부담이 더해집니다. 값비싼 솔루션은 기업 프로세스, 데이터 보호 정책 및 인터페이스에 맞춰 조정되어야 하며, 과도한 체계적 제약으로 인해 소비자 서비스 혁신 속도를 따라잡을 수 없습니다. 특히 계약 분석과 같은 특정 작업의 경우, 일반 모델은 더 광범위한 지식을 포괄하고 사용자가 더 나은 프롬프트를 통해 직접 제어할 수 있기 때문에 더욱 강력합니다. 맞춤형 기업 AI는 의미 있는 데이터베이스가 부족한 경우가 많으며, 독립적으로 확장하고 맥락을 학습할 수 없습니다.

궁극적으로 이러한 모든 측면은 역설적인 상황으로 이어진다. 겉보기에 맞춤형 기업 AI에 막대한 자금을 투자했지만, 그 결과는 종종 사용자의 특정 요구 사항에 직접적이고 원활하게 적용할 수 있는 저렴하고 유연한 소비자 솔루션보다 관련성이 낮고, 더 실용적이며, 더 정확하다.

주류 AI 도구의 보이지 않는 한계

소비자 AI 도구는 일반적으로 광범위하고 대중적인 주제와 일반적인 작업에 최적화되어 있습니다. 이러한 도구의 기반이 되는 학습 데이터는 일반적으로 인터넷, 공개 텍스트, 그리고 흔한 일상 사례와 같이 공개적으로 접근 가능한 출처에서 제공됩니다. 따라서 일반적인 질문, 일반 텍스트 또는 표준 프로세스(예: 마케팅 텍스트 작성, 이메일 답변 또는 간단한 일상 프로세스 자동화)에 특히 효과적입니다.

그러나 요구 사항이 더욱 전문화될수록 일반 소비자용 AI는 한계에 더욱 심각하게 도달합니다. 산업별 또는 비즈니스에 중요한 작업의 경우, 이러한 도구는 일반적으로 필요한 상세 정보, 주제별 데이터 또는 특정 교육이 부족합니다. 복잡한 법률 용어가 포함된 계약 분석, 기술 보고서 또는 고도로 맞춤화된 B2B 프로세스와 같은 작업은 AI가 관련 맥락에 대한 지식이 부족하거나 이를 신뢰성 있게 해석할 수 없기 때문에 효과적으로 자동화하기 어려운 경우가 많습니다.

이는 고도로 전문화된 산업과 개별 기업별 요구 사항이 있는 분야에서 가장 두드러지게 나타납니다. 예를 들어 기업의 핵심 제품이나 기밀 내부 프로세스에 대한 정보 등 자유롭게 이용 가능한 정보가 적을수록 소비자 AI의 오류율은 높아집니다. 결과적으로 이러한 시스템은 부정확하거나 불완전한 권장 사항을 제공할 위험이 있으며, 최악의 경우 비즈니스에 중요한 프로세스를 방해하거나 잘못된 판단을 초래할 수도 있습니다.

실제로 이는 소비자용 AI 도구만으로도 주류 업무에 충분히 활용 가능하다는 것을 의미합니다. 그러나 전문성이 높아짐에 따라 이러한 도구의 실패율은 크게 증가합니다. 따라서 산업별 전문 지식, 정밀한 프로세스 검증 또는 높은 수준의 맞춤화에 의존하는 기업은 전문 데이터베이스와 맞춤형 교육을 갖춘 자체 엔터프라이즈 솔루션을 통해 장기적인 이점을 얻을 수 있습니다.

AI 확장의 실제 장애물은 지능이 아닙니다. 유연성에 대한 높은 기대가 둔화될 때

성공적인 AI 확장을 가로막는 장벽은 다양합니다. 무엇보다도 새로운 도구 도입에 대한 거부감이 가장 크며, 그 다음으로는 모델 품질에 대한 우려가 있습니다. 특히 흥미로운 점은 이러한 품질 문제가 객관적인 성능 저하 때문이 아니라, 사용자들이 일반 소비자 도구의 유연성과 반응성에 익숙해져 정적인 기업 도구가 부족하다고 느끼기 때문에 발생한다는 것입니다.

미션 크리티컬 업무에서는 이러한 격차가 더욱 두드러집니다. 사용자의 70%는 이메일 작성이나 기본 분석과 같은 간단한 작업에는 AI를 선호하는 반면, 90%는 복잡한 프로젝트나 고객 서비스에는 인간 직원을 선호합니다. 이러한 차이는 지능이 아니라 기억하고, 적응하고, 지속적으로 학습하는 능력에 달려 있습니다.

그림자 AI 경제: 직장 내 비밀 AI 혁명

실망스러운 공식 AI 이니셔티브와 더불어, 직원들이 개인 AI 도구를 업무에 사용하는 "섀도우 AI 경제"가 번성하고 있는데, 이는 종종 IT 부서의 인지나 승인 없이 이루어집니다. 그 규모는 놀랍습니다. 공식 AI 구독을 구매한 기업은 40%에 불과한 반면, 설문 조사에 참여한 기업의 90%가 넘는 직원들이 업무 목적으로 개인 AI 도구를 정기적으로 사용한다고 답했습니다.

이러한 평행 경제는 중요한 점을 보여줍니다. 개인이 유연하고 반응성이 뛰어난 도구를 활용할 수 있다면 GenAI 격차를 성공적으로 메울 수 있다는 것입니다. 이러한 패턴을 인지하고 이를 기반으로 발전하는 기업들이 기업 AI 도입의 미래를 대표합니다. 진보적인 기업들은 이미 섀도우 사용(shadow usage)에서 배우고, 기업용 대안을 도입하기 전에 어떤 개인용 도구가 가치를 제공하는지 분석함으로써 이러한 격차를 메우기 시작했습니다.

'Managed AI'(인공지능)로 디지털 혁신의 새로운 차원을 열어갑니다 - 플랫폼 및 B2B 솔루션 | Xpert Consulting

'Managed AI'(인공지능)로 디지털 혁신의 새로운 차원을 열다 - 플랫폼 및 B2B 솔루션 | Xpert Consulting - 이미지: Xpert.Digital

여기에서는 귀하의 회사가 맞춤형 AI 솔루션을 빠르고 안전하게, 그리고 높은 진입 장벽 없이 구현할 수 있는 방법을 알아보실 수 있습니다.

관리형 AI 플랫폼은 인공지능을 위한 만능, 안심 패키지입니다. 복잡한 기술, 값비싼 인프라, 그리고 긴 개발 프로세스 대신, 전문 파트너를 통해 고객의 니즈에 맞춘 턴키 솔루션을 며칠 안에 제공해 드립니다.

한눈에 보는 주요 이점:

⚡ 빠른 구현: 몇 달이 아닌 단 며칠 만에 아이디어부터 실제 운영까지, 즉각적인 가치를 창출하는 실용적인 솔루션을 제공합니다.

🔒 최고의 데이터 보안: 귀하의 민감한 데이터는 귀하에게 안전하게 보관됩니다. 당사는 제3자와 데이터를 공유하지 않고 안전하고 규정을 준수하는 처리를 보장합니다.

💸 재정적 위험 없음: 결과에 대해서만 비용을 지불합니다. 하드웨어, 소프트웨어 또는 인력에 대한 높은 초기 투자가 전혀 필요하지 않습니다.

🎯 핵심 사업에 집중하세요. 가장 잘하는 일에 집중하세요. AI 솔루션의 모든 기술 구현, 운영 및 유지 관리를 저희가 책임집니다.

📈 미래 지향적이며 확장 가능합니다. AI는 고객과 함께 성장합니다. 지속적인 최적화와 확장성을 보장하며, 새로운 요구 사항에 맞춰 모델을 유연하게 조정합니다.

자세한 내용은 여기를 참조하세요.

관리형 AI 솔루션 - 산업 AI 서비스: 서비스, 산업 및 기계 엔지니어링 부문의 경쟁력을 위한 핵심

본질보다 화려함: GenAI 투자가 종종 잘못된 방향으로 가는 이유

투자의 잘못된 배분: 실질 대신 매력만 추구

GenAI 격차의 또 다른 중요한 측면은 투자 패턴에서도 드러납니다. 백오피스 자동화가 더 나은 ROI를 제공하는 경우가 많음에도 불구하고, GenAI 예산의 약 50%가 영업 및 마케팅 기능에 투입됩니다. 이러한 편향은 실제 가치를 반영하는 것이 아니라, 가시적인 영역에서 지표를 더 쉽게 할당할 수 있다는 점을 반영합니다.

영업 및 마케팅은 가시성뿐만 아니라 데모 볼륨이나 이메일 응답 시간과 같은 결과가 이사회 지표와 직접적인 상관관계를 갖기 때문에 예산 배분에서 중요한 부분을 차지합니다. 반면, 법무, 조달, 재무 부서는 규정 위반 감소, 워크플로 최적화, 월말 마감 가속화와 같은 보다 미묘한 효율성 향상 효과를 제공합니다. 이러한 개선 사항은 중요하지만 전달하기 어려운 부분입니다.

이러한 투자 편향은 가시적이지만 혁신성이 낮은 활용 사례에 자원을 집중시킴으로써 GenAI 격차를 고착화하는 반면, 백오피스 부문에서는 가장 높은 ROI를 창출할 수 있는 기회에 대한 자금 지원이 여전히 부족합니다. 더욱이, 사회적 검증 추구는 제품 품질보다 구매 결정에 더 큰 영향을 미칩니다. 추천, 기존 관계, 그리고 벤처 캐피털 도입은 기능이나 특징 세트보다 기업 도입을 예측하는 더 강력한 지표로 남아 있습니다.

구조적 차이점: 엔터프라이즈 AI 대 소비자 AI

엔터프라이즈 AI와 컨슈머 AI의 근본적인 차이점은 관찰된 많은 문제를 설명합니다. 컨슈머 AI는 고객 경험 개선과 개별 사용자 개인화에 중점을 두는 반면, 엔터프라이즈 AI는 조직 프로세스를 최적화하고 규정 준수를 보장하며 복잡한 비즈니스 요구 사항에 대한 확장 가능한 솔루션을 제공하도록 설계되었습니다.

엔터프라이즈 AI는 심층적인 도메인 전문 지식을 요구하며, KPI 기반 결과를 달성하기 위해 지도 학습 기법을 사용하는 경우가 많습니다. 복잡한 IT 환경에 통합되고, 규제 요건을 충족하며, 강력한 데이터 보안 조치를 구현해야 합니다. 반면, 소비자 AI는 사용 편의성과 즉각적인 만족감을 우선시하며, 보안과 규정 준수를 소홀히 하는 경우가 많습니다.

이러한 구조적 차이점은 동일한 기반 모델이 소비자 애플리케이션에서는 훌륭하게 작동하지만 기업 환경에서는 실패하는 이유를 설명합니다. 기업용 AI는 기술적으로 기능적일 뿐만 아니라 기존 비즈니스 프로세스에 통합되고, 거버넌스 요건을 충족하며, 장기적인 가치 창출을 입증해야 합니다.

성공 전략: 5%가 격차를 극복하는 방법

GenAI 격차를 성공적으로 메우는 소수의 기업들은 뚜렷한 패턴을 따릅니다. 이들은 AI 스타트업을 소프트웨어 벤더보다는 컨설팅 회사나 비즈니스 프로세스 아웃소싱 파트너에 버금가는 비즈니스 서비스 제공업체로 취급합니다. 이러한 기업들은 내부 프로세스 및 데이터와의 긴밀한 연계를 요구하고, 모델 벤치마크보다는 운영 결과를 기반으로 도구를 평가하며, 배포를 초기 실패를 통한 공진화로 간주합니다.

특히 주목할 점은 외부 파트너십의 성공률이 내부 개발의 약 두 배라는 점입니다. 전략적 파트너십의 67%가 성공적인 구축으로 이어지는 반면, 내부 개발 노력의 경우 이 목표를 달성하는 비율은 33%에 불과합니다. 이러한 파트너십은 가치 실현 시간을 단축하고, 전체 비용을 절감하며, 운영 워크플로우와의 연계성을 향상시키는 경우가 많습니다.

성공적인 구매자들은 중앙 연구소가 아닌 현장 관리자로부터 AI 이니셔티브를 파악하여 예산 담당자와 도메인 관리자가 문제를 파악하고, 도구를 평가하고, 출시를 안내할 수 있도록 지원합니다. 이러한 상향식 조달 방식은 경영진의 책임 의식과 결합하여 도입을 가속화하고 운영 적합성을 유지합니다.

산업별 혁신: 기술이 선도하고 다른 기술들은 주저하며 따라간다

GenAI 격차는 업계 차원에서 뚜렷하게 드러납니다. 높은 투자와 광범위한 시범 사업에도 불구하고, 9개 주요 분야 중 기술과 미디어/통신이라는 두 분야만이 구조적 붕괴의 징후를 뚜렷하게 보이고 있습니다. 나머지 모든 분야는 여전히 변화의 덫에 걸려 있습니다.

기술 산업은 새로운 도전자들이 시장 점유율을 확대하고 업무 흐름이 변화하는 모습을 보이고 있습니다. 미디어 및 통신 업계는 AI 기반 콘텐츠의 부상과 광고 시장의 변화를 경험하고 있으며, 기존 기업들도 지속적으로 성장하고 있습니다. 전문 서비스 부문은 효율성이 향상되고 있지만, 고객 서비스는 크게 변화하지 않았습니다.

이러한 상황은 특히 기존 산업에서 두드러집니다. 에너지 및 소재 산업은 도입이 거의 전무하고 실험도 최소화되어 있습니다. 첨단 산업은 주요 공급망 변화 없이 유지보수 시범 운영에 그치고 있습니다. 투자와 혁신 간의 이러한 괴리는 거시적 수준에서 GenAI의 격차, 즉 광범위한 실험만 있을 뿐 혁신은 없는 모습을 보여줍니다.

독일의 관점: 특별한 도전과 기회

독일 기업들은 AI 구현에 있어 특정 과제에 직면해 있습니다. 독일 기업 중 인공지능에 대한 최적의 준비를 갖춘 기업은 6%에 불과하며, 이는 전년 대비 감소한 수치입니다. 국제 비교에서 독일은 AI에 대한 완전한 준비를 갖춘 기업 수에서 유럽 6위에 불과합니다.

특히 심각한 문제는 독일 경영진의 84%가 향후 18개월 이내에 AI 전략을 실행하지 못할 경우 부정적인 결과를 우려하고 있다는 점입니다. 동시에 독일 기업의 4분의 3은 AI 정책을 시행하지 않았습니다. AI 요구 사항을 충족할 만큼 충분한 전문 인력을 보유한 기업은 40%에 불과합니다.

독일 기업들이 직면한 주요 장애물로는 숙련된 인력 부족(전 세계 28% 대비 34%), 사이버 보안 및 규정 준수 문제(33%), 그리고 데이터 인프라 확장성 문제(25%) 등이 있습니다. 규제 불확실성, 문화적 의구심, 그리고 어느 정도의 기술 회의론은 이러한 문제를 더욱 악화시킵니다.

그럼에도 불구하고, 기회는 생겨나고 있습니다. 독일 기업들은 정밀성과 품질 부문의 강점을 AI 혁신과 결합할 수 있습니다. 기계 공학이나 자동차 산업과 같은 산업에서 AI는 공정 최적화와 제품 품질 향상에 기여할 수 있습니다. 전문화된 AI는 수천 번의 반복 작업에도 지치지 않고 마지막 몇 퍼센트까지 완벽하게 해낼 수 있습니다.

에이전트 AI: 다음 진화 단계

학습 격차를 해소하는 해결책은 소위 에이전트 AI(agentic AI)에 있습니다. 에이전트 AI는 영구 메모리와 반복 학습을 처음부터 통합하는 시스템입니다. 매번 전체 맥락을 요구하는 기존 시스템과 달리, 에이전트 시스템은 영구 메모리를 유지하고, 상호작용을 통해 학습하며, 복잡한 워크플로를 자율적으로 조율할 수 있습니다.

고객 서비스 담당자가 처음부터 끝까지 모든 문의를 처리하고, 재무 처리 담당자가 일상적인 거래를 모니터링하고 승인하고, 영업 파이프라인 담당자가 여러 채널에서 참여를 추적하는 초기 회사 실험은 자율성과 메모리가 확인된 핵심 격차를 어떻게 해소하는지 보여줍니다.

이러한 전환을 지원하는 인프라는 모델 컨텍스트 프로토콜(MCP), 에이전트 간 프로토콜(A2A), 그리고 에이전트 간 통신(NANDA)과 같은 프레임워크를 통해 등장하고 있으며, 이러한 프레임워크는 에이전트 간 상호운용성과 조정을 가능하게 합니다. 이러한 프로토콜은 단일 시스템을 필요로 하지 않고 전문 에이전트 간의 협업을 가능하게 함으로써 시장 경쟁과 비용 효율성을 창출합니다.

기업을 위한 실용적인 솔루션

GenAI 격차를 해소하려는 기업은 몇 가지 전략을 추구해야 합니다. 첫째, 무분별한 지시를 피하는 것이 중요합니다. 경영진이 언제 어디서나 AI를 옹호하는 것은 기술 적용에 대한 판단력 부족을 보여주는 사례입니다. GenAI는 모든 업무에 적합하지 않으며, 사람의 마음을 읽을 수도 없습니다.

직원의 사고방식은 중요한 역할을 합니다. 연구에 따르면 높은 자율성과 높은 낙관성을 겸비한 직원, 즉 소위 "조종사"는 낮은 자율성과 낮은 낙관성을 가진 "승객"보다 업무에서 GenAI를 75% 더 자주 사용하는 것으로 나타났습니다. 조종사는 목표 달성과 창의성 향상을 위해 AI를 적절히 활용하는 반면, 승객은 업무를 회피하기 위해 AI를 활용할 가능성이 더 높습니다.

특히 협업으로의 복귀에 중점을 두어야 합니다. 성공적인 AI 작업에 필요한 많은 작업(메시지 제공, 피드백 제공, 맥락 설명 등)은 협업입니다. 오늘날의 업무는 인간뿐만 아니라 AI와의 협업도 점점 더 많이 요구됩니다. 워크슬롭(Workslop)은 AI가 도입한 새로운 협업 역학의 훌륭한 사례로, 생산성을 향상하기보다는 오히려 저해할 가능성이 높습니다.

조직 성공 요인 및 변화 관리

성공적인 AI 구현에는 구체적인 조직 설계가 필요합니다. 가장 성공적인 기업들은 책임을 유지하는 동시에 구현 권한을 분산시킵니다. 이를 통해 현장 관리자와 도메인 전문가는 중앙 집중식 AI 기능에만 의존하지 않고 사용 사례를 파악하고 도구를 평가할 수 있습니다.

그림자 AI 경제에서 배우는 것은 특히 중요합니다. 강력한 기업 구축 사례 중 상당수는 ChatGPT나 Claude와 같은 개인 생산성 도구를 이미 사용해 본 경험이 있는 파워 유저를 중심으로 시작되었습니다. 이러한 "프로슈머"는 GenAI의 기능과 한계를 직관적으로 이해하고 내부적으로 승인된 솔루션의 초기 지지자가 됩니다.

성공을 측정하고 전달하려면 새로운 접근 방식이 필요합니다. 기존 소프트웨어 지표는 기능과 사용자 도입에 중점을 두는 반면, 엔터프라이즈 AI는 비즈니스 성과와 프로세스 개선을 기반으로 평가해야 합니다. 기업은 규정 위반 감소나 워크플로 가속화와 같이 미묘하지만 중요한 개선 사항을 정량화하고 전달하는 방법을 배워야 합니다.

기회의 마지막 창

GenAI 격차를 메울 수 있는 창구가 빠르게 닫히고 있습니다. 기업들은 시간이 지남에 따라 적응하는 시스템을 점점 더 요구하고 있습니다. Microsoft 365 Copilot과 Dynamics 365는 이미 영구 메모리와 피드백 루프를 통합하고 있습니다. OpenAI의 ChatGPT 메모리 베타 버전도 범용 도구에 대한 유사한 기대를 시사합니다.

피드백, 사용 사례, 그리고 결과를 통해 학습하는 적응형 에이전트를 개발하여 이러한 격차를 신속하게 해소하는 스타트업은 데이터와 심층적인 통합을 통해 지속적인 제품 경쟁력을 확보할 수 있습니다. 기회의 창은 좁습니다. 이미 여러 산업에서 시범 프로젝트가 진행 중입니다. 앞으로 여러 기업이 거의 풀 수 없는 벤더 관계를 구축할 것입니다.

데이터, 워크플로, 피드백을 통해 학습하는 AI 시스템에 투자하는 기업은 매달 누적되는 전환 비용을 부담하게 됩니다. 50억 달러 규모의 금융 서비스 회사의 한 CIO는 다음과 같이 요약했습니다. "현재 다섯 가지 GenAI 솔루션을 평가하고 있지만, 가장 잘 학습하고 특정 프로세스에 적응하는 시스템이 궁극적으로 사업을 성사시킬 것입니다. 시스템이 워크플로를 이해하도록 훈련하는 데 시간을 투자하면 전환 비용이 엄청나게 증가합니다."

GenAI 격차는 실질적이고 심각하지만, 극복할 수 없는 것은 아닙니다. 학습 격차, 조직 설계상의 어려움, 투자 편향 등 근본적인 원인을 이해하고 그에 따라 행동하는 기업은 인공지능의 혁신적인 힘을 진정으로 활용할 수 있습니다. 그러나 행동할 시간은 제한적이며, 기다리는 데 드는 비용은 기하급수적으로 증가하고 있습니다.