기업의 74%가 AI에서 긍정적 ROI를 본다고 합니다. 근데 대규모 수익을 내는 기업은 겨우 5%. 나머지 95%는 대체 뭐가 문제일까요?
이게 뭔데?
Wharton 경영대학원이 3년째 추적하고 있는 대규모 연구예요. GBK Collective와 함께 미국 매출 5천만 달러 이상 기업의 리더 약 800명을 매년 설문조사해서, AI 도입이 실제로 돈이 되는지를 추적하고 있죠.
2025년 보고서의 헤드라인 숫자는 꽤 화려해요. 기업의 82%가 매주 AI를 사용하고, 74%가 긍정적 ROI를 보고했거든요. 일일 사용률도 46%로 전년 대비 17%p나 올랐어요. AI가 더 이상 실험이 아니라 일상 업무 도구가 된 거예요.
그런데 여기서 반전이 있어요. BCG가 전 세계 1,250개 기업을 조사한 결과, 대규모 AI 가치를 실현하는 기업은 단 5%에 불과했어요. McKinsey 연구도 비슷한 결론이에요. 10% 미만만이 의미 있는 P&L 임팩트를 달성했다고요. MIT는 더 극단적인 숫자를 내놨는데, 95%의 AI 파일럿이 ROI 0원이라는 거예요.
이걸 어떻게 이해해야 할까요? "74%가 긍정적"이라는데 "5%만 성공"이라니? 둘 다 맞는 말이에요. 대부분의 기업이 소규모로는 성과를 보고 있지만, 그걸 전사적으로 확대해서 실제 손익에 영향을 주는 단계까지 가는 기업은 극소수라는 뜻이에요.
뭐가 달라지는 건데?
가장 흥미로운 발견은 기술이 아니라 사람이에요. 2026년 4월 HBR에 발표된 Wharton 연구에서 경영진과 중간관리자가 완전히 다른 현실을 보고 있다는 게 드러났거든요.
경영진 45%는 "AI ROI가 상당히 긍정적"이라고 답했어요. 중간관리자는요? 27%만 동의했어요. 18%p나 차이가 나죠. 도입 속도에 대한 인식도 마찬가지예요. 경영진 56%가 "경쟁사보다 훨씬 빠르다"고 했는데, 중간관리자는 28%만 그렇게 느꼈어요.
| 인식 항목 | 경영진 (C-Level) | 중간관리자 |
|---|---|---|
| AI ROI "상당히 긍정적" | 45% | 27% |
| 경쟁사보다 "훨씬 빠르게" 도입 | 56% | 28% |
| AI에 대해 "훨씬 더 긍정적으로 변화" | 65% | 39% |
| "신중하다"고 자기 평가 | 28% | 46% |
왜 이런 차이가 생길까요? 경영진은 AI를 전략 수립, 의사결정 지원 같은 고수준 작업에 씁니다. 이런 작업에서 AI는 꽤 잘 작동해요. 중간관리자는 다릅니다. 수년간 쌓인 워크플로우, 기술 수준이 제각각인 팀, 일관성이 중요한 결과물 — 이 복잡한 현실에서 AI를 굴려야 하거든요.
한마디로, AI가 잘 될 때는 둘 다 혜택을 봅니다. AI가 실패할 때는 중간관리자만 수습해야 해요.
대부분의 성공적 전환은 탑다운이 아닙니다. 관리자들이 실제 제약 속에서 매일 헤쳐나가는 현실에서 승패가 갈립니다.
— Ana White, Lumen 최고인적자원책임자
핵심만 정리: AI ROI를 내는 기업이 되는 법
Wharton, BCG, HBR 연구를 종합하면 5가지 행동 원칙이 나와요.
- 진단부터 하세요 (처방 전에)
우리 조직이 AI 전환 여정 어디에 있는지부터 파악하세요. 경영진의 낙관이 현실을 왜곡하고 있진 않은지 솔직하게 평가하는 게 먼저예요. - 플레이북을 같이 만드세요
AI 전략을 위에서 내려보내지 말고, 중간관리자를 로드맵 논의에 포함시키세요. 결정된 후가 아니라 결정 전에요. 실행하는 사람이 설계에 참여해야 합니다. - 짐을 줄인 다음에 새 짐을 얹으세요
McKinsey에 따르면 관리자는 시간의 30% 미만만 핵심 리더십 업무에 씁니다. 나머지는 행정 업무예요. AI로 행정을 줄여주지도 않으면서 "AI 전환하라"고 하면, 비행 중에 비행기 조립하라는 거예요. - 도입률이 아니라 준비도를 측정하세요
"몇 명이 AI를 썼냐"만 추적하지 마세요. 관리자 자신감, 조직 준비도를 명시적 KPI로 잡으세요. 사용률 높아도 제대로 못 쓰면 의미 없어요. - 솔직한 피드백을 보상하세요
중간관리자가 "안 되고 있다"고 말할 수 있는 채널을 만드세요. 신중한 평가나 실패한 파일럿은 저항이 아니라 귀중한 데이터예요.
BCG의 "Future-Built" 기업 특징
상위 5%는 AI 수익을 재투자합니다. IT 예산의 64%를 AI에, 전체 IT 지출을 26% 더 늘리고, AI 에이전트에 예산의 15%를 배정해요. 이 선순환이 수익 5배, 비용 절감 3배의 격차를 만들어냅니다.
