AI 도입 ROI를 확인하려면 사용률보다 먼저 봐야 할 3가지

1분 요약 읽기 💡

AI를 쓰는 직원은 빠르게 늘고 있지만, AI로 ROI(투자 대비 수익)를 확보했다는 리더는 7%에 그쳤습니다. KPMG가 2026년 한국을 포함한 20개국 리더 2,145명을 조사한 결과예요. 같은 해 BCG 조사에서는 AI를 자주 쓰는 현장 직원의 42%가 업무 시간(주 8시간)을 줄였지만, 66%는 그 시간을 어디에 쓸지는 안내 받지 못했습니다.

두 조사에서 ROI가 높게 나타난 조직은 세 가지를 갖추고 있었습니다. AI 성과에 책임지는 사람이 분명했고, AI 비용을 잘 파악하고 있었고, 사용률보다 사업 성과를 기준으로 삼았습니다. ROI는 계산하기 전에 확인할 수 있는 상태부터 만들어야 보입니다.

AI 쓰는 직원은 늘었는데, ROI를 확인한 회사는 왜 7%뿐인가요?

AI를 핵심 투자 분야로 꼽은 리더 79%와 AI로 ROI를 확보한 리더 7%를 비교한 막대 그래프

KPMG가 2026년 4~5월 20개국 리더 2,145명에게 물었더니, AI로 ROI를 확보했다는 답은 7%에 그쳤습니다. 같은 조사에서 AI를 핵심 투자 분야로 꼽은 리더는 79%였습니다. AI에 돈을 쓰는 회사는 열에 여덟인데, 그 성과를 숫자로 확인한 회사는 열에 하나가 안 되는 셈이에요.

현장에서는 AI가 이미 일상 도구가 됐습니다. BCG 조사에서 현장 직원의 74%가 AI를 매일 또는 일주일에 몇 번 쓴다고 답했고, 이 비율은 2025년보다 23%p 늘었어요. AI를 정기적으로 쓰는 현장 직원의 42%는 주 8시간, 하루치 업무 시간을 줄였다고 답했어요. 하지만 66%는 줄어든 시간을 어디에 쓸지 안내를 거의 또는 전혀 받지 못했습니다.

코드프레소는 두 결과를 한 흐름으로 봅니다. 현장에서는 시간이 줄고 있는데, 그 시간이 어디로 갔는지 확인하는 장치가 없으니 경영진 쪽에서는 ROI가 보이지 않는 것입니다.

ROI가 보이는 7%는 무엇을 먼저 갖췄나요?

사람, 비용, 성과 지표 아이콘이 계단 형태로 올라가며 AI 도입 성과로 이어지는 과정을 표현한 일러스트

두 조사에서 ROI나 사업 가치가 높게 나타난 조직은 성과 책임자, 비용 파악, 성과 지표의 세 가지를 갖추고 있었습니다.

관리 항목	핵심 내용
1. 성과 책임자	AI 성과의 책임자를 분명히 할 것 (ROI 확보율 14% vs 4%)
2. 비용 파악	AI 비용을 파악하고 관리할 것 (ROI 확보율 15% vs 3%)
3. 성과 지표	사용량보다 비즈니스 성과에 주목할 것

세 가지 모두 AI 도구를 고르는 일보다 도구를 쓰는 조직을 관리하는 일에 가까워요.

AI 성과에 책임자가 없으면 무슨 일이 생기나요?

책임이 분명하지 않은 조직에서는 ROI를 확보했다는 응답이 4%에 머물렀어요. KPMG 조사에서 AI 기반 의사결정의 책임이 분명한 조직, 특히 CEO가 책임지는 조직은 ROI 확보(14% vs 4%)뿐 아니라 AI 전략에 대한 확신(60% vs 22%)과 의미 있는 사업 가치 실현(57% vs 21%)도 모두 높게 나타났습니다.

그런데 AI로 만든 사업 성과에 CEO가 책임진다고 답한 리더는 24%뿐이었어요. KPMG International의 스티브 체이스(Steve Chase) AI·디지털 혁신 글로벌 총괄은 "최고 경영진이 책임을 지는 조직과 그렇지 않은 조직 사이에 분명한 격차가 보인다"고 말했습니다.

책임자가 정해져 있으면 "이번 AI 도입으로 무엇이 달라져야 하는가"를 묻는 사람이 생깁니다. ROI를 확인하는 일은 그 질문에서 시작해요.

AI 비용은 왜 계약 금액만으로는 보이지 않나요?

낮은 수치를 가리키던 계기판 바늘이 높은 수치로 올라간 모습을 비교한 일러스트

AI 서비스 요금은 토큰(token) 단위로 매겨지는 경우가 많기 때문이에요. 토큰은 AI가 글을 읽고 쓸 때 잘게 나눠 처리하는 단위로, 질문과 답변이 길어지고 쓰는 사람이 늘수록 토큰 사용량과 요금이 함께 늘어요. KPMG도 AI의 가치를 재기 어려워진 이유로 이런 토큰 기반 요금 구조를 꼽았습니다.

KPMG 조사에서 AI 지출을 부분적으로만 파악하고 있다는 리더가 42%였고, 사용량에 따라 바뀌는 요금 관리가 어렵다는 리더도 23%였습니다.

비용을 잘 파악하는 리더는 ROI를 확보한 비율이 그렇지 못한 리더의 5배(15% vs 3%)였어요. 비용을 보이게 만들려고 조직들이 하고 있는 일은 다음과 같습니다.

항목	응답 비율
AI 비용 모니터링 대시보드를 갖춤	53%
AI 도입 승인 과정에 비용 검토를 넣음	54%

비용이 보이지 않으면 ROI를 계산할 때 나눌 숫자부터 빠지게 됩니다. KPMG International의 롭 피셔(Rob Fisher) 자문 부문 글로벌 총괄은 "AI는 이제 기술 과제인 만큼 재무 관리 과제"라고 말했습니다.

"직원 74%가 AI를 씁니다"라는 보고는 왜 성과가 되지 못하나요?

사용률은 직원이 AI를 쓴다는 사실만 보여 주고, 그 사용이 회사에 무엇을 남겼는지는 보여 주지 않기 때문이에요. BCG는 조사 결과를 바탕으로 한 CEO 권고에서 "점수판을 바꾸라"고 했습니다.

기준	알 수 있는 것	BCG의 평가
도입률·사용률	직원이 AI를 쓰고 있다는 사실	성과로 돌아오는지는 알 수 없음
사업 성과	AI 투자로 사업 결과가 달라졌는지	경영진이 봐야 할 기준

BCG의 표현은 이렇습니다. "도입률은 사람들이 AI를 쓴다는 사실을 알려 줄 뿐, 그것이 성과로 돌아오는지는 알려 주지 않습니다. 개인이 줄인 시간은 추적하고 의도적으로 다시 쓰지 않으면 조직에서 새어 나갑니다. 그러니 사용량 대신 사업 성과를 보십시오."

줄어든 시간을 어디에 쓸지 정해 주는 일도 여기에 포함돼요. 앞에서 본 것처럼 현장 직원의 66%는 이 안내를 받지 못했습니다. 시간이 어디에 쓰였는지 기록이 없으면, 업무 시간이 줄었다는 사실도 성과로 보고할 수 없어요.

역량 교육을 충분히 받은 직원은 36%, ROI보다 먼저 확인할 것은 무엇인가요?

코드프레소는 구성원의 AI 활용 역량이 어디쯤인지부터 확인해야 한다고 봅니다. BCG 조사에서 AI 때문에 갖춰야 할 역량이 바뀌었다는 응답은 72%였지만, 충분한 역량 교육을 받았다는 응답은 36%였어요.

도구를 들이고 사용률을 재는 것만으로는 구성원이 AI로 일을 더 잘하게 됐는지 알 수 없습니다. 코드프레소는 사업 성과를 보기 전에 구성원의 역량 수준을 먼저 확인해 두면, 이후 성과 변화를 설명할 근거가 생긴다고 봅니다. 측정이 왜 필요한지는 AI 활용 역량 평가란? 평가 기준 4가지와 진단 시점에서 더 자세히 다뤘습니다.

자주 묻는 질문

Q. AI 도입 ROI란 무엇인가요?

AI 도입 ROI는 AI에 투자한 비용 대비 돌아온 사업 성과를 비율로 나타낸 값입니다. KPMG의 2026년 조사에서 AI로 ROI를 확보했다고 답한 리더는 7%였습니다.

Q. AI 사용률이 높으면 성과도 높은 건가요?

BCG는 도입률이 직원의 AI 사용 사실만 알려 줄 뿐 성과로 이어지는지는 알려 주지 않는다고 설명합니다. 그래서 사용률 대신 사업 성과를 보라고 권합니다.

Q. AI로 줄어든 업무 시간은 성과로 볼 수 있나요?

줄어든 시간이 어디에 쓰였는지 추적해야 성과로 볼 수 있습니다. BCG 조사에서 현장 직원의 66%는 줄어든 시간을 어디에 쓸지 안내를 거의 받지 못했고, BCG는 이 시간이 추적되지 않으면 조직에서 새어 나간다고 봤습니다.

Q. 우리 회사 구성원의 AI 활용 역량을 확인하고 싶습니다.

코드프레소는 AI 역량 진단 서비스 AI Fluent로 구성원의 AI 활용 역량을 진단하고, 진단 결과에 맞춘 기업 AI 교육을 설계합니다. 교육 인원과 직군 구성을 적어 sales@codepresso.kr로 문의해 주세요.

참고 자료

KPMG International, Global AI Pulse: Q2 2026 보도자료, 2026-06-24. https://kpmg.com/xx/en/media/press-releases/2026/06/growing-adoption-signals-progress-as-cost-visibility-and-accountability-drive-ai-value.html
BCG, "AI at Work: Why Strategy Matters More Than Tools", 2026-06-03. https://www.bcg.com/publications/2026/ai-at-work-why-strategy-matters-more-than-tools

작성: 코드프레소 글로벌 GTM·파트너십(GGP) 본부 | 발행일 2026-10-12 | 최종 수정일 2026-10-12