HR&Tech

AI 제대로 쓰는 조직의 비밀: 역량 측정

기업이 ChatGPT, Copilot, 사내 AI 솔루션을 도입한 뒤 한 번쯤 겪는 일이 있습니다. 직원들은 AI를 씁니다. 그런데 야근은 여전하고, 업무 생산성은 그대로입니다.

이상하지 않나요? 다들 AI를 쓰는데 성과는 제자리입니다.

생성형 AI 도구를 도입한 많은 기업에서 직원들은 주로 번역, 요약 같은 보조적인 작업에만 AI를 활용하고 있습니다. 업무 프로세스 자체를 재설계하거나 복잡한 문제 해결에까지 확장하는 사례는 여전히 소수에 그치고 있죠.

문제는 도구가 아닙니다. 직원들이 AI를 쓰긴 쓰는데, 제대로 못 쓰고 있기 때문입니다. 간단한 질문-답변 용도로만 쓰거나, 결과물을 그대로 복붙하거나, 반대로 너무 의심해서 결국 수작업으로 돌아가 버리죠. 같은 도구를 써도 어떻게 쓰느냐에 따라 성과는 천차만별입니다.

결국 AI 도입이 기대만큼 성과를 내지 못하는 가장 큰 이유는 기술이나 예산이 아니라, 조직 내 AI 활용 역량의 격차입니다.

AI는 쓰는데 왜 성과는 안 날까? 3가지 현실

1️⃣사용은 하지만, 활용 깊이는 얕다

"AI 쓰세요?" 물으면 다들 "네"라고 답합니다. 그런데 실제로는 'ChatGPT에 복붙 → 결과 복붙' 패턴만 반복하는 경우가 많죠. 진짜 업무 혁신(프로세스 재설계, 복잡한 의사결정 지원)까지 가는 팀은 드뭅니다. 쓰긴 쓰는데, 진짜 생산성을 바꿀 만큼은 아닌 겁니다.

2️⃣과신하거나, 불신하거나

검토 없이 AI 결과를 그대로 제출하거나, 반대로 "AI는 믿을 수 없어"라며 결국 처음부터 수작업으로 다시 하는 경우도 있습니다. 어느 쪽이든 성과는 나지 않습니다. 이 양극단은 모두 같은 원인에서 비롯됩니다. AI의 실제 능력과 한계를 모르기 때문입니다. 어떤 작업에 적합한지, 언제 검증이 필요한지 판단할 기준이 없으면 AI는 불안한 도구로 남습니다.

3️⃣부서별 활용 수준 차이가 크다

어떤 팀은 AI로 업무 시간을 절반으로 줄입니다. 옆 팀은 여전히 예전 방식으로 일합니다. 시간이 지나면 성과 차이로 이어지고, 격차는 고착됩니다. MIT 슬론 경영대학원의 연구는 이를 '기술 채택 격차(Technology Adoption Gap)'라고 설명합니다. 조직 내 일부만 새 기술을 적극 활용하면, 단기적으로는 그 팀의 생산성이 올라가지만 중장기적으로는 조직 전체의 협업 효율이 떨어지고 문화적 갈등이 커질 수 있다는 것입니다. 결국 같은 회사 안에서도 'AI로 일하는 팀'과 'AI를 곁들이는 팀'이 나뉩니다.

그럼 어떻게 해야 할까: AI 활용 역량 평가

AI 활용 역량 평가는 조직 구성원이 AI를 이해하고, 판단하고, 업무에 적용하는 능력을 진단하는 프로세스입니다. "AI 써봤어요?" 같은 단순 질문이 아니라, 네 가지 영역을 직무별·부서별로 측정합니다.

아래 네 가지 영역은 여러 AI 리터러시·역량 논의를 참고해 기업 실무 관점에서 정리한 기준입니다.

AI 활용 역량 평가 기준

영역	측정 내용
AI 이해도	작동 원리, 한계, 윤리적 이슈 이해 수준
활용 경험	실제 업무에서 어떤 방식으로 얼마나 쓰는지
업무 적용 능력	자기 직무 프로세스에 AI를 연결하는 역량
학습 준비도	새로운 활용법을 배우고 적응하려는 의지

결과는 조직 전체의 AI 성숙도 지도로 시각화됩니다. 어느 부서가 준비됐고, 어떤 직군에 집중 교육이 필요한지 데이터로 확인할 수 있습니다.

역량 평가가 꼭 필요한 2가지 이유

1️⃣교육비 낭비하지 않으려면

수준을 모르면 전 직원에게 같은 교육을 줄 수밖에 없습니다. 이미 잘 쓰는 직원에게 기초 교육을, 프롬프트 개념도 없는 직원에게 고급 활용법을 가르치는 일이 생깁니다.

딜로이트 등 컨설팅 리포트들을 보면, 사전 역량 진단을 통해 맞춤형 교육을 설계한 기업들이 더 높은 효과를 보고 있습니다. 같은 예산으로도 체감 성과와 만족도가 크게 달라졌다는 점이 강조됩니다. "AI 교육했는데 왜 안 바뀌지?"라는 고민은 대부분 여기서 옵니다. 수준에 안 맞는 교육은 시간과 예산 낭비입니다.

2️⃣어디서부터 시작해야 성공할지 알려면

역량이 갖춰진 부서에서 먼저 성공 사례를 만들고, 그 경험을 조직 전체로 확산하는 것이 검증된 AI 전환 경로입니다. 맥킨지는 이런 방식을 '등대(Lighthouse) 사례' 중심 접근이라고 설명합니다.

"어디서부터 시작할까"는 감이 아니라 데이터로 결정해야 합니다. 준비 안 된 부서에서 시작했다가 실패하면, 그 실패가 "우리 회사엔 AI가 안 맞나봐"라는 조직 전체의 냉소로 굳어집니다.

측정하지 않으면 바꿀 수 없다

AI 도입을 앞두고 가장 먼저 던져야 할 질문은 "어떤 도구를 쓸까?"가 아닙니다.

"우리 조직은 AI를 얼마나 제대로 쓰고 있는가?"입니다.

피터 드러커는 "측정할 수 없으면 관리할 수 없다"고 말했습니다. 직원들의 AI 활용 수준을 측정하지 않으면 교육 효과도, 도입 성과도, 개선 방향도 알 수 없습니다.

도구는 이미 도입했습니다. 직원들도 씁니다. 이제 필요한 건 "AI를 제대로 쓰게 만드는 것"입니다. 그 출발점이 바로 AI 활용 역량 평가입니다.

Q. AI 활용 역량 평가는 언제 해야 하나요?

AI 도구 도입 후에도 충분히 할 수 있습니다. 이미 도구를 쓰고 있다면, 지금 직원들이 얼마나 제대로 활용하고 있는지 진단하는 게 먼저입니다. 현재 수준을 파악해야 맞춤형 교육 설계와 개선 전략 수립이 가능하고, 이후 3~6개월 주기로 재평가해 성과를 측정하고 교육을 개선하는 것이 좋습니다.

Q. AI 활용 역량 평가는 IT 역량 평가와 어떻게 다른가요?

IT 역량 평가가 시스템 운영·관리 능력을 측정한다면, AI 활용 역량 평가는 실무 문제를 AI로 해결하는 능력을 봅니다. 프롬프트 설계, 결과 검증, 윤리적 판단까지 포함하는 실전형 평가예요. 단순 지식이 아니라 적용력을 측정하는 게 핵심 차이점입니다.

Q. 중소기업도 역량 평가가 필요한가요?

오히려 더 중요합니다. 대기업은 시행착오를 감당할 여력이 있지만, 중소기업은 AI 활용 실패 시 리스크가 더 큽니다. 제한된 예산과 인력으로 최대 효과를 내려면 정확한 진단이 필수입니다. 누가 잘하고 누가 못하는지, 어디에 집중 지원이 필요한지 알아야 합니다.

AI 제대로 쓰는 조직의 비밀: 역량 측정