AI 도입 프로젝트 열에 아홉은 성과 없이 끝납니다

기업 AI 프로젝트의 95%가 실패한다는 MIT 보고서, 하반기 들어 회의에서 한 번쯤 들으셨을 겁니다. 그런데 원문을 읽어보면 실패의 뜻이 다릅니다. 시스템이 멈췄다는 말이 아니라, 돈이 되는 효과를 못 냈다는 뜻입니다.

같은 보고서에 더 중요한 숫자가 있습니다. 조사 기업 열 중 아홉에서 직원들이 개인 AI로 일하고 있었습니다. 회사가 공식으로 벌인 프로젝트는 성과가 없는데, 직원들은 사비를 써 가며 씁니다. 막힌 곳은 기술이 아니라 조직입니다.

무슨 일이 벌어지고 있나

기관 세 곳의 조사 결과가 한 방향입니다.

• MIT NANDA, 2025년 7월: 손익에 반영될 성과를 낸 프로젝트는 5%뿐이었습니다. 조직 52곳 인터뷰, 리더 153명 설문의 예비 연구라 표본은 작습니다. 그래도 방향은 아래 조사들과 같습니다.
• S&P 글로벌, 2025년 3월: AI 프로젝트 대부분을 접은 기업이 1년 새 17%에서 42%로 늘었습니다. 개념검증 과제의 46%는 실제 업무에 올려보기도 전에 폐기됐습니다.
• 가트너, 2024년 7월: 생성 AI 프로젝트의 최소 30%가 개념검증 뒤에 버려질 것으로 내다봤습니다. 이후에는 한발 더 나아가, 데이터 기반이 안 갖춰진 프로젝트는 2026년까지 60%가 폐기될 것으로 봤습니다.

속도가 더 문제입니다. 기술이 좋아지는 속도보다 프로젝트가 접히는 속도가 빠릅니다. 기술이 문제였다면 이 숫자는 나오지 않았을 겁니다.

직원의 90%는 이미 쓰고 있습니다

회사 차원에서 LLM 구독을 산 곳은 40%에 그쳤다. 그러나 조사 기업의 90% 이상에서 직원들이 개인 AI 도구로 일하고 있었다.

수요 검증은 끝났습니다. 직원들이 회사 몰래, 사비까지 들여 쓰는 기술을 두고 아직 이르다고 말할 수는 없습니다.

직원들이 공식 도구를 외면한 이유도 보고서에 있습니다. 회사가 만든 AI는 잘 깨지고 쓸데없이 복잡하다는 응답이 많았습니다. 실제 일하는 방식과 맞지 않는다는 지적도 있었습니다. 다만 개인 챗봇에도 한계가 있습니다. 기억과 학습이 없어 고위험 업무에는 못 씁니다. 공식 시스템이 설 자리는 여기입니다.

어디에 수요가 있는지 직원들이 매일 보여주고 있는데, 회사의 공식 프로젝트만 다른 곳을 보고 있었습니다. 현장이 어떻게 일하는지 모른 채 사양부터 정해 발주한 탓입니다.

살아남은 5%는 통념과 반대로 했습니다

살아남은 5%는 외부 전문 도구를 사서 붙인 쪽이었습니다. 성공률 약 67%로, 내부에서 직접 만든 쪽(약 33%)의 두 배였습니다. 현장 관리자가 직접 이끌었습니다. 화려한 영업 데모 대신 백오피스 업무부터 적용했고, 도구를 업무 흐름 안에 넣어 학습이 쌓이도록 했습니다.

맥킨지의 2025년 조사도 같은 구도입니다. 거의 모든 기업이 AI를 쓴다고 답했지만, 전사 손익에 영향이 있다고 답한 곳은 39%였습니다.

한국은 격차가 더 큽니다. PwC의 5개국 비교에서 생성 AI 효과가 기대를 넘었다는 응답이 미국은 절반 가까이, 한국은 10% 언저리였습니다. 도입 속도는 뒤지지 않는데 성과 체감은 최하위권입니다. 프로젝트를 많이 벌이고 조용히 묻는다는 뜻입니다.

반례도 보고드립니다. 딜로이트 조사에서는 가장 앞서 있는 과제의 74%가 기대한 투자수익을 냈습니다. 골라서 끝까지 실행한 과제는 성과를 냅니다. 기술보다 선별과 실행이 문제라는 뜻입니다.

제 경우도 다르지 않았습니다

저도 만들 수 있어서 만든 도구가 있었습니다. 시연 반응은 좋았습니다. 몇 주 뒤에 저부터 열지 않았습니다.

지금까지 살아남은 도구는 배차를 바꿀지, 정산 오류를 어디서 잡을지 같은 구체적인 결정을 도와주는 것들뿐입니다. 만든 사람이 열지 않는 도구를 조직이 열 이유가 없습니다.

대책은 착수 품의서의 한 줄입니다

끝을 정하지 않고 시작한 프로젝트는 조용한 폐기로 갑니다. 실패가 아니라서 복기가 없고, 복기가 없어서 배우는 게 없고, 배우는 게 없어서 같은 실수가 반복됩니다.

착수 품의서에 한 줄만 넣으면 됩니다. 8주 안에 견적서 초안 작성 시간이 절반으로 줄지 않으면 접는다. 12주 안에 현장 담당자 절반이 주 3회 이상 쓰지 않으면 접는다. 날짜와 숫자와 담당자가 들어간 한 줄입니다.

이 한 줄이 있으면 프로젝트가 끝날 때 성공인지 실패인지 결론이 나옵니다. 그 결론이 쌓여야 조직에 경험이 남습니다. 탐색이 목적인 연구 과제는 예외로 두되, 예산과 인력이 붙는 프로젝트에는 필수입니다.

점검 질문 두 개

지난 2년 동안 시작한 AI 프로젝트 목록을 지금 바로 뽑을 수 있습니까. 그 가운데 성공이든 실패든 공식적으로 결론이 난 것은 몇 개입니까.

두 숫자의 차이가 귀사에서 조용히 묻힌 프로젝트의 규모입니다. 무엇을 기준으로 판정할지는 다음 글에서 다룹니다.