ChatGPT를 잘 쓰는 것으로는 경쟁 우위가 생기지 않습니다

맥킨지 2024년 글로벌 서베이에서 응답 기업의 65%가 생성형 AI를 정기적으로 쓴다고 답했습니다. 경쟁자도 같은 AI를 쓰고 있다는 뜻입니다.
프롬프트 기술은 직원 교육, 유튜브, 경쟁사를 통해 빠르게 확산됩니다. 같은 도구를 같은 방식으로 쓰면 같은 결과가 납니다.
격차는 외부 AI 서비스에 자사 데이터를 연결하고 업무 흐름을 통합한 도구를 직접 구축하는 단계에서 생깁니다. 이 연결이 경쟁자가 복제하기 어려운 운영 자산이 됩니다.

경쟁자도 같은 AI를 쓰고 있습니다

맥킨지가 2024년 초에 발표한 AI 현황 글로벌 서베이에서 응답 기업의 65%가 생성형 AI를 업무에 정기적으로 쓴다고 답했습니다. 1년 전인 2023년 초 조사 대비 두 배 가까이 늘어난 수치입니다. 이 숫자가 뜻하는 것은 하나입니다. 같은 AI 도구를 경쟁자도 쓰고 있다는 것입니다.

제조업 중견기업 대표가 ChatGPT를 팀에 도입하며 한 말이 있습니다. 우리 팀만 이 도구를 쓰면 앞서갈 수 있다고 했습니다. 여섯 달 뒤 같은 산업의 주요 경쟁사 다섯 곳이 동일한 AI 서비스 계정을 운영 중이라는 것을 알았습니다. 같은 도구를 같은 방식으로 쓰면 같은 결과가 납니다.

프롬프트를 더 잘 쓰는 것이 한동안은 차이를 만들 수 있습니다. 그런데 프롬프트 기술은 빠르게 확산됩니다. 직원 교육도, 유튜브 콘텐츠도, 경쟁사 임원도 같은 방식으로 배웁니다. AI 도구를 쓰지 않는 회사보다는 앞서 있지만, AI 도구를 쓰는 경쟁자와는 같은 위치에 있습니다. 도구를 도입한 것이 실력이 아니라, 그 도구로 무엇을 만들었느냐가 실력입니다.

격차가 생기는 지점은 구축 단계부터입니다

스탠퍼드 HAI의 2024 AI 인덱스 리포트는 AI 도입에서 가장 큰 성과를 낸 기업들이 공통적으로 AI를 기존 업무 프로세스와 통합한 경우였다는 점을 지적했습니다. 단순 사용이 아닌 통합입니다. 사용은 구독료로 살 수 있지만 통합은 조직이 직접 설계하고 만들어야 합니다.

격차가 생기는 지점은 자사 데이터와 업무 흐름을 AI에 연결하는 단계입니다. 외부 AI 서비스에 자사 거래 이력, 고객 패턴, 운영 데이터를 연결하면 같은 AI가 일반적인 답이 아니라 자사에 특화된 분석을 냅니다. 이 연결 자체가 경쟁자가 복제하기 어려운 자산이 됩니다.

구체적인 형태는 다양합니다. 견적 이력과 수주 패턴을 연결한 AI 견적 보조 도구, 반품 데이터와 고객 문의를 연결한 AI 응대 흐름, 발주 이력과 재고 데이터를 연결한 AI 구매 판단 지원 화면이 그 예입니다. 이것들은 ChatGPT를 잘 쓰는 것과 다른 종류의 작업입니다. 자사 데이터가 연결된 도구라는 점이 핵심입니다.

프롬프트 사용과 도구 구축이 만드는 시간차

프롬프트를 쓰는 단계와 도구를 만드는 단계 사이에는 시간차가 있습니다. 지금 프롬프트 단계에 있는 회사가 내년에 구축 단계로 이동할 수 있습니다. 그런데 구축 단계에 먼저 진입한 회사는 그동안 자사 데이터로 훈련된 패턴, 업무 흐름에 최적화된 도구, 직원들의 운영 숙련도를 쌓아가고 있습니다. 이 격차는 나중에 따라잡기 어렵습니다.

구축이 반드시 IT 개발팀을 필요로 하는 것은 아닙니다. 바이브코딩이라고 부르는 방식으로 비개발자가 AI의 도움을 받아 도구를 만드는 사례가 늘고 있습니다. 현장 지식을 가진 사람이 직접 만든 도구가 개발팀이 요구사항을 받아 만든 도구보다 실제 업무에 맞는 경우가 많습니다.

Ahn Partners 판단: 컨설팅 현장에서 관찰한 바에 따르면, AI 도구 도입 첫 6개월은 대부분의 회사에서 비슷한 생산성 향상이 나타납니다. 차이가 생기는 것은 그 이후입니다. 자사 업무 흐름에 맞는 도구를 직접 구축하거나 기존 시스템에 AI를 연결한 회사가 격차를 만들기 시작합니다. 이는 Ahn Partners 내부 관찰이며 통제 실험 결과가 아닙니다.

한 문장으로 정리하면

경쟁자도 같은 AI를 쓰고 있습니다. 차별화는 AI를 쓰는 것이 아니라 자사 데이터와 업무 흐름에 AI를 연결한 도구를 직접 구축하는 데서 옵니다. 이번 주에 점검할 것은 이것입니다. 회사 안에서 AI를 쓰는 것과 AI를 연결해서 만든 것이 각각 몇 개인가.

점검 목록

팀에서 AI 도구를 쓰는 직원 수와, AI를 활용해 업무 도구를 직접 만든 사례 수를 각각 파악하고 있는가
자사 고객 데이터, 거래 이력, 운영 데이터 중 외부 AI 서비스에 연결해 활용하는 것이 있는가
경쟁자 중 AI 기반 자체 도구를 구축 중인 곳이 있는지 파악하고 있는가