- 맥킨지 글로벌 인스티튜트의 2023년 분석에 따르면, 생성형 AI의 경제적 가치 대부분은 기존 업무 프로세스를 바꾸는 방향으로 통합될 때 실현됩니다. 도구를 도입하는 것과 프로세스를 바꾸는 것은 별개의 단계입니다.
- 도구 목록이 늘어도 업무 방식이 그대로인 이유는 어떤 판단을 AI에 맡기고 어떤 판단은 사람이 책임지는지를 정하지 않았기 때문입니다. 경계가 없으면 도구는 실험에 머뭅니다.
- AI 도구를 고르기 전에 '이 도구가 바꾸는 판단이 무엇인가'를 한 문장으로 쓸 수 있는지 확인하는 것이 경계 설계의 시작입니다.
도구를 도입했는데 업무 방식이 그대로인 이유
맥킨지 글로벌 인스티튜트가 2023년 발표한 생성형 AI 경제적 잠재력 보고서는, AI가 만드는 가치의 대부분이 기술 자체가 아니라 기존 업무 흐름을 재설계하는 데서 온다고 분석했습니다. 그러나 실제 기업 현장에서 AI 도입의 첫 번째 회의는 도구 선택으로 시작하는 경우가 많습니다. 어떤 도구가 있는지, 경쟁사는 무엇을 쓰는지, 비용이 얼마인지가 논의의 중심이 됩니다.
그 회의에서 빠지는 질문이 있습니다. 이 도구가 어떤 판단 과정을 바꾸는가. 어느 단계에서 사람의 검토가 필요한가. 결과물이 틀렸을 때 누가 책임지는가. 도구를 고르는 논의에서 이 세 가지가 없으면, 도구는 들어오지만 업무 방식은 그대로입니다.
이것이 도구 목록이 전략이 되지 못하는 구조입니다. 도구는 어떤 업무를 어떻게 바꿀지를 정한 다음에 고르는 것입니다. 순서가 바뀌면 도구가 업무를 따르는 것이 아니라 업무가 도구를 따르게 됩니다.
경계가 없을 때 나타나는 세 가지 비용
AI 경계를 정하지 않고 도구를 도입하면 세 가지 비용이 발생합니다. 첫째, 책임 소재가 불명확해집니다. AI가 만든 결과물을 사람이 다시 검토하는 구조가 없으면, 오류가 나왔을 때 누가 잡아야 하는지가 불분명합니다. 오류가 반복될수록 도구에 대한 신뢰가 떨어지고, 도구는 다시 쓰지 않는 것이 됩니다.
둘째, 통합 비용이 절약된 시간을 넘습니다. 팀마다 다른 도구를 쓰고 각자의 방식으로 출력을 처리하면, 결과물을 하나의 기준으로 맞추는 데 드는 시간이 도구가 절약한 시간보다 길어집니다. 이런 구조에서는 도구가 없을 때가 더 빨랐다는 결론이 나옵니다.
셋째, 기준이 사람마다 달라집니다. AI가 만든 초안을 어느 수준에서 수정하는지, 어느 수준에서 그대로 쓰는지의 기준이 없으면 산출물 품질이 사람에 따라 달라집니다. 이것은 도구의 문제가 아니라 기준의 문제입니다. Davenport와 Mittal이 2023년 분석한 결과에 따르면, AI를 성과로 연결한 기업들은 도구를 고르기 전에 AI가 개입할 업무 단계와 그렇지 않을 단계를 구분하는 작업을 먼저 했습니다.
경계를 먼저 설계하는 실용적인 방법
경계 설계는 도구 목록보다 짧고, 만들기는 더 어렵습니다. 경계를 정하려면 현재 업무에서 사람이 하는 판단의 가치를 먼저 분석해야 하기 때문입니다. 세 가지 질문으로 시작할 수 있습니다. 이 도구가 바꾸는 판단이 무엇인가. AI 결과물을 사람이 검토하는 단계가 어디인가. 결과물이 틀렸을 때 수정 비용이 도구를 안 쓸 때보다 크지 않은가.
이 세 질문에 한 문장씩 답하기 어렵다면, 도구를 도입하기 전에 경계가 설계되지 않은 것입니다. 반대로 이 세 가지를 한 문장씩 쓸 수 있다면, 그것이 경계 문서의 시작입니다. 도구 목록보다 이 문서가 먼저 있어야 합니다.
Ahn Partners 판단: 팀에 AI 도구가 들어왔는데 3개월 뒤에도 업무 방식이 크게 달라지지 않았다면, 도구가 문제가 아닐 가능성이 높습니다. 어느 판단을 AI에 맡기고 어느 판단에서 사람이 책임지는지를 정하지 않은 것이 이유인 경우가 많습니다. 이것을 정하는 회의는 도구를 고르는 회의보다 먼저 열려야 합니다.
한 문장으로 정리하면
AI 도구를 고르는 것보다 어느 판단에서 AI를 쓰고 어느 판단에서 멈추는지를 정하는 것이 먼저입니다. 지금 팀에 AI 도구가 들어와 있는데 업무 방식이 그대로라면, 도구 목록이 아닌 경계 문서가 있는지를 먼저 확인하십시오.
점검 목록
- 팀에서 쓰는 AI 도구 각각에 대해 '이 도구가 바꾸는 판단이 무엇인가'를 한 문장으로 쓸 수 있는가
- AI가 만든 결과물을 사람이 검토하는 단계가 명시되어 있는가, 아니면 담당자 재량으로 결정하고 있는가
- 도구 도입 3개월 후 업무 방식이 실제로 달라진 부분이 있는지 팀에 확인했는가
출처
- McKinsey Global Institute (2023). The Economic Potential of Generative AI: The Next Productivity Frontier. McKinsey & Company. 생성형 AI 가치의 대부분이 업무 프로세스 재설계에서 실현된다는 분석 포함.
- Iansiti, M. & Lakhani, K.R. (2020). Competing in the Age of AI. Harvard Business Review, January-February 2020. AI를 전략으로 연결한 기업들의 공통 패턴 분석.
AI 도입 진행 상황을 경영진에게 보고할 때 어떤 지표를 써야 하는지 도입한 AI 도구 수를 이사회에 보고하는 것이 AI 전략을 후퇴시키는 이유에서 이어집니다.