- 가트너는 2021년 보고서에서 2024년까지 기술 제품과 서비스의 80%가 비기술 전문가에 의해 만들어질 것으로 전망했습니다. AI 도구의 확산이 이 전환을 앞당기고 있습니다.
- 현장 직원이 만든 도구는 IT팀이 모르는 곳에서 고객 데이터를 처리합니다. IBM 시큐리티 2023년 보고서에 따르면 관리되지 않는 IT 자산으로 인한 데이터 유출 비용이 전체 유형 중 가장 높은 수준입니다.
- 막는 것이 아니라 관리하는 체계가 필요합니다. 등록 제도, 데이터 사용 기준, IT팀의 역할 전환, 세 가지를 함께 설계하면 현장의 속도와 조직의 거버넌스를 동시에 얻을 수 있습니다.
직원이 개발팀 없이 도구를 만들고 있습니다
가트너는 2021년 보고서에서 2024년까지 기술 제품과 서비스의 80%가 비기술 전문가, 즉 시민 개발자에 의해 만들어질 것으로 전망했습니다. AI 도구의 확산이 이 전환을 실제로 앞당기고 있습니다. 코딩을 배우지 않아도 됩니다. AI에게 요구사항을 말하고 결과를 확인하며 수정하면 됩니다.
영업팀 직원 한 명이 반년 전에 AI로 견적 계산기를 만들었습니다. 직접 코드를 쓴 것이 아닙니다. AI에게 원하는 기능을 설명하고 AI가 만들어준 스크립트를 확인하며 수정했습니다. 이제 팀 전체가 그 도구를 씁니다. 속도가 빨라졌고 실수도 줄었습니다. IT팀은 이 도구가 존재한다는 것을 모릅니다. 도구는 회사 고객 데이터와 연결되어 있습니다.
AI 이전에도 직원들은 엑셀 매크로, 자체 스프레드시트, 외부 무료 도구로 비슷한 것을 만들었습니다. AI가 바꾼 것은 진입 장벽입니다. 이전에는 어느 정도의 기술 지식이 필요했습니다. 지금은 현장 지식과 시간만 있으면 됩니다. 현장을 아는 사람이 만들기 때문에 IT팀이 만든 범용 도구보다 실제 업무에 더 잘 맞는 경우가 많습니다.
세 가지 일이 조용히 일어납니다
첫 번째는 IT가 모르는 곳에서 데이터가 흐르기 시작합니다. 직원이 만든 도구가 고객 정보, 계약 데이터, 내부 원가를 처리할 때 그 데이터가 어떤 외부 AI 서비스를 거치는지 파악하는 사람이 없습니다. IBM 시큐리티가 2023년 발표한 데이터 유출 비용 보고서에 따르면, 관리되지 않는 IT 자산으로 인한 데이터 유출의 평균 비용이 전체 유형 중 가장 높은 수준이었습니다. 데이터가 어디 있는지를 모르면 지킬 수도 없습니다.
두 번째는 유지보수 공백이 생깁니다. 그 직원이 퇴사하거나 다른 업무로 이동하면 도구는 남아 있지만 관리할 사람이 없습니다. AI 서비스의 정책이나 API가 바뀌면 도구가 갑자기 작동하지 않습니다. IT팀이 파악하지 못한 도구이기 때문에 수리도 어렵습니다.
세 번째는 규제 준수 공백이 생깁니다. 개인정보보호법, 산업별 보안 요구사항, 데이터 처리 계약이 적용되는지 확인할 주체가 없습니다. 도구가 작을수록 이 점검이 생략되기 쉽습니다. 문제가 생겼을 때 도구 자체가 문제인지 운영 방식이 문제인지도 파악하기 어렵습니다.
막는 것이 아니라 관리하는 체계가 필요합니다
현장 직원의 AI 도구 제작을 금지하면 두 가지가 생깁니다. 더 음성적인 방식으로 계속됩니다. 그리고 현장 효율화의 기회를 잃습니다. 경쟁사는 금지하지 않을 것이기 때문입니다. 막는 것이 아니라 관리하는 체계가 필요합니다.
관리 체계는 세 가지로 구성할 수 있습니다. 첫째는 등록 제도입니다. 팀에서 운영 중인 AI 도구를 IT팀이 파악할 수 있도록 간단한 등록 절차를 만듭니다. 복잡한 승인이 아니라 이런 도구가 있다는 가시성을 확보하는 것입니다. 둘째는 데이터 사용 기준입니다. 어떤 종류의 데이터를 외부 AI 서비스에 보낼 수 있는지에 대한 명확한 기준을 설정합니다. 고객 개인정보, 계약 정보, 원가 데이터에 대한 최소한의 기준이 필요합니다. 셋째는 IT팀의 역할 전환입니다. 개발을 전부 담당하는 것이 아니라 현장 직원이 만든 도구를 검토하고 개선을 지원하는 역할로 바뀝니다.
Ahn Partners 판단: 이 관리 체계가 있으면 두 가지를 동시에 얻을 수 있습니다. 현장의 속도와 IT의 거버넌스입니다. 속도만 있으면 리스크가 누적되고 거버넌스만 있으면 속도를 잃습니다. 이는 Ahn Partners 현장 관찰이며 통제 실험 결과가 아닙니다.
한 문장으로 정리하면
현장 직원이 AI로 도구를 만드는 것은 이미 시작됐습니다. 이것을 아는 경영자와 모르는 경영자가 있습니다. 이번 주에 점검할 것은 이것입니다. 팀에서 IT팀 승인 없이 운영 중인 AI 도구가 몇 개인지, 그 도구들이 어떤 데이터를 처리하고 있는지를 파악하고 있는가.
점검 목록
- 팀에서 IT팀 승인 없이 운영 중인 AI 도구가 몇 개인지 파악하고 있는가
- 직원이 만든 AI 도구가 고객 정보나 계약 데이터를 처리할 때 어떤 외부 서비스를 거치는지 알고 있는가
- 현장 직원의 AI 도구 제작을 위한 최소한의 등록 절차와 데이터 사용 기준이 있는가
출처
- Gartner (2021). Gartner Forecasts 80% of Technology Products and Services Will Be Built by Non-Technology Professionals by 2024. Gartner Research. 비기술 전문가에 의한 기술 제품 개발 비율 전망.
- IBM Security (2023). Cost of a Data Breach Report 2023. IBM Corporation. 관리되지 않는 IT 자산(shadow IT)으로 인한 데이터 유출 비용이 전체 유형 중 최고 수준임을 분석.
노코드로 만든 도구를 팀에서 실제로 운영하는 방법은 노코드로 만드는 것은 반나절이지만 굴리는 것은 그다음부터입니다에서 이어집니다.
AI로 만든 사내 도구의 보안을 어떻게 관리해야 하는지 AI가 쓴 코드의 보안 취약점은 누가 책임집니까에서 이어집니다.