원고 제공 | 김유정 이노핏파트너스 연구교수
편집 | 이노핏파트너스 사업기획팀

지난 105호에서는 AI 에이전트 도입에 앞서 기업이 먼저 답해야 할 질문, 즉 “우리 조직은 무엇을 바꾸고 싶은가”를 정하는 경영자의 결단에서 출발해야 한다는 점을 짚었습니다. 그리고 그 답이 향할 수 있는 세 방향으로 사람, 업무·내부 시스템, 제품·서비스를 제시하며 글을 마쳤습니다.

이번 106호에서는 그중 사람, 그리고 업무·내부 시스템 두 방향을 먼저 들여다봅니다. 리더와 직원의 AI 역량을 어떻게 끌어올리는지, 내부 업무는 무엇부터 자동화해야 하는지를 실제 사례로 살펴보겠습니다. 나머지 한 방향인 제품·서비스는 다음 107호에서 이어서 다룹니다.

1. 사람: 리더와 직원의 AI 역량

리더, 챔피언, 전사 직원까지 수준을 나눠 교육하세요

사람을 바꾸기로 했다면, 가장 먼저 떠오르는 길은 AI 교육입니다. 조직의 어떤 대상을 타겟하느냐에 따라 교육 전략은 다음과 같이 셋으로 나뉠 수 있습니다. 방향을 세우는 리더, 현장을 이끄는 소수의 챔피언, 그리고 실행을 도맡는 전사 직원입니다.

1) 리더: 위임할 수 없는 수준의 이해

AI 전환에서 가장 먼저 움직여야 할 사람은 다름 아닌 리더입니다. 맥킨지가 여러 기업의 AI 전환 사례를 분석한 결과, 사업 리더가 직접 운전대를 잡지 않고 성공한 경우는 단 하나도 없었습니다.

그렇다면 어떤 리더가 나서야 할까요? 전사를 총괄하는 경영 리더부터 부문과 팀을 직접 이끄는 실무 리더까지 층위는 다양하지만, 맥킨지가 성공 사례에서 공통으로 발견한 주역은 CEO에서 두세 단계 아래, 곧 N-2와 N-3의 사업부 리더였습니다. AI 전환을 자기 조직 없는 거버넌스 부서에 맡기면 TF만 꾸려지다 흐지부지되는 반면, 자기 도메인과 인력을 지닌 사업부 리더가 리딩할 때는 성과로 이어졌기 때문입니다.

조직도 예시

그렇다면 리더는 어느 깊이까지 가야 할까요? 여기서 요구되는 깊이는 코딩 실력이 아닙니다. 맥킨지의 표현으로는 위임할 수 없는 수준의 이해, 즉 빈 종이를 앞에 두고, 자기 사업부에 AI를 어떻게 엮어 넣을지 그 로드맵을 아무 도움 없이 직접 그려낼 수 있는 유창함을 강조합니다. 엔지니어가 “그건 안 됩니다”라고 답할 때, 리더는 그 말이 정말 기술적 한계 때문인지, 아니면 그저 아직 아무도 시도하지 않은 일이라서인지 가려낼 수 있어야 합니다. 그동안 리더에게 요구된 것이 도메인 언어 하나였다면, 이제는 기술 언어가 합격선으로 더해졌습니다.

이러한 깊이는 강의를 한두 번 듣는다고 생기지 않습니다. 그래서 글로벌 회사들은 이미 리더 교육을 일회성 특강이 아니라 구조와 일정으로 다루고 있는 추세입니다.

2) 챔피언: 직접 만들 줄 아는 소수

챔피언은 이미 AI를 잘 쓰는 소수 정예 직원입니다. 모든 직원을 같은 속도로 끌어올리기는 어렵기 때문에, 실력과 의지를 함께 갖춘 사람을 발탁해 키우는 편이 빠를 수 있습니다. 소수 정예가 저숙련 대군을 이긴다는 맥킨지의 인재 원칙과 같은 발상입니다.

이렇게 뽑힌 챔피언은 동료를 코칭하고 현장의 막힘을 본부로 되먹이는 번역가의 역할을 하게 됩니다. 개인이 혼자 익힌 프롬프트와 AI 프로세스를 팀 전체가 다시 쓰는 템플릿으로 바꾸는 일을 맡게 되는 것입니다. 이들에게는 바이브 코딩으로 반복 업무를 스스로 자동화하는 수준까지 끌어올리는 고급 과정이 필요합니다.

3) 전사 직원: 가르치기보다, 쓰게 만들기

앞서 리더 교육이 방향을 정하는 데 반드시 필요한 조건이라면, 전사 직원 교육은 그 방향이 실제로 만들어내는 효과의 규모를 결정합니다. 앞서 봤듯 개인들은 이미 AI로 넘어가 저마다 생산성을 끌어올리고 있는 상태입니다. 개인이 이미 쌓아둔 노하우를 조직 차원의 자산으로 표준화하는 작업만 더해도 전환 비용을 크게 낮출 수 있습니다.

첫 단추는 누구에게 어느 깊이로 가르칠지를 나누는 것부터 시작됩니다. 같은 직원이라도 이미 AI를 손에 익힌 사람과 이제 막 켜보는 사람은 출발선이 다르고, 마케터와 회계 담당자의 사용법이 다를 수 있습니다. 그래서 앞서 간 기업들은 숙련도와 직무로 나눠 교육을 진행합니다.

대상을 나눴다면, 가장 빠른 출발점은 개인이 시행착오로 익힌 노하우를 조직의 자산으로 바꾸는 것입니다. 검증하고 승인한 프롬프트를 직무별로 모아 사내 라이브러리로 만들면, 새로 합류한 직원도 첫날부터 같은 출발선에 설 수 있습니다. 국내에서는 LG가 자체 AI 에이전트 챗엑사원을 사무직에 보급하면서 14개 직무와 133개 업무별로 맞춤 지시문을 추천했고, 사무직 약 5만 명 중 65% 이상이 실제로 사용 중이라고 밝혔습니다.

상시 교육 외에도 해커톤이나 경진대회를 열어 자발성과 전사 모멘텀을 끌어올릴 수 있습니다. 글로벌 금융 소프트웨어 기업 심코프는 2026년 초 전사 AI 해커톤을 열어 직원들이 에이전트 기반 솔루션을 직접 만들게 했습니다. 한 번 듣고 끝나는 강의와 달리, 이런 이벤트는 직원들이 반복해서 직접 써보게 만든다는 점에서 결이 다릅니다.

사람을 키우는 일은 비용이 아니라 성과의 토대입니다. BCG는 AI 전환의 성패가 알고리즘 10%, 기술과 데이터 20%, 그리고 사람과 프로세스 70%로 결정된다고 말합니다. 이노핏파트너스는 리더를 위한 교육과 전 직원을 위한 교육, 그리고 현장을 이끌 챔피언 양성을 각각의 목적에 맞게 설계해 이 과정을 함께합니다.

AI 전환의 성패 70%가 사람과 프로세스로 결정됨 (BCG, 2024)

2. 내부 시스템: 조직 내부 효율화를 위한 도구

광범위한 전체가 아닌, 좁지만 가치가 분명한 하나를 선택하세요

내부를 바꾸기로 했다면, 가장 먼저 떠오르는 그림은 대개 큰 것입니다. 전사를 아우르는 시스템을 새로 깔고, AI를 회사 곳곳에 한꺼번에 펼치는 모습입니다. 그러나 MIT 조사 보고서가 밝히듯 AI 도입을 통해 성과를 낸 소수의 5% 조직은 정반대로 움직였습니다. MIT 프로젝트 NANDA는 조직 52곳을 들여다본 끝에 그들의 공통점을 세 가지로 압축합니다. 자체 구축보다 검증된 외부 도구를 더 많이 샀고, 중앙의 AI 조직이 아니라 현업 담당자가 과제를 직접 골랐으며, 좁지만 가치가 분명한 업무에서 시작해 핵심으로 넓혀갔다는 것입니다.

전략적 파트너십(구매)은 내부 구축보다 성공 확률이 두 배 높음 (MIT NANDA, 2025)

성공한 기업들은 좁지만 가치가 분명한 하나의 업무에 먼저 집중했고 그 업무가 요구하는 범위 내에서만 AI를 활용했습니다. 이 원칙을 실행에 옮기면, 방향은 크게 두 가지로 나눠볼 수 있습니다. 반복되는 업무의 흐름을 자동으로 묶거나, 조직 차원에서 함께 쓸 서비스를 만드는 것입니다.

1) 워크플로우 자동화

워크플로우 자동화는 반복되는 일의 절차를 기계가 대신 수행하도록 하고, 사람이 개입하지 않아도 완료되도록 만드는 것입니다.

가장 가벼운 형태는 이제 직원이 자기 컴퓨터에서 직접 만들 수 있습니다. 클로드코드 같은 코딩 에이전트와 하네스 엔지니어링이 비개발 영역까지 번지면서, 개발팀을 거치지 않고도 자기 반복 업무를 자동화할 수 있게 됐기 때문입니다. 무거운 시스템을 새로 발주하지 않고, 직원이 이미 쓰는 도구 위에서 적은 비용으로 자기 업무를 자동화할 수 있습니다.

하지만 전사 차원의 업무를 자동화하려면 기술, 정책 등의 영역도 함께 고민되어야 합니다. 전사 차원의 업무는 대개 회사의 핵심 시스템 안에서 벌어지기 때문입니다. 주문은 ERP에, 고객 정보는 CRM에, 인사 기록은 인사 시스템에 들어 있습니다. 에이전트가 이런 시스템을 실제로 읽고 고치게 하려면, 각 시스템을 에이전트에 이어 주는 연결 통로를 따로 만들고 권한을 관리할 수 있어야 합니다. 그래서 이 단계부터는 현업에서 자율적인 시스템을 구축하고 유지하기는 어렵고 개발 리소스나 외주 구축이 필수가 됩니다.

2) 사내 AI 시스템 구축

사내 AI 시스템의 성격과 무게는 다음 세 가지 축으로 결정됩니다.

조직의 상황에 맞게 세 가지 축을 조절하여 결정할 수 있습니다. 다만 이 세 축을 어떻게 조합하든, 시스템이 사내 데이터나 업무 시스템과 실제로 연결되는 순간부터는 별도의 리스크 관리가 필요합니다. 국제 보안 표준기구 OWASP도 에이전트에게 업무에 필요한 최소한의 권한만 주고, 되돌릴 수 없는 행동에는 사람의 명시적 승인을 받게 하며, 모든 결정을 기록으로 남기고, 실행 환경을 격리하는 것을 추천합니다.

이노핏파트너스는 각 조직에 맞는 형태가 어디인지부터 함께 검토합니다. 현업이 자기 업무 흐름을 스스로 자동화하도록 끌어올리는 집중 교육, 직접 짜기 어려운 흐름을 대신 맡는 업무 자동화 구축, 규모가 커지면 통째로 맡는 자동화 외주, 판별과 사내 지식 검색, 자체 모델까지 아우르는 AI 내부 시스템 구축까지, 각 형태가 요구하는 깊이와 통제만큼 설계해 함께합니다.

지금까지 AI 에이전트 시대에 조직이 바꿀 수 있는 세 방향 중 사람, 그리고 업무·내부 시스템 두 가지를 살펴봤습니다. 다음 107호에서는 마지막 방향인 제품·서비스, 곧 AI로 고객에게 내놓는 제품 경쟁력을 어떻게 차별화할 수 있는지를 이어서 다루겠습니다.