AI 에이전트 시대, 사람과 시스템은 이렇게 바뀝니다 (2편)

Contents

1. 사람: 리더와 직원의 AI 역량

   1) 리더: 위임할 수 없는 수준의 이해

   2) 챔피언: 직접 만들 줄 아는 소수

   3) 전사 직원: 가르치기보다, 쓰게 만들기

2. 내부 시스템: 조직 내부 효율화를 위한 도구

   1) 워크플로우 자동화

   2) 사내 AI 시스템 구축

지난 105호에서는 AI 에이전트 도입에 앞서 기업이 먼저 답해야 할 질문, 즉 "우리 조직은 무엇을 바꾸고 싶은가"를 정하는 경영자의 결단에서 출발해야 한다는 점을 짚었습니다. 그리고 그 답이 향할 수 있는 세 방향으로 사람, 업무·내부 시스템, 제품·서비스를 제시하며 글을 마쳤습니다.

이번 106호에서는 그중 사람, 그리고 업무·내부 시스템 두 방향을 먼저 들여다봅니다. 리더와 직원의 AI 역량을 어떻게 끌어올리는지, 내부 업무는 무엇부터 자동화해야 하는지를 실제 사례로 살펴보겠습니다. 나머지 한 방향인 제품·서비스는 다음 107호에서 이어서 다룹니다.

→ 이전 호 보기: AI 에이전트 시대, 우리 기업은 무엇부터 바꿔야 할까요?

1. 사람: 리더와 직원의 AI 역량

✅리더, 챔피언, 전사 직원까지 수준을 나눠 교육하세요

사람을 바꾸기로 했다면, 가장 먼저 떠오르는 길은 AI 교육입니다. 조직의 어떤 대상을 타겟하느냐에 따라 교육 전략은 다음과 같이 셋으로 나뉠 수 있습니다. 방향을 세우는 리더, 현장을 이끄는 소수의 챔피언, 그리고 실행을 도맡는 전사 직원입니다.

1) 리더: 위임할 수 없는 수준의 이해

AI 전환에서 가장 먼저 움직여야 할 사람은 다름 아닌 리더입니다. 맥킨지가 여러 기업의 AI 전환 사례를 분석한 결과, 사업 리더가 직접 운전대를 잡지 않고 성공한 경우는 단 하나도 없었습니다 (McKinsey, 2026).

그렇다면 어떤 리더가 나서야 할까요? 전사를 총괄하는 경영 리더부터 부문과 팀을 직접 이끄는 실무 리더까지 층위는 다양하지만, 맥킨지가 성공 사례에서 공통으로 발견한 주역은 CEO에서 두세 단계 아래, 곧 N-2와 N-3의 사업부 리더였습니다 (McKinsey, 2025). AI 전환을 자기 조직 없는 거버넌스 부서에 맡기면 TF만 꾸려지다 흐지부지되는 반면, 자기 도메인과 인력을 지닌 사업부 리더가 리딩할 때는 성과로 이어졌기 때문입니다.

그렇다면 리더는 어느 깊이까지 가야 할까요? 여기서 요구되는 깊이는 코딩 실력이 아닙니다. 맥킨지의 표현으로는 위임할 수 없는 수준의 이해, 즉 빈 종이를 앞에 두고, 자기 사업부에 AI를 어떻게 엮어 넣을지 그 로드맵을 아무 도움 없이 직접 그려낼 수 있는 유창함을 강조합니다. 엔지니어가 "그건 안 됩니다"라고 답할 때, 리더는 그 말이 정말 기술적 한계 때문인지, 아니면 그저 아직 아무도 시도하지 않은 일이라서인지 가려낼 수 있어야 합니다. 그동안 리더에게 요구된 것이 도메인 언어 하나였다면, 이제는 기술 언어가 합격선으로 더해졌습니다.

이러한 깊이는 강의를 한두 번 듣는다고 생기지 않습니다. 그래서 글로벌 회사들은 이미 리더 교육을 일회성 특강이 아니라 구조와 일정으로 다루고 있는 추세입니다.

• 일정화: 연간 일정에 직접 핸즈온 실습을 미리 계획하고, 시뮬레이션과 워크숍으로 AI가 어디서 막히는지를 안전하게 체험 (하버드 로스쿨 기업지배구조 포럼, 2026)

• 몰입 부트캠프: MIT 슬론이나 스탠퍼드가 여는 2주짜리 임원 부트캠프처럼, 며칠을 통째로 비워 집중하는 형태 (MIT Sloan, Stanford)

• 리버스 멘토링: 도구를 매일 다루는 주니어가 거꾸로 임원을 가르치는 방식. 브리티시항공·PwC·에스티로더처럼 주니어와 임원을 짝지어 운영 (SHRM, 2025)

→ 이노핏파트너스 AI-Powered 팀장 교육 프로그램 바로가기

2) 챔피언: 직접 만들 줄 아는 소수

챔피언은 이미 AI를 잘 쓰는 소수 정예 직원입니다. 모든 직원을 같은 속도로 끌어올리기는 어렵기 때문에, 이미 앞서나간 사람들을 발탁해 키우는 편이 빠를 수 있습니다. 소수 정예가 저숙련 대군을 이긴다는 맥킨지의 인재 원칙과 같은 발상입니다.

이렇게 뽑힌 챔피언은 동료를 코칭하고 현장의 막힘을 본부로 되먹이는 번역가의 역할을 하게 됩니다. 개인이 혼자 익힌 프롬프트와 AI 프로세스를 팀 전체가 다시 쓰는 템플릿으로 바꾸는 일을 맡게 되는 것입니다. 이들에게는 바이브 코딩으로 간단한 도구를 짜고 반복 업무를 스스로 자동화하는 수준까지 끌어올리는, 좁고 깊은 고급 과정이 필요합니다. 그리고 이 소수는 한 번 키우고 마는 것이 아니라 네트워크로 운영합니다.

• 고급 집중 교육: 바이브 코딩과 사내 자동화를 직접 구축하는 수준까지 향상

• 3단계 운영: GitHub처럼 공개 모집으로 모으고, 작은 성공을 나누고, 우수 챔피언을 현장 리드로 세우는 3단계 운영 (GitHub, 2025)

• 게임형 실습: 에너지 기업 센트리카는 하루짜리 게임형 워크숍 개최, 팀별로 실전 과제를 풀고 순위표로 경쟁 (QA, 2025)

→ 이노핏파트너스 AX 핵심인재 교육과정 바로가기

3) 전사 직원: 가르치기보다, 쓰게 만들기

건이라면, 전사 직원 교육은 그 방향이 실제로 만들어내는 효과의 규모를 결정합니다. 앞서 봤듯 개인들은 이미 AI로 넘어가 저마다 생산성을 끌어올리고 있는 상태입니다. 개인이 이미 쌓아둔 노하우를 조직 차원의 자산으로 표준화하는 작업만 더해도 전환 비용을 크게 낮출 수 있습니다.

첫 단추는 누구에게 어느 깊이로 가르칠지를 나누는 것부터 시작됩니다. 같은 직원이라도 이미 AI를 손에 익힌 사람과 이제 막 켜보는 사람은 출발선이 다르고, 마케터와 회계 담당자의 사용법이 다를 수 있습니다. 그래서 앞서 간 기업들은 숙련도와 직무로 나눠 교육을 진행합니다.

• 싱가포르 DBS은행: 데이터를 거의 다루지 않던 직원부터 전문가까지 수준을 나눈 커리큘럼을 전 직원에게 열어 2024년에만 5천 명 넘는 직원에게 맞춤 교육 실행 (DBS, 2024)

• 호주 커먼웰스은행: 약 4만 3천 명에게 짧은 영상 교육을 역할별 난이도를 달리해 제공 (Commonwealth Bank, 2024)

• JP모건: 신규 입사자 전원에게 프롬프트 교육 제공 (Bloomberg, 2024)

대상을 나눴다면, 가장 빠른 출발점은 개인이 시행착오로 익힌 노하우를 조직의 자산으로 바꾸는 것입니다. 검증하고 승인한 프롬프트를 직무별로 모아 사내 라이브러리로 만들면, 새로 합류한 직원도 첫날부터 같은 출발선에 설 수 있습니다. 국내에서는 LG가 자체 AI 에이전트 챗엑사원을 사무직에 보급하면서 14개 직무와 133개 업무별로 맞춤 지시문을 추천했고, 사무직 약 5만 명 중 65% 이상이 실제로 사용 중이라고 밝혔습니다.

상시 교육 외에도 해커톤이나 경진대회를 열어 자발성과 전사 모멘텀을 끌어올릴 수 있습니다. 글로벌 금융 소프트웨어 기업 심코프는 2026년 초 전사 AI 해커톤을 열어 직원들이 에이전트 기반 솔루션을 직접 만들게 했습니다 (Simcorp, 2026). 한 번 듣고 끝나는 강의와 달리, 이런 이벤트는 직원들이 반복해서 직접 써보게 만든다는 점에서 결이 다릅니다.

→ 이노핏파트너스 생성형AI 업무혁신 경진대회 과정 바로가기

사람을 키우는 일은 비용이 아니라 성과의 토대입니다. BCG는 AI 전환의 성패가 알고리즘 10%, 기술과 데이터 20%, 그리고 사람과 프로세스 70%로 결정된다고 말합니다 (BCG, 2024). 이노핏파트너스는 리더를 위한 교육과 전 직원을 위한 교육, 그리고 현장을 이끌 챔피언 양성을 각각의 목적에 맞게 설계해 이 과정을 함께합니다.

2. 내부 워크플로우 · 프로세스 시스템: 조직 내부 효율화를 위한 도구

✅광범위한 전체가 아닌, 좁지만 가치가 분명한 하나를 선택하세요

내부를 바꾸기로 했다면, 가장 먼저 떠오르는 그림은 대개 큰 것입니다. 전사를 아우르는 시스템을 새로 깔고, AI를 회사 곳곳에 한꺼번에 펼치는 모습입니다. 그러나 MIT 조사 보고서가 밝히듯 AI 도입을 통해 성과를 낸 소수의 5% 조직은 정반대로 움직였습니다 (MIT NANDA, 2025). MIT 프로젝트 NANDA는 조직 52곳을 들여다본 끝에 그들의 공통점을 세 가지로 압축합니다. 자체 구축보다 검증된 외부 도구를 더 많이 샀고, 중앙의 AI 조직이 아니라 현업 담당자가 과제를 직접 골랐으며, 좁지만 가치가 분명한 업무에서 시작해 핵심으로 넓혀갔다는 것입니다.

성공한 기업들은 좁지만 가치가 분명한 하나의 업무에 먼저 집중했고 그 업무가 요구하는 범위 내에서만 AI를 활용했습니다. 이 원칙을 실행에 옮기면, 방향은 크게 두 가지로 나눠볼 수 있습니다. 반복되는 업무의 흐름을 자동으로 묶거나, 조직 차원에서 함께 쓸 서비스를 만드는 것입니다.

1) 워크플로우 자동화

워크플로우 자동화는 반복되는 일의 절차를 기계가 대신 수행하도록 하고, 사람이 개입하지 않아도 완료되도록 만드는 것입니다.

가장 가벼운 형태는 이제 직원이 자기 컴퓨터에서 직접 만들 수 있습니다. 클로드코드 같은 코딩 에이전트와 하네스 엔지니어링이 비개발 영역까지 번지면서, 개발팀을 거치지 않고도 자기 반복 업무를 자동화할 수 있게 됐기 때문입니다. 무거운 시스템을 새로 발주하지 않고, 직원이 이미 쓰는 도구 위에서 적은 비용으로 자기 업무를 자동화할 수 있습니다.

→ 이노핏파트너스 AI 업무 자동화 & 노코드 워크플로우 과정 바로가기

하지만 전사 차원의 업무를 자동화하려면 기술, 정책 등의 영역도 함께 고민되어야 합니다. 전사 차원의 업무는 대개 회사의 핵심 시스템 안에서 벌어지기 때문입니다. 주문은 ERP에, 고객 정보는 CRM에, 인사 기록은 인사 시스템에 들어 있습니다. 에이전트가 이런 시스템을 실제로 읽고 고치게 하려면, 각 시스템을 에이전트에 이어 주는 연결 통로를 따로 만들고 권한을 관리할 수 있어야 합니다. 그래서 이 단계부터는 현업에서 자율적인 시스템을 구축하고 유지하기는 어렵고 개발 리소스나 외주 구축이 필수가 됩니다.

2) 사내 AI 시스템 구축

사내 AI 시스템의 성격과 무게는 다음 세 가지 축으로 결정됩니다.

• 어떤 과업인가?: 과업이 정해진 답으로 분류·판별하는 일에 가까울수록 기준을 미리 정해 작고 다루기 쉬운 전용 모델에 맡길 수 있습니다. 반대로 매번 새로 글을 지어내야 하는 열린 일일수록, 정답을 미리 가둘 수 없어 더 크고 유연한 시스템이 필요해집니다.

• 사내 지식 연결이 필요한가?: AI는 사내 정보를 모르며 환각의 위험성도 있으므로, 답하기 전에 사내 문서를 먼저 찾아보게 만드는 방식(RAG)을 활용하는 경우가 많습니다 (Lewis et al., 2020). 이를 위해서는 흩어진 문서를 검색할 수 있게 색인하고, 바뀔 때마다 갱신하고, 누가 어디까지 볼 수 있는지 권한을 걸어 두어야 합니다. 검색과 권한 장치를 짓고 유지하기 위한 기술을 어느 깊이까지 활용할 것인가가 주요 의사결정 지점이 됩니다.

• 어떤 모델을 쓸 것인가?: OpenAI, Anthropic, Google 등의 최신 모델 API를 쓰는 것이 성능 면에서 가장 좋지만, 금융·의료·국방처럼 데이터를 밖으로 내보낼 수 없는 분야라면 모델을 회사 안에 두고 직접 운영해야 합니다 (arXiv, 2025). 이 경우 하드웨어와 운영 인력, 보안 부담이 커지고, 자체 학습까지 더해지면 비용은 더 늘어납니다.

조직의 상황에 맞게 세 가지 축을 조절하여 결정할 수 있습니다. 다만 이 세 축을 어떻게 조합하든, 시스템이 사내 데이터나 업무 시스템과 실제로 연결되는 순간부터는 별도의 리스크 관리가 필요합니다. 국제 보안 표준기구 OWASP도 에이전트에게 업무에 필요한 최소한의 권한만 주고, 되돌릴 수 없는 행동에는 사람의 명시적 승인을 받게 하며, 모든 결정을 기록으로 남기고, 실행 환경을 격리하는 것을 추천합니다 (OWASP, 2025).

→ 이노핏파트너스 AI Agent 구현 사례 바로가기

이노핏파트너스는 각 조직에 맞는 형태가 어디인지부터 함께 검토합니다. 현업이 자기 업무 흐름을 스스로 자동화하도록 끌어올리는 집중 교육, 직접 짜기 어려운 흐름을 대신 맡는 업무 자동화 구축, 규모가 커지면 통째로 맡는 자동화 외주, 판별과 사내 지식 검색, 자체 모델까지 아우르는 AI 내부 시스템 구축까지, 각 형태가 요구하는 깊이와 통제만큼 설계해 함께합니다.

지금까지 AI 에이전트 시대에 조직이 바꿀 수 있는 세 방향 중 사람, 그리고 워크플로우·내부 시스템 두 가지를 살펴봤습니다. 다음 107호에서는 마지막 방향인 제품·서비스, 곧 AI로 고객에게 내놓는 제품 경쟁력을 어떻게 차별화할 수 있는지를 이어서 다루겠습니다.

막연한 AX를 우리 조직에 맞는
실행 가능한 로드맵으로 바꾸고 싶다면

이노핏파트너스 홈페이지에서 더 많은 이야기를 확인해보세요.