질문에 답하던 AI가 일을 끝내는 AI로

불과 몇 년 전까지 기업이 도입한 인공지능은 질문에 답하거나 문서를 요약하는 수준에 머물러 있었습니다. 그러나 최근 확산되고 있는 에이전틱 AI는 스스로 목표를 설정하고 계획을 세운 뒤 실행까지 완수하는 형태로 진화했습니다. 생성형 AI가 사람의 지시에 응답하는 도구였다면, 에이전틱 AI는 필요한 단계를 스스로 판단해 처리하는 실행 주체에 가깝습니다.

이러한 변화는 여러 전문 에이전트가 하나의 목표를 향해 병렬로 작업하는 멀티에이전트 구조로 이어지고 있습니다. 예를 들어 금융권의 대출 심사 과정에서는 신용 분석, 소득 검증, 리스크 평가를 담당하는 에이전트가 동시에 작업을 수행하면서 수시간이 걸리던 심사를 수분 단위로 단축시키는 사례가 보고되고 있습니다. 제조업에서도 설비 다운타임을 최대 40퍼센트 줄이고 불량률을 15퍼센트가량 개선한 사례가 확인되고 있습니다.

시장의 성장 속도 역시 이러한 변화를 뒷받침합니다. 국내 AI 에이전트 시장은 2025년 약 2조 2천억 원 규모에서 2030년에는 약 61조 8천억 원 규모로 성장할 것으로 전망되며, 이는 연평균 175퍼센트에 달하는 성장률로 생성형 AI 시장의 두 배에 이르는 속도입니다. 2026년까지 전체 기업 애플리케이션의 40퍼센트가량이 AI 에이전트와 통합될 것이라는 전망도 나오고 있으며, 개발 업무에서는 생성형 AI만 활용했을 때보다 200퍼센트 높은 생산성 향상이 보고된 사례도 있습니다.

도입률 70퍼센트, 정착률 12.5퍼센트라는 역설

그러나 이러한 기술적 잠재력이 곧바로 조직의 성과로 이어지는 것은 아닙니다. 국내 기업을 대상으로 한 최근 조사에 따르면 AI 도입률은 69.5퍼센트에 달하지만, 실제로 업무 표준으로 정착한 비율은 12.5퍼센트에 그치는 것으로 나타났습니다. 개인 차원에서는 91퍼센트가 매일 AI를 사용하고 있으며 그중 74퍼센트가 코딩이나 에이전트형 도구를 주력으로 활용하고 있음에도, 이 활용이 조직 전체의 업무 방식으로 전환되지 못하고 있는 것입니다.

이 격차는 도입과 정착이 전혀 다른 차원의 문제라는 점을 보여줍니다. 개인이 업무 중 편의를 위해 AI를 사용하는 것과, 조직이 특정 업무 프로세스 전체를 AI 기반으로 재구성해 공식적인 업무 표준으로 삼는 것은 요구되는 준비와 합의의 수준이 근본적으로 다릅니다. 도입률 수치만으로 기업의 AX 성숙도를 판단할 수 없는 이유가 여기에 있습니다.

성과를 가른 것은 도구가 아니라 워크플로우의 재설계였다

국제 컨설팅 기관의 2025년 연구에 따르면, 수익성 개선 효과가 큰 고성과 기업의 55퍼센트는 기존 업무 프로세스를 AI를 전제로 완전히 재설계한 반면, 일반 기업 중에서는 20퍼센트만이 이러한 재설계를 시도한 것으로 나타났습니다. 이는 약 2.8배에 달하는 격차이며, 단순히 기존 업무 위에 AI 도구를 얹는 기술 이식과 업무 자체를 AI 중심으로 다시 짜는 변혁이 전혀 다른 결과를 낳는다는 점을 시사합니다.

실제 사례에서도 이러한 차이가 확인됩니다. 한 통신사는 로밍 가입 절차를 기존 10단계에서 4단계로 단축시켰는데, 이는 AI 도구를 기존 절차에 추가한 것이 아니라 절차 자체를 AI가 처리할 수 있는 구조로 다시 설계했기 때문에 가능했던 결과입니다. 작은 단위의 업무에서 측정 가능한 성과를 먼저 만들어낸 뒤 이를 점진적으로 확장하는 방식이 대규모 일괄 도입보다 안정적인 성과로 이어진다는 점도 함께 확인됩니다.

사람이 어느 지점에서 어떤 기준으로 AI의 결과물을 검토할 것인지를 명시적으로 문서화한 기업의 비율은 고성과 기업에서 65퍼센트에 달했지만 일반 기업에서는 23퍼센트에 불과했습니다. 또한 프로젝트 착수 전에 구체적인 성과 지표를 정의한 경우 성공률이 54퍼센트에 달한 반면, 지표를 정의하지 않은 경우에는 12퍼센트에 그쳐 약 4.5배의 격차를 보였습니다.

경영진이 손을 떼는 순간 정착도 멈춘다

AX의 성패를 가르는 또 다른 핵심 변수는 경영진의 지속적인 관여입니다. 최고경영자가 프로젝트 전 과정에 관여한 경우 성공률은 68퍼센트에 달했지만, 초기 지원 이후 관심이 끊긴 경우에는 11퍼센트로 떨어져 약 6배의 차이를 보였습니다. AI 도입 실패 원인의 63퍼센트는 기술이 아닌 인적 요인에서 비롯되었으며, 그중 43퍼센트는 경영진의 스폰서십 부족이 원인으로 지목되었습니다.

국내 조사에서도 유사한 흐름이 확인됩니다. 경영진이 직접 프로젝트를 이끈 조직의 정착률은 34퍼센트였던 반면, 예산이나 조직 차원의 지원만 제공한 경우는 17.9퍼센트, 지시만 내리고 실행은 위임한 경우는 3.3퍼센트에 그쳤습니다. 정착에 성공한 조직의 93.9퍼센트가 경영진이 직접 관여하거나 실질적으로 지원한 경우였다는 점은, AX가 실무 부서에 맡겨두고 결과만 기다리는 방식으로는 작동하기 어렵다는 사실을 보여줍니다.

흥미로운 지점은 인식의 격차입니다. 경영진 가운데 직접 관여하고 있다고 응답한 비율은 56.2퍼센트였지만, 실무자 가운데 경영진이 실제로 관여하고 있다고 응답한 비율은 10.1퍼센트에 불과했습니다. 경영진의 의도와 현장의 체감 사이에 상당한 간극이 존재하며, 이 간극 자체가 정착을 가로막는 요인이 될 수 있습니다.

확산은 시스템이 아니라 사람으로부터 시작된다

조직 형태에 따른 격차도 뚜렷합니다. 자영업자나 프리랜서의 AI 정착률은 38.7퍼센트에 달했지만, 일반 직장인의 정착률은 10.3퍼센트로 약 3.7배의 차이를 보였습니다. 이는 의사 결정과 실행의 권한을 온전히 가진 개인이 조직 내 다수의 이해관계자를 거쳐야 하는 직장인보다 훨씬 빠르게 업무 방식을 재구성할 수 있다는 점을 보여줍니다.

이러한 흐름을 반영하듯, 해외에서는 고객사에 직접 결합해 실제 업무 환경에 맞춘 솔루션을 구현하는 포워드 디플로이드 엔지니어 역할이 빠르게 확산되고 있습니다. 이 역할은 원래 복잡한 소프트웨어를 정부 및 방위 산업 시스템에 통합하기 위한 필요에서 출발했지만, 최근에는 AI 스타트업을 중심으로 관련 채용 공고가 2025년 1월부터 9월 사이에만 800퍼센트 이상 증가할 정도로 확산되고 있습니다. 이들에게는 에이전트 오케스트레이션, 모델 결과물에 대한 평가 체계, AI 관측 도구를 다룰 수 있는 역량이 요구됩니다.

이 흐름이 시사하는 바는 명확합니다. 모든 구성원에게 동시에 AI 활용을 요구하기보다, 변화 수용도가 높고 문제 해결 의지가 강한 소수에게 먼저 충분한 권한과 자원을 부여해 가시적인 변화를 만들어내고, 그 결과가 주변으로 자연스럽게 확산되도록 설계하는 방식이 보다 효율적인 경로로 자리잡고 있습니다.

속도가 빨라질수록 방향의 오류도 함께 커진다

AI 에이전트가 24시간 중단 없이 작동하고 여러 에이전트가 동시에 병렬로 실행될 경우, 이론적인 생산성 향상 폭은 매우 커질 수 있습니다. 그러나 이는 동시에 위험 요인이기도 합니다. 조직 구성원 간 용어에 대한 해석이 다르거나 업무 방향에 대한 합의가 이루어지지 않은 상태에서 AI를 통해 업무 속도만 높일 경우, 서로 다른 방향으로 빠르게 진행되는 결과를 초래할 수 있습니다. 과거에는 의사 결정의 오류가 발생하더라도 되돌릴 시간적 여유가 있었지만, 처리 속도가 수배에서 수십 배로 빨라진 환경에서는 오류 역시 같은 속도로 확산됩니다.

실제로 AX 정착을 가로막는 요인을 조사한 결과, 직원 간 AI 활용 수준의 편차가 48.6퍼센트로 가장 큰 걸림돌로 지목되었으며, 정기적인 교육 체계가 부재한 조직이 84.6퍼센트, 공식적인 AI 사용 가이드라인이 없는 조직이 80.1퍼센트, 명확한 데이터 기준이 없는 조직이 58.6퍼센트에 달했습니다. 이는 속도를 높이기 전에 조직 내부의 공통 기준과 검증 체계를 먼저 갖추는 작업이 선행되어야 함을 보여주는 결과입니다.

결국 AX는 기술 도입이 아니라 조직 재설계의 문제다

지금까지 살펴본 여러 지표는 하나의 결론으로 수렴합니다. AX의 성패는 어떤 AI 모델이나 도구를 선택했는지가 아니라, 업무 프로세스를 얼마나 근본적으로 재설계했는지, 경영진이 얼마나 지속적으로 관여했는지, 사람이 개입하는 지점과 기준을 얼마나 명확히 정의했는지, 그리고 변화를 이끌 소수의 구성원에게 얼마나 실질적인 권한을 부여했는지에 따라 갈리고 있습니다.

기업 입장에서 AX를 도입할 것인가를 고민하는 단계는 이미 지나가고 있는 것으로 보입니다. 남은 질문은 언제, 어떤 방식으로 조직에 최적화된 형태로 이를 전환해 나갈 것인가이며, 이 질문에 얼마나 체계적으로 답하느냐가 향후 기업 간 경쟁력의 격차를 결정짓는 핵심 변수가 될 것으로 전망됩니다.