에이전틱 AI의 물결을 좇기보다 먼저 발을 담가보는 것이 낫다

James Hendergart기술 연구 담당 수석 이사 | F5

기업이 에이전틱 AI 도입 추세에 뒤처지고 있다고 느끼기 쉽습니다. 과대광고는 끊임없이 이어지는 데다 설득력까지 있지만, 특정 기술에 대한 엔터프라이즈 요구 사항이 아직 성숙하지 않았다면 서두를 필요가 없습니다. 2025년 AI 애플리케이션 전략 현황 보고서의 일환으로 진행한 최근 조사에 따르면, 에이전틱 AI에 대한 공식적인 접근 방식을 마련하지 않은 조직이 37%에 달하며, 적극적으로 도입을 추진 중인 조직은 5%에 불과합니다.

신중한 접근 방식은 과장된 홍보를 비판적인 시각으로 바라보면서 학습 및 실험 단계에서는 투자 속도를 조절하는 것입니다. 현재 에이전트 기반 AI 배포는 목표 달성을 위해 협업하고 시간이 지남에 따라 개선되는 역동적이고 복잡한 자율 에이전트 집합보다는 사전 정의된 작업을 수행하는 정적인 AI 기반 챗봇에 크게 치우쳐 있습니다.

기업이 유행을 좇기보다 에이전틱 AI를 신중하게 시도해야 하는 다섯 가지 이유는 다음과 같습니다.

1. 기술 스택이 아직 성숙하지 않았다

에이전틱 AI 기술은 솔루션 개발 속도보다 더 빠르게 자체적인 혁신을 거듭하고 있습니다. 새로운 기능과 도구, 코드 라이브러리가 계속해서 등장하고 있습니다. 지금은 혁신의 속도를 따라갈 수 있는 프로토타이핑에 적합한 시기이지만, 기업용 솔루션을 본격적으로 구축하려면 기술 스택의 변화 속도가 더 느려져야 합니다. 몇 가지 구체적인 예는 다음과 같습니다:

• 에이전트가 목표 지향적 자율 행동을 규정하는 보다 복잡한 문제를 해결하려면 뛰어난 추론 능력이 필요합니다. 이를 위해 모델이 사용되지만, 아직 모델의 추론 능력은 인간을 대체할 만큼 충분히 뛰어나지 않습니다.
• 에이전트가 복잡한 문제를 해결하려면 더 뛰어난 기억력이 필요합니다. 이에 따라 새로운 메모리 시스템이 등장했으며, 각각 의미 기억, 일화 기억, 절차 기억 등 고유한 영역에 중점을 둡니다. 심지어 모델 내부에서 기억 능력이 발현되는 사례도 있습니다.
• 개발자가 애플리케이션을 구축하는 데 사용하는 API에 기능이 대폭 강화되고 있습니다. 클라이언트 측에서는 AI를 더 쉽게 활용할 수 있도록 브라우저 기능이 확장되고 있습니다. 서버 측에서는 OpenAI가 최근 Responses API에 대한 여러 업데이트를 발표했습니다. 여기에는 Model Context Protocol(MCP) 지원과 여러 벡터 저장소를 아우르는 검색 기능 지원이 포함됩니다.

2. 성숙한 표준의 부재

시장에 필요한 상호 운용성을 충족하기 위해 전문가와 개발자들이 고심하는 가운데 새로운 표준이 계속 등장하고 있습니다. Anthropic이 제안한 MCP와 Google이 제안한 Agent2Agent(A2A) 프로토콜을 예로 들 수 있습니다. 전자는 모델과 리소스 간 통신을, 후자는 에이전트 간 통신을 각각 다룹니다. 하지만 어느 쪽도 에이전틱 AI에 필요한 상호 운용성 요건을 모두 충족하지는 못합니다. 이러한 기존의 공백을 메우기 위해 앞으로 몇 달 안에 추가 표준이 제안될 것으로 예상됩니다. 또한 MCP와 A2A가 공급업체와 고객의 지지를 점차 더 많이 받고 있기는 하지만, 기업이 이를 채택하기 전에 제안된 표준이 더욱 공식화되어야 합니다.

3. 총소유비용(TCO)은 아직 알 수 없음

AI 에이전트가 개발되고 배포되고 있습니다. 초기 지표는 성공을 시사하지만, 비즈니스 성과를 매출 증가(비용에 대해서는 알 수 없음)나 전체 요청 중 사람 대신 봇이 응답한 비율(에이전트가 특정 작업을 수행할 수 있음을 보여주지만, 전체적인 비용 비교를 나타내지는 않음)로 측정하고 있습니다. 에이전틱 AI의 총소유비용(TCO)을 산정하려면 다음이 필요합니다:

• 기술, 프로세스 업데이트 및 도입, 기존 직무에 필요한 새로운 역량이나 신규 직무와 같은 인적 자원 요건을 포함한 완전한 자재 명세서.
• 토폴로지와 기존 인프라 및 서비스와의 상호 운용성을 포함한 아키텍처 지침 및 구성 요소 아키텍처 다이어그램.
• 컴퓨팅, 네트워크 및 스토리지의 성능과 용량 등 인프라에 미치는 영향을 기반으로 주요 지표를 명시한 성공 기준.

4. 데이터 품질과 보안은 성공적인 AI 도입의 선결 조건입니다

AI 기반 애플리케이션이 효과적으로 작동하려면 안전하게 보호되는 양질의 데이터가 필요합니다. 데이터 사일로, 데이터 형식, 데이터 정규화를 효과적으로 처리할 방안이 없는 조직은 에이전틱 AI가 기업의 데이터 및 보안 취약점을 증폭시키기 때문에 에이전틱 AI 솔루션을 성공적으로 배포하는 데 어려움을 겪게 됩니다. 이는 단순히 네트워크에서 수많은 에이전트를 기계의 속도로 작동시키는 것 이상의 문제입니다. 현재 에이전트에는 사람이나 기기와 동일한 방식으로 보안이 적용되고 있습니다. 따라서 사용자는 에이전트가 자신의 데이터를 어느 범위까지 사용, 변경 또는 삭제할지 충분히 이해하지 못한 채 에이전트에 권한을 부여합니다.

5. 풀스택 옵저버빌리티는 필수 기반입니다

AI 기반 애플리케이션에는 풀스택 옵저버빌리티가 필요합니다. 조직이 아직 성공적인 풀스택 옵저버빌리티 체계를 구축하지 않았다면, 가시성, 운영, 문제 해결 및 거버넌스를 위해 이러한 체계에 크게 의존하는 에이전틱 AI 솔루션을 도입할 준비가 되어 있지 않은 것입니다.

이 다섯 가지 이유를 고려해 에이전틱 AI의 과대광고 열풍을 좇기보다는 신중하게 판단하십시오. 이 중 두 가지가 넘는 요인이 도입 계획에 실질적인 난관이 된다면 시간이 더 필요하다는 의미일 수 있습니다. 기술 스택과 표준이 여전히 발전 중이고, 비용도 아직 산정되지 않았으며, 포괄적인 데이터 관리와 설계 단계부터 반영된 옵저버빌리티 같은 강력한 엔터프라이즈급 역량을 전제 조건으로 요구하는 시장인 만큼, 에이전틱 AI를 서두르지 않고 천천히 도입해도 괜찮습니다. 에이전틱 AI 솔루션을 처음 배포한다고 해서 에이전트가 비즈니스에 제공하는 가치가 입증되는 것은 아닙니다. 이는 인프라가 준비되었음을 입증할 뿐입니다. 점진적으로 도입하면 기업은 지나치게 깊이 뛰어들기 전에 취약점을 찾아 보완할 시간을 확보할 수 있습니다.

에이전틱 AI 도입 준비에 대해 더 자세히 알아보려면 최신 인사이트인 “페이로드 내 정책: AI 에이전트 아키텍처 준비”를 살펴보세요.

작성자 소개

James Hendergart기술 연구 담당 수석 이사 | F5

James Hendergart의 다른 블로그 게시물