모두가 AI를 원합니다. 대부분의 조직은 AI를 도입하기 위해 노력하고 있다고 말합니다. 하지만 AI를 원하는 것과 AI를 도입할 준비가 된 것은 전혀 다른 문제입니다. 최신 연구에서는 수많은 주장과 과장을 걷어내고 조직의 실제 준비 수준을 냉정하게 살펴봤습니다. 결론부터 말하자면, 대부분은 스스로 생각하는 것만큼 준비되어 있지 않습니다.
배포 단계부터 모델 다양성에 이르는 6가지 지표를 정규화해 종합 AI 준비도 지수를 구축한 뒤, 응답자를 준비도 수준별로 분류했습니다. ‘준비도가 매우 높은’ 구간에 속한 조직은 2%에 불과했습니다. 21%는 이제 막 첫발을 뗀 수준이었습니다. 대다수는 어떨까요? 중간 단계에 머물러 있었습니다.
저에게는 놀라운 일이 아니며, 여러분에게도 마찬가지일 것입니다. 이 지수의 절반은 생성형 AI, AI 에이전트, 에이전틱 AI와 같은 특정 AI 역량의 도입 여부를 기준으로 합니다. 세 가지를 모두 활용하는 비율이 고작 2%에 불과하다는 사실도 놀랍지 않습니다. 에이전틱 AI는 지금 이 순간에도 계속 발전하고 있기 때문입니다.
어라! 또 새로운 게 있네요.
정말 그만큼 빠르게 변화하고 있습니다.
대부분이 어느 정도 준비되어 있다는 사실은 매우 고무적인 결과입니다. 이는 이들이 적절한 속도로 나아가고 있음을 의미하기 때문입니다. 이들은 신중하면서도 의미 있는 방식으로 업무 관행과 인프라를 고도화하고, 비즈니스 활용 사례에 AI를 적용하는 역량을 성숙시켜 나가고 있습니다.
중간 수준의 준비도: 안정적인 중간 단계
조직의 77%가 이 단계에 속합니다. 이들은 과도한 기대에서 벗어나 본격적으로 실험에 뛰어들었으며, 이를 조직에 정착시키기 위해 노력하고 있습니다. 기반을 마련하기 시작했지만, 아직 본격적으로 속도를 내지는 못하고 있습니다.
대부분은 생성형 AI 프로젝트를 실제로 운영하고 있습니다. 일부는 에이전트도 도입했습니다. 소수는 에이전틱 AI를 ‘한다’는 것이 과연 무엇을 의미하는지 탐색하고 있습니다. 여러 유형의 애플리케이션을 조금씩 시도해 보기는 했지만, 평균적인 AI 활용 범위는 여전히 얕습니다. 대략 5개 정도의 사용 사례, 전체 애플리케이션의 3분의 1에 적용, 그리고 보통 유료 모델 하나와 오픈 소스 모델 하나를 조합해 사용하는 수준입니다. 나쁘지는 않습니다. 다만 충분하지 않을 뿐입니다.
왜 이것이 중요할까요? 모델 유형이 다양하지 않으면 유연성이 떨어지기 때문입니다. 하나의 모델로 모든 워크로드를 처리할 수는 없습니다. 선택지가 필요합니다. 애플리케이션도 마찬가지입니다. 챗봇이나 내부용 어시스턴트에 국한된 AI로는 조직을 혁신할 수 없습니다. 깊이와 폭넓은 확산이 모두 필요합니다.
보안은 어떨까요? 여전히 뒤처진 상태입니다. AI 팀과 보안 팀 간의 협업도 원활하지 않습니다. 방화벽이 도입될 예정이지만, 대부분은 아직 계획 단계에 머물러 있습니다. 데이터 보호는 어떨까요? 일부 인라인 정책 적용과 토큰화가 이루어지고 있지만, 이를 체계적이라고 부르기에는 인프라 관리 원칙이 충분히 확립되지 않았습니다.
그리고 임시방편과 막연한 기대만으로 그럴듯하게 버티다 보면 언젠가는 제대로 해낼 수 있다고 생각한다면, 두고 보십시오. 허술한 보안의 대가는 단순히 한 차례의 부정적인 언론 보도로 끝나지 않습니다. 규제 당국의 역풍과 신뢰 상실은 물론, 갈수록 조직의 존립 자체를 위협하는 위험으로 이어집니다.
그리고 데이터 자체도 문제입니다. 이들 조직 중 공식적이고 반복 가능한 데이터 라벨링 절차를 갖춘 곳은 21%에 불과합니다. 이는 포뮬러 원 경주용 자동차를 만들어 놓고 연료 탱크에 연못 물을 채우는 것과 같습니다. 그렇게 할 수는 있겠지만, 멀리 가지는 못할 겁니다.
전통적으로 네트워크와 애플리케이션에 집중해 온 사람들이 데이터에 관심을 갖는 것이 이상하게 보일 수도 있습니다. 하지만 결국 AI의 품질은 데이터의 품질에 달려 있으며, 이제 다뤄야 할 데이터도 훨씬 많아졌습니다. 결국 “쓰레기를 넣으면 쓰레기가 나온다”는 원칙은 여전히 유효하며, 이는 앱, 인프라, 보안 등 기존의 모든 것에 AI를 접목할 때도 마찬가지입니다. AI의 수준은 학습에 사용된 데이터의 수준을 넘을 수 없습니다. 이 단계를 놓치면 지능을 구축하는 것이 아니라 잘못된 추측을 강화하고 미심쩍은 의사 결정을 자동화하게 됩니다.
이 단계는 이른바 ‘숙련이 뒷받침되지 않은 추진력’이 있는 상태입니다. 활력도 있고 방향성도 있지만, 여전히 많은 마찰이 존재합니다. 의지가 부족해서가 아니라 규모, 조율, 아키텍처 부채라는 현실적인 문제 때문입니다.
낮은 준비도: 아직도 로비에 갇혀 있음
이제 21%에 대해 이야기해 보겠습니다. 이들은 아직도 어디서부터 시작해야 할지 고민하고 있거나, 더 심각하게는 여전히 그럴 필요가 없다고 애써 외면하는 조직들입니다. 어쩌면 챗봇 프로토타입 정도는 갖고 있을지도 모릅니다. 어쩌면요. 이런 팀들의 문제는 비전이 아니라 관성입니다.
이들 중 다수는 위험 감수 수준이 낮고 아키텍처가 경직된 규제 산업이나 레거시 시스템에 얽매인 환경에 속해 있습니다. 하지만 이런 곳에서도 변화의 움직임은 나타나고 있습니다. 방화벽이나 인라인 정책 적용과 같은 AI 전용 보안 조치를 도입한 조직은 극소수에 불과합니다. 대부분은 AI 활용 사례에 맞춰 확장하기 어려운 일반적인 IT 경계 보안 통제에 의존하고 있습니다. 3분의 2는 AI 프로젝트를 시범 운영 중이거나 계획하고 있다고 답했습니다. 분명 의미 있는 진전입니다. 하지만 포부를 실행으로 착각해서는 안 됩니다.
여기서의 위험은 이러한 흐름을 놓치는 것이 아닙니다. 누구도 이 흐름을 놓치지는 않을 것입니다. 진짜 위험은 그 흐름이 닥쳤을 때 감당하지 못하는 것입니다. 데이터, 인프라, 인력에 대한 기반을 다지지 않으면 아무리 뛰어난 모델도 기대한 성과를 내지 못할 것입니다.
‘고도로 준비된 상태’의 진정한 의미
한 단계 더 성장하고 싶으신가요? 그렇다면 상위 2%처럼 구축하세요:
- 유료 모델과 오픈 모델을 모두 포함해 여러 모델을 환경에 함께 구성하세요. 유연성이 중요합니다. 모든 작업에 적합한 단일 모델은 없습니다.
- 에이전트를 단순히 ‘보유’하는 데 그치지 말고, 실제 운영 업무를 처리하는 데 활용하세요. 그래야 확장할 수 있습니다.
- 고립된 앱을 넘어 워크플로 전반에 생성형 AI를 통합하세요. 통합은 선택 사항이 아닙니다. 단순한 신기함에 그칠지, 실질적인 유용성을 제공할지를 가르는 핵심입니다.
- 정책에만 의존하지 말고 아키텍처 수준에서 데이터 보안을 철저히 강화하세요. 규정 준수만으로는 침해 사고를 막을 수 없지만, 제대로 된 설계는 막을 수 있습니다.
- 그리고 무엇보다도 처음부터 확장성을 고려해 설계하세요. 나중에 복원력을 보강하는 일은 결코 쉽지 않으니까요.
분명한 사실은 이렇습니다. 준비 태세는 돈을 주고 사는 제품이 아닙니다. 구독하는 서비스도 아닙니다. 그것은 태도이자 체계이며 사고방식입니다. 이 글을 읽으며 “우리는 어느 정도 준비되어 있어”라고 생각한다면, 그것은 나쁜 일이 아닙니다. 하나의 중요한 이정표입니다. 하지만 다음 단계는 저절로 이루어지지 않습니다. 의도적으로 행동하고, 뜻을 모으며, 약간의 불편함도 감수해야 합니다.
AI는 호기심만 있는 사람에게 보상하지 않습니다. 준비된 사람에게 보상합니다.
데이터를 더 깊이 살펴보고 모델에 대해 자세히 알아보려면, 여기에서 ‘2025년 AI 애플리케이션 전략 현황 보고서: AI 준비도 지수’를 다운로드하세요.
작성자 소개
Lori MacVittie는 F5 CTO 오피스의 수석 엔지니어이자 최고 에반젤리스트로, 애플리케이션 딜리버리, 자동화 전략 및 인프라 분야에서 깊이 있는 전문성을 보유하고 있습니다. AI 에이전트를 위한 가드레일을 정의하고, 취약한 멀티클라우드 아키텍처를 분석하며, 확장 가능한 시스템의 한계를 탐구하는 등 복잡한 문제를 명확하게 풀어내는 것으로 잘 알려져 있습니다. 애플리케이션 개발, IT 아키텍처, 네트워크 및 시스템 운영 전반에 걸쳐 30년 이상의 업계 경험을 쌓았습니다. F5에 합류하기 전에는 수상 경력이 있는 기술 편집자로 활동했습니다. MacVittie는 컴퓨터 과학 석사 학위를 보유하고 있으며, 보안, 클라우드 및 엔터프라이즈 아키텍처 분야를 아우르는 다수의 저서를 집필한 작가입니다. 또한 보드게임과 비디오 게임을 열정적으로 즐기며, 치즈에 대해서는 거리낌 없이 확고한 견해를 갖고 있습니다.
Lori Mac Vittie의 다른 블로그 게시물관련 블로그 게시물
AI 시대의 새로운 애플리케이션 제공 원칙으로 복잡성 극복하기
보안, 일관성, 완전 자동화에 중점을 둔 애플리케이션 제공의 새로운 6가지 원칙을 도입하여 복잡성 없이 하이브리드 멀티클라우드의 유연성을 누리세요.
디지털 혁신을 가속화하는 6가지 기술 역량
오늘날의 엔터프라이즈 아키텍처에는 기술 변화를 주도하는 데 핵심적인 민첩성, 확장성, 보안 및 관찰 가능성이 부족하지만, 이 여섯 가지 핵심 역량은 기업이 디지털 혁신 전반에 걸쳐 위험과 과제를 관리하는 데 도움이 될 것입니다.
하이브리드 근무가 ID 중심 보안으로의 전환을 이끌고 있습니다
자동화와 디지털화의 폭발적인 성장에 하이브리드 근무 모델로의 전환 추세가 더해지면서, IP 기반 보안에서 벗어나 ID 기반 액세스 전략으로 전환하는 움직임이 더욱 가속화될 것입니다.
관점의 현대화: 애플리케이션에서 경험으로
그리스와 로마의 신들처럼, 여러 신화에서도 동일한 존재가 다양한 모습으로 나타나는 것을 볼 수 있습니다. 본질적으로 각각의 화신은 기존 존재가 새로운 얼굴로 드러난 것입니다. 디지털 세계에서도 이와 비슷한 양상이 나타납니다. 우리가 ‘애플리케이션’이라고 부르는 것들은 흔히 기존 기능이 새로운 형태로 구현된 것이라 볼 수 있습니다.
코로나19 이후 기업 결제의 디지털 전환
디지털 결제는 과거의 현금만큼이나 보편화되었습니다. 코로나19 팬데믹으로 인한 봉쇄 조치는 소비자의 디지털 결제 서비스 의존도를 더욱 빠르게 높였습니다. 기업의 디지털 결제 도입 역시 가속화되었습니다. 대중을 상대로 영업하든 하지 않든 기업에는 여전히 지급해야 할 대금과 받아야 할 대금이 있기 때문입니다.
공급망 해킹과 보안에서 하드웨어의 역할
수석 아키텍트 Dave Schmitt와 CTO 오피스가 최근 Bloomberg의 Super Micro 관련 기사를 계기로 하드웨어 보안 전문성의 중요성을 되짚어봅니다. 또한 이 글에서는 시스템이 안전하게 보호되고 있는지 확인하기 위해 공급업체에 물어봐야 할 질문도 소개합니다.