스마트함이 안전을 보장하지 않을 때: 산호초 수조에서 배운 AI, 자동화, 그리고 서킷 브레이커의 교훈

Lori Mac Vittie수석 엔지니어 겸 최고 에반젤리스트 | F5

AI와 자동화 시대에 애플리케이션 딜리버리는 있으면 좋은 정도의 기능이 아닙니다. 자율 시스템이 예상대로 작동하지 않을 때 로드 밸런서, API 게이트웨이, 서비스 메시가 최후의 방어선이 되므로 반드시 필요합니다.

이번 주 초, 컨트롤러 하나가 작동을 멈췄습니다.

좀 더 정확히 말하면, 보조 시스템의 Apex 컨트롤러가 고장 났습니다. 이 장치는 리프 수조 설비 일부를 관리하는 자동화의 핵심 장치로, 물갈이할 때 새로 만든 해수를 메인 시스템으로 보내는 펌프 두 대도 제어합니다.

이 펌프들은 시스템이 응답하지 않을 경우를 대비한 기본 안전 조치로, 대체 설정값이 ON으로 지정되어 있었습니다. 그래서 컨트롤러가 고장 나자 펌프들이 켜진 채 계속 작동했습니다. 아무런 점검도, 조율도, 감시도 없이 말입니다.

그 결과는? 주 탱크가 거의 넘칠 뻔했고, 크게 당황한 로리가 이를 막기 위해 애써야 했습니다. 그리고 경계 없는 자동화는 현명한 것이 아니라 위험하다는 사실을 다시 한번 일깨워 주었습니다.

그리고 그 교훈은 우리가 현대적인 IT 아키텍처를 구축하는 방식과 밀접한 관련이 있습니다. 특히 AI가 주도권을 잡기 시작하는 지금은 더욱 그렇습니다.

자동화의 안전성은 장애 발생 시의 대응 방식에 달려 있다

탱크에서 발생한 일은 버그나 하드웨어 문제 때문이 아니었습니다. 펌프는 지시받은 대로 정확히 작동했습니다. 문제는 컨트롤러에 장애가 발생했을 때도 펌프가 계속 작동했다는 점입니다. 회로 차단기도, 외부 감시 장치도, 지능형 대체 전략도 없었습니다.

AI 기반 IT 시스템에서도 바로 이런 일이 발생할 수 있습니다.

AI가 생성한 정책 업데이트가 운영 중인 인프라에 적용되는 상황을 상상해 보세요. 또는 조용히 오작동하는 모델을 기반으로 실시간으로 내려지는 트래픽 조정 결정을 생각해 보세요. 혹은 컨트롤러가 명시적으로 “중지”라고 지시하지 않았다는 이유로 변경 사항을 계속 배포하는 파이프라인도 있을 수 있습니다.

그런 순간에 침묵은 승인을 의미하지 않습니다. 위험을 의미합니다.

회로 차단기 역할을 하는 로드 밸런서

대부분의 엔터프라이즈 아키텍처에서는 로드 밸런서, API 게이트웨이, 서비스 메시가 일종의 회로 차단기 역할을 하도록 구성합니다. 이러한 구성 요소는 시스템 상태를 모니터링하고 지연을 감지하며 재시도 로직을 적용하고, 비정상 시스템이 다른 모든 시스템에 장애를 일으키기 전에 이를 차단합니다.

이는 단순한 운영 위생 차원의 문제가 아니라, 장애를 격리하고 자율 시스템에 대한 신뢰를 유지하는 방식입니다.

제어 플레인이 작동을 멈추면 로드 밸런서는 트래픽이 중단되도록 해야 하며, 모든 것이 정상이라고 가정해서는 안 됩니다.

때로는 “fail ON”이 정답입니다

물론 모든 시스템이 장애 발생 시 정지해야 하는 것은 아닙니다. 제 리프 수조에서는 메인 수조의 순환 펌프도 자동화되어 있지만, 이 펌프들은 장애 발생 시에도 계속 작동하도록 의도적으로 설정해 두었습니다.

물이 순환하지 않으면 산소 농도가 떨어져 물고기가 죽기 때문입니다.

여기서 중요한 것은 이러한 미묘한 차이입니다. DNS, ID 관리, 기본 텔레메트리처럼 어떤 상황에서도 계속 실행되어야 하는 시스템이 있습니다. 하지만 정책 생성이나 단계적 배포 같은 프로세스 자동화는 어떨까요? 이런 기능은 컨트롤러가 사라지면 반드시 중단되도록 설계해야 합니다.

바로 이 지점에서 AI 에이전트가 실질적인 긴장을 불러옵니다. AI 에이전트는 자신이 틀렸다는 사실을 항상 인지하지는 못합니다. 그렇기 때문에 이를 둘러싼 아키텍처는 반드시 이를 인지할 수 있어야 합니다.

AI 도입이 증가하면서 경계 설정의 필요성도 커지고 있습니다

Results from the 2025 F5 애플리케이션 전략 현황 보고서의 결과는 우리 대부분이 현장에서 이미 목격하고 있는 사실을 확인해 줍니다. AI가 제안하는 단계에서 직접 실행하는 단계로 나아가고 있다는 것입니다.

• 응답자의 77%는 AI가 정책 및 구성을 조정할 수 있도록 제안을 생성해 주기를 원한다고 답했습니다.
• 45%는 AI가 SLO를 충족하도록 해당 정책을 실시간으로 자동 조정하기를 원합니다.
• 55%는 AI가 새로운 구성 및 정책을 배포하거나 기존 구성 및 정책을 조정하는 스크립트를 실행하기를 원합니다.

이는 중요한 사실을 시사합니다. 우리는 자율형 디지털 에이전트의 시대로 접어들고 있으며, 조직들은 물러서기는커녕 도입에 속도를 내고 있습니다.

하지만 사람의 검토 없이 설정을 작성하거나 수정할 수 있는 AI는 어떨까요? 이는 아무도 감독하지 않는 상태로 펌프를 계속 가동하는 것과 같습니다. 무언가가 물에 잠기거나 고장 나는 것은 시간문제일 뿐입니다.

결론: 멈춰야 할 때를 아는 시스템을 구축하라

AI는 선택 사항이 아닙니다. 서킷 브레이커도 마찬가지입니다.

트래픽 흐름, 구성 엔진, 정책 결정 등 우리 시스템에 더 많은 지능형 에이전트를 도입함에 따라, 이를 뒷받침하는 인프라에 명확하고 자동화된 제한 장치를 마련해야 합니다.

로드 밸런서. 게이트웨이. 상태 확인. 재시도 로직. 이는 단순한 패턴이 아니라 안전한 자율성을 위한 보호 장치입니다. 이것이 바로 애플리케이션 딜리버리 10대 핵심 과제를 개발하게 된 주요 이유 중 하나입니다. 디지털 자산을 운영하고 보호하는 데 있어 애플리케이션 딜리버리의 중요성을 조명하기 위해서입니다. 디지털 비즈니스를 제어하는 역할이 수동 운영에서 자동화로 넘어감에 따라 그 중요성은 더욱 커질 수밖에 없습니다.

규율 없는 자동화는 회복탄력성이 아닙니다.

그저 크론 작업으로 자동화된 혼란일 뿐입니다.

작성자 소개

Lori Mac Vittie수석 엔지니어 겸 최고 에반젤리스트 | F5

Lori MacVittie는 F5 CTO 오피스의 수석 엔지니어이자 최고 에반젤리스트로, 애플리케이션 딜리버리, 자동화 전략 및 인프라 분야에서 깊이 있는 전문성을 보유하고 있습니다. AI 에이전트를 위한 가드레일을 정의하고, 취약한 멀티클라우드 아키텍처를 분석하며, 확장 가능한 시스템의 한계를 탐구하는 등 복잡한 문제를 명확하게 풀어내는 것으로 잘 알려져 있습니다. 애플리케이션 개발, IT 아키텍처, 네트워크 및 시스템 운영 전반에 걸쳐 30년 이상의 업계 경험을 쌓았습니다. F5에 합류하기 전에는 수상 경력이 있는 기술 편집자로 활동했습니다. MacVittie는 컴퓨터 과학 석사 학위를 보유하고 있으며, 보안, 클라우드 및 엔터프라이즈 아키텍처 분야를 아우르는 다수의 저서를 집필한 작가입니다. 또한 보드게임과 비디오 게임을 열정적으로 즐기며, 치즈에 대해서는 거리낌 없이 확고한 견해를 갖고 있습니다.

Lori Mac Vittie의 다른 블로그 게시물