SecOps는 AI에 대해 어떻게 생각할까요?

Shawn Wormke부사장 겸 총괄 관리자 | F5 NGINX

새로운 기술을 접하면 쉽게 흥분하기 마련입니다. 누구나 처음으로 대규모 언어 모델(LLM)에 프롬프트를 입력했을 때의 느낌, 처음 웹 브라우저를 사용했을 때의 경험, 자신의 데이터가 ‘클라우드’에 존재한다는 기발한 발상을 기억합니다. 하지만 새로운 혁신이 등장할 때마다, 나머지 사람들이 이러한 기술을 안전하게 사용할 방법을 찾아내야 하는 보안 전문가 팀은 골머리를 앓습니다. AI에는 화제가 될 만한 소식과 미래의 가능성이 무궁무진하기 때문에 우리는 여기에 쉽게 몰두할 수 있습니다. 그러나 F5가 AI 보안에서 어떤 역할을 할지 정립하는 과정에서, 이제는 한 걸음 물러나 ‘보안 커뮤니티는 AI를 어떻게 생각하는가?’라고 물어볼 때라고 판단했습니다.

F5는 고객에게 집착할 만큼 집중하기 때문에, 인터넷 최대 규모의 보안 전문가 커뮤니티인 Reddit의 r/cybersecurity에서 주요 사용자들이 지난 1년간(2024년 7월~2025년 6월) 작성한 AI 관련 댓글을 모두 분석했습니다. 각 댓글과 사용자를 감정 범주별로 분류하고, 각각에서 명시적으로 드러나거나 내재된 문제점을 추출했습니다.

SecOps의 AI에 대한 의견은 정확히 반반으로 갈립니다

실무자의 48%는 낙관적인 태도로 이미 자사 기술 스택에 AI를 활용하고 있지만, 나머지는 여전히 회의적이거나 미래에 닥칠 상황을 두려워하고 있습니다.

SecOps 의견 중 절반은 AI에 대해 낙관적이었습니다. 이들은 기술 스택에 AI 기반 도구를 도입하고, 반복 작업을 자동화하거나, AI 어시스턴트를 활용해 알림의 우선순위를 정하고 있습니다.

나머지 절반의 의견은 AI 시스템의 보안을 확보하기가 어렵다는 데서 비롯된 두려움과, AI가 현재 수준보다 훨씬 더 발전할 것이라는 데 대한 회의론으로 나뉘었습니다.

Reddit의 r/cybersecurity에 게시된 보안 실무자들의 의견에서 가장 큰 우려 사항은 데이터 보호였으며, 그다음은 관측 가능성/이상 탐지와 AI 기반 공격이었습니다.

섀도 AI와 데이터 보안

AI의 데이터 요구와 사이버 보안의 기본 원칙 사이의 긴장으로 인해 데이터 보안이 논쟁의 중심에 놓이게 되었습니다. 데이터 보안은 2025년 보안 전문가들의 최대 우려 사항으로 떠올랐으며, 기업들이 AI 도입을 가속화하면서 그 우려는 더욱 커졌습니다.

이 영역에서 가장 두드러지는 문제점은 섀도 AI, 즉 사용자가 승인 없이 AI 시스템과 상호작용하는 것입니다. 조직의 AI 도입이 초기 단계이든 성숙 단계이든 관계없이, 이는 AI 성숙도와 무관하게 지속되는 문제입니다.

관측 가능성은 기능이 아니라 필수적인 기반 요건입니다

데이터 보안이 논의의 중심을 차지할 수 있지만, SecOps 전반에서 그다음으로 크게 우려되는 AI 관련 사안은 관측 가능성과 이상 탐지입니다. 공급업체들이 AI가 보안 워크플로를 어떻게 지원할 수 있는지 주장하는 가운데, 실무자들은 균형이 필수적이라고 강조합니다. “AI 보안 에이전트가 할 수 있는 일에는 한계가 있으며, 항상 사람이 개입해야 합니다.” 한 분석가는 AI를 활용해 EDR 알림의 L1 트리아지를 자동화함으로써 MTTT를 45분에서 2분 미만으로 단축한 경험을 공유하면서도 “이는 가드레일, 또 가드레일, 그리고 더 많은 가드레일 없이는 불가능했습니다”라는 단서를 덧붙였습니다. 요구 사항은 일관됩니다. AI 상호작용 전반에 걸쳐 지속적인 가시성과 추적 가능성을 확보하고, 반복 작업은 자동화하되, 전략적 판단은 사람이 내리도록 해야 합니다.

공격자의 플레이북이 변화하고 있습니다

이는 이론적인 위협이 아니라, 기회주의적 공격자의 역량 하한선을 끌어올리고 정교한 위협 행위자의 역량 상한선을 높이는 강력한 증폭 요인입니다. 실제로 이러한 변화는 두 가지 형태로 논의됩니다. 하나는 AI 시스템을 겨냥한 프롬프트 인젝션이나 탈옥 공격 같은 새로운 적대적 AI 기법이고, 다른 하나는 피싱과 딥페이크 같은 사회공학 공격이 악의적으로 대중화되는 현상입니다. 모델과 에이전트가 더 많은 도구 및 데이터에 연결되면서 후자에 대한 우려는 더욱 커지고 있습니다.

모델의 동작에는 안전장치가 필요합니다

또 다른 12%의 문제점은 모델의 동작과 출력 품질을 보안 위험으로 지목했습니다. 주요 우려 사항으로는 환각, 정확성 부족, 유해한 출력 등이 있었지만, 그중에서도 가장 큰 문제는 권한 상승, 즉 AI가 접근 권한이 없는 데이터에 접근하거나 수행 권한이 없는 작업을 실행하는 것이었습니다. 바로 이 지점에서 SecOps는 비즈니스 위험에 맞춘 콘텐츠 조정, 정책 준수, 모델과 에이전트에 대한 명확한 권한 설정과 같은 실질적인 가드레일을 요구하고 있습니다.

SecOps가 AI 보안에 바라는 점

보안팀은 행간을 통해, 때로는 명시적으로 공급업체가 더 높은 기준을 충족하기를 기대하고 있습니다:

• 데이터 보안을 최우선으로 고려: 데이터 유출 방지 (DLP)를 통한 AI 정책 시행 및 최소 권한 원칙을 반영한 액세스 제어.
• ‘AI 워싱’ 금지: 허황된 주장보다 더 많은 근거를 통해 보안 및 규정 준수 역량을 입증하세요.
• 관찰 가능성을 감사에 대비하고 실용적으로 활용할 수 있도록 지원: 기존 SIEM/SOAR 워크플로와 간단하고 효과적으로 통합하고 모든 상호작용에 대한 가시성을 확보하세요.
• 인간 참여형 프로세스를 위한 유연성: 속도뿐만 아니라 영향의 우선순위를 고려하여 설계하세요.
• 적대적 공격에 대한 복원력: AI 공격 표면은 끊임없이 변화하므로, 새로운 위협이 발생함에 따라 솔루션도 이에 맞춰 발전해야 합니다.
• 정책 관리를 간소화하세요. 수작업 부담 없이 전사적 정책 및 규제 프레임워크에 맞게 조정하세요.

우리는 그 요구에 귀 기울입니다

데이터 보호를 최우선으로 삼고, 새롭게 등장하는 적대적 위협에 맞춰 보안을 조정하며, 모든 상호작용에서 관측 가능성을 기본 요소로 확립하고, 책임 있는 AI 거버넌스를 염두에 두고 설계해야 합니다. 앞으로도 실제 환경에서의 테스트를 통해 얻은 인사이트를 공유하고, 보안 팀이 실무에 적용할 수 있는 실용적인 지침을 제공하며, 위험을 줄이는 방식에 대한 투명성을 더욱 강화해 나가겠습니다.

위에서 언급한 안전한 AI와 효과적인 AI 중 하나를 선택해야 한다는 Reddit 댓글을 떠올리며, 저희는 그 ‘또는’을 ‘그리고’로 바꿀 수 있기를 기대합니다.

여러분의 요구를 들었습니다. 이것이 저희의 답입니다.

작성자 소개

Shawn Wormke부사장 겸 총괄 관리자 | F5 NGINX

Shawn Wormke의 다른 블로그 게시물