SecOps는 AI를 어떻게 바라볼까요? 2부: 데이터 보호

F5 리서치 | 2025년 9월 15일

AI는 수많은 감정을 불러일으킵니다. 어떤 이들은 AI가 수많은 유행의 뒤를 잇는 또 하나의 일시적 열풍일 뿐이며, 곧 NFT와 3D TV처럼 잊힐 것이라고 생각합니다. 또 어떤 이들은 자의식을 갖게 된 악의적인 AGI 지배자에 대비해 벙커를 짓고 있습니다. 온갖 과장된 주장 속에서도 한 가지는 확실히 말할 수 있습니다. AI는 방대한 데이터와 연결되어 있다는 사실입니다.

AI를 둘러싼 과도한 열기는 논평가들을 흥분시키거나 두렵게 하거나 회의적으로 만들지만, F5는 현업 실무자들이 AI를 어떻게 느끼는지에 관심이 있습니다. 현재의 과제와 우려 사항을 정확히 파악하기 위해 인터넷 최대 보안 전문가 커뮤니티인 Reddit의 r/cybersecurity를 대상으로 종합적인 감성 분석을 실시했습니다. 이 연구를 다룬 Shawn Wormke의 1부 블로그인 “SecOps는 AI를 어떻게 바라보는가?”에서는 연구의 전반적인 결과를 요약했습니다. 모든 인용문은 2024년 7월부터 2025년 6월까지 보안 실무자들이 작성한 댓글에서 직접 가져왔습니다. 여기서는 올해 AI와 관련해 가장 큰 우려 사항으로 꼽힌 데이터 보안을 더 자세히 살펴보겠습니다.

데이터 보안은 2025년 초부터 AI와 관련된 최대 우려 사항이었으며, 1월의 DeepSeek 공격으로 이러한 추세는 더욱 가속화되었습니다.

민감 정보 노출, 섀도 AI, 규정 준수 문제가 주요 우려로 부상

많은 사람들은 악의적인 공격자들이 AI를 활용해 정교한 사회공학적 공격을 감행하고 지능형 봇을 대거 풀어놓는 AI 위협 환경을 떠올립니다. 이러한 위협도 분명 현실적이지만, 보안 전문가들이 제시하는 상황은 훨씬 더 단순한 양상으로 나타나면서도 그에 못지않게 해롭고 훨씬 더 광범위합니다. 실제로 SecOps에서 내부의 AI 오용에 대한 우려는 악의적 남용에 대한 우려보다 2.3배 더 자주 제기되었습니다.

““고성능 AI의 시대에 다른 사람들은 AI에 대한 불안감을 느낄지 모르지만, 제가 걱정하는 건 적들이 AI를 이용해 엄청나게 영리한 일을 벌이는 게 아니라 고객과 동료들이 AI로 터무니없이 어리석은 일을 저지르는 것입니다.” - Reddit의 r/cybersecurity에 달린 댓글”

이는 첫 번째 문제의 핵심인 민감한 정보의 노출을 정확히 짚는다. 한 실무자는 이를 간결하게 이렇게 표현했다. “솔직히 말해, 직장에서는 모두가 LLM을 사용하면서 온갖 민감한 정보를 프롬프트에 입력하고 있다.” 모델의 컨텍스트 창이 커지고 검색 증강 생성(RAG)에 활용할 수 있는 파일 형식이 늘어나면서, 직원들은 유용한 답변을 가장 빨리 얻는 방법이 LLM에 필요할 수도 있는 모든 정보를 제공하는 것임을 알게 되었다. 이는 제로 트러스트의 핵심 원칙인 최소 권한 원칙에 정면으로 위배된다. 간단히 말해, “보안과 기능 사이에는 언제나 긴장이 존재한다.”

기존의 정책 집행 전략은 효과가 없습니다

대부분의 조직이 AI를 안전하게 사용하기 위해 취하는 합리적인 조치는 허용 가능한 사용 정책(AUP)을 마련하는 것입니다. 다양한 전략이 존재하지만, 기존의 억제 및 제한 방식만으로는 충분하지 않다는 데 의견이 모이고 있습니다.

““어떤 기술이든 사용을 금지하면 오히려 역효과가 나고, 결국 통제할 수 없는 곳에서 사용하게 될 뿐이다… 단순히 ‘이것을 사용하면 안 된다’고 말한다고 해서 사람들이 사용을 멈추지는 않는다… 위반 사실을 발견하고 조직의 인사 부서가 해당 직원을 해고할 수 있게 될 즈음이면, 그들은 이미 자신이 선택한 AI에 조직의 데이터를 사용한 뒤일 것이다.” - Reddit의 r/cybersecurity에 달린 댓글”

한 사용자의 설명처럼 웹 애플리케이션 방화벽(WAF)이나 DNS 필터링 같은 기존 도구는 피할 수 없는 상황을 잠시 늦출 뿐입니다. “이러한 서비스를 차단하면 결국 데이터를 무료 서비스로 내몰게 됩니다. 블랙리스트로 대응하는 것은 끝없는 두더지 잡기 게임이 될 수밖에 없습니다.” 이는 지난 1년간 가장 많이 논의된 과제 중 하나인 섀도 AI 문제로 이어집니다. 새로운 모델은 매일 출시되고, 해당 모델의 래퍼는 매시간 바이브 코딩으로 만들어집니다. 사용자는 자신의 직무상 우선순위를 성공적으로 수행하는 데 방해가 된다고 여기는 정책을 우회할 방법을 언제나 찾아낼 것입니다.

섀도 AI와 민감한 데이터 공개라는 두 가지 주요 우려가 결합되면 보안 팀에는 최악의 환경, 즉 아무런 가시성 없이 노출이 만연한 상황이 조성됩니다. 사용자는 읽는 시간을 줄이기 위해 주류 LLM을 사용하면서 그 과정에서 기밀 문서를 업로드할 수도 있습니다. 하지만 섀도 AI 솔루션을 활용하면 SecOps 팀이 이러한 상호작용을 관찰하고 다양한 위험 완화 조치를 시행할 수 있습니다. 향후 상호작용에 대비해 특정 사용자를 더욱 면밀히 주시하거나, 행동이 바뀔 때까지 해당 사용자의 중요 리소스 접근을 제한할 수 있습니다. 섀도 AI 솔루션이 없으면 방화벽이나 DNS 차단 같은 기존 대응책은 사용자를 동일한 기반 모델의 잘 알려지지 않은 래퍼로 이동시킬 뿐이며, 위험한 행동의 형태와 방식, 발생 위치에 대한 가시성을 떨어뜨립니다.

컴플라이언스는 모든 노출 위험이 집약되는 지점입니다

기존의 산업별 규제에 더해 EU AI법과 일반 데이터 보호 규정(GDPR) 같은 규제 준수 기준이 강화되면서, 적절한 AI 데이터 거버넌스를 갖추지 못한 조직은 징벌적 벌금과 법적 책임, 대중의 신뢰 상실 위험에 직면하게 됩니다.

““강력한 감사 로그가 없거나 사용자 데이터 공유를 제한할 수 없는 도구 역시 위험 신호입니다. 일부는 SOC2 또는 GDPR 규정을 준수하지 않는 도구를 일괄적으로 금지하기도 합니다. 많은 경우 결국 위험을 얼마나 감수할 수 있느냐의 문제입니다. 민감한 정보를 통제할 수 있다고 보장하지 못한다면 제외되는 것이죠.” - Reddit의 r/cybersecurity에 달린 댓글”

보안 전문가들은 보안에 대한 고려보다 열광과 경쟁사와 동등한 수준을 확보하려는 욕구가 앞섰던 기술들을 이미 여러 차례 경험했습니다. 클라우드 컴퓨팅도 오늘날의 AI와 비슷한 길을 걸었습니다. 빠른 도입과 흥미로운 새로운 가능성에 대한 기대에 이어, 광범위한 구성 오류와 과도한 접근 권한, 공동 책임 모델의 실패가 나타났습니다. 익숙하게 들리시나요? 가장 큰 차이점은 클라우드의 경우 전반적인 위험을 초래할 수 있는 주체가 훨씬 적었다는 것입니다. AI 보안이라는 새로운 영역에서는 당장의 주요 경계 대상이 클라우드 아키텍트와 엔지니어에서 모델 자체를 포함해 민감한 데이터에 접근할 수 있는 모든 사람으로 확대됩니다.

““보안 및 규정 준수에 투자하는 AI 기업과, 고객들이 기술에 너무 열광한 나머지 그런 절차를 건너뛰기를 바라는 기업 사이에는 여전히 상당히 뚜렷한 격차가 있다.” - Reddit의 r/cybersecurity에 달린 댓글”

실무자들은 무엇을 해야 하는지 잘 알고 있습니다

어느 정도의 위험도 초래하지 않은 기술은 지금까지 단 하나도 없었으며, 전 세계가 한목소리로 “너무 위험하니 모두 당장 멈춥시다”라고 한 적도 없습니다. 보안 실무자들은 자신들 앞에 중요하면서도 험난한 여정이 놓여 있음을 잘 알고 있습니다.

““사이버 보안은 안전하다/안전하지 않다는 이분법적 판단이 아니라 위험에 관한 것입니다. 생성형 AI에는 많은 위험이 따릅니다. 그렇다고 GenAI가 너무 위험해서 아예 가까이해서는 안 된다는 뜻일까요? 저는 그렇게 생각하지 않습니다. 결국 기업의 목표와 위험 감수 성향을 고려해 비즈니스에 미치는 이점과 위험을 저울질하는 것이 중요합니다.” - Reddit의 r/cybersecurity에 달린 댓글”

AI와 데이터 간의 상호작용에 효과적인 안전장치와 지속적인 관찰 가능성을 확보하는 것은 쉽지 않은 일이지만, 현재와 같은 속도로 AI 도입이 계속된다면 반드시 충족해야 할 요건입니다.

F5는 이미 이러한 과제를 해결하기 위해 적극적으로 조치를 취하고 있으며, 앞으로도 SecOps 현장의 목소리를 바탕으로 우선순위를 정해 나갈 것입니다. 여기에서 자세히 알아보세요.