점점 더 많은 조직이 AI를 도입하면서, 학습 및 추론을 위해 AI 모델을 애플리케이션 및 데이터와 연결하는 데 API에 대한 의존도가 높아지고 있습니다. 하지만 API 연결이 많아질수록 위험도 커집니다. 위협 행위자는 API를 악용해 데이터를 유출하고, AI 모델의 안전장치를 우회하며, 심지어 모델 자체를 탈취할 수도 있습니다.
단일 AI 애플리케이션에는 보안 팀이 추적하기 어려운 수백 개의 API 엔드포인트가 있을 수 있으며, 구성은 갈수록 더 복잡해지고 있습니다. Gartner에 따르면, 2026년까지 API 수요 증가분의 30% 이상이 AI 및 대규모 언어 모델(LLM)을 사용하는 도구에서 발생할 것으로 예상됩니다.1
AI에 사용되는 API의 보안 인프라를 소홀히 하지 마세요. 이러한 API는 고도화된 공격으로부터 조직과 AI 투자를 보호하기 위해 더욱 철저한 검토가 필요하며, 고유한 관리·감독 및 인증 요건도 고려해야 합니다.
강력한 API 보안이 필요한 이유
API 보안이 없다면 AI 모델은 프롬프트 인젝션, 모델 추출, 또는 가시성과 통제 범위를 벗어난 API인 섀도 API로 인한 극심한 혼란 등 수많은 위협에 직면하게 됩니다. 섀도 API는 선의의 팀원이 적절한 보안 감독 없이 새로운 API 엔드포인트를 만들면서 발생하는 경우가 많으며, 이로 인해 누가 또는 무엇이 어떤 AI 모델에 액세스하는지 추적하기 어려운 사각지대가 생깁니다.
“API 보안이 없다면 AI 모델은 프롬프트 인젝션, 모델 추출, 또는 섀도 API로 인한 극심한 혼란 등 수많은 위협에 직면하게 됩니다.”
또한 적절한 보호 장치가 없으면 API 엔드포인트가 상호작용 중에 개인 식별 정보(PII)나 지적 재산을 유출하여, 겉보기에는 무해한 프롬프트를 통해 의도한 것보다 더 많은 정보가 노출될 수 있다는 점에 유의해야 합니다. API에 요청 속도 제한이 없으면 과도한 요청이 몰려 서비스 거부(DoS) 공격에 취약해질 수 있으며, 이로 인해 서비스 품질이 저하되고 컴퓨팅 비용이 증가할 수 있습니다.
API 보안에서 살펴봐야 할 5가지 핵심 요소
AI 모델과 앱을 보호하려면 검색, 인증, AI 관련 위협의 높은 위험을 포괄적으로 다루는 API 보안 접근 방식이 필요합니다. 다음 기능을 우선적으로 고려해야 합니다:
- 지속적인 탐지는 AI 서비스에 연결되는 새로운 API 엔드포인트를 모니터링하여 실시간 가시성을 제공합니다.
- 액세스 제어는 새로운 API 엔드포인트가 적절한 인증 절차를 따르고 최소 권한 원칙, 즉 필요한 수준을 초과하는 액세스 권한을 부여하지 않도록 보장합니다.
- 입출력 검증 은 AI 모델로 들어가고 나오는 모든 데이터를 검사하여 악의적인 프롬프트가 유입되거나 민감한 데이터가 유출되는 것을 방지합니다.
- 속도 제한은 API 호출에 임계값을 적용하여 DoS 공격과 같은 상황에서 시스템에 과부하가 걸리는 것을 방지합니다.
- 이상 탐지, 다른 모니터링 소프트웨어와 마찬가지로 정상적인 트래픽 패턴에서 의심스러운 동작이 있는지 확인합니다.
AWS에서 완전한 AI 보호를 활성화하는 방법
성공적인 AI를 위해서는 개발과 보안이 모두 필요합니다. Amazon Bedrock, Amazon SageMaker, Amazon CodeWhisperer와 같은 서비스를 사용하면 널리 사용되는 파운데이션 모델을 활용하거나 AI 기반 개발을 통해 자체 모델을 구축하고 확장할 수 있습니다. F5는 핵심적인 API 보안을 지원하고 이전 섹션에서 살펴본 5가지 기능을 통합하는 솔루션 세트를 통해 이러한 AWS 서비스를 보완합니다.
가장 먼저 고려해야 할 솔루션은 F5 Distributed Cloud API Security입니다. 이 솔루션은 섀도 IT를 통해 생성된 경우에도 새로운 API 엔드포인트를 자동으로 식별하고 매핑합니다. 이를 통해 가시성을 한층 높여 보안 정책을 더욱 손쉽게 적용하고 API를 악용, 데이터 유출 및 무단 액세스로부터 보호할 수 있습니다.
다음으로, F5 Managed Rules for AWS WAF는 AWS Marketplace에서 제공되며 AWS WAF와 통합되도록 설계된 사전 구성 규칙 세트 모음입니다. 이러한 API 전용 규칙 세트는 추가적인 방어 계층을 제공하며, 최신 위협에 대응할 수 있도록 F5 보안 전문가가 지속적으로 업데이트합니다.
두 솔루션 모두 모델에 대한 무단 액세스를 방지하고, 민감한 데이터와 지적 재산을 보호하며, 인간 또는 머신 엔터티가 AI를 합법적인 용도로 계속 사용할 수 있도록 지원합니다.
더 큰 확신과 통제력을 바탕으로 혁신을 가속화하세요
AI 이니셔티브를 추진할 때 AWS는 기반을 제공하고 F5는 보안을 책임집니다. F5 솔루션은 CI/CD 파이프라인과 통합되어, 팀이 필요한 보호를 확보하면서도 신속하게 업무를 진행할 수 있도록 지원합니다. 프롬프트 인젝션 및 모델 조작과 같은 위협이나 AI가 민감한 데이터를 노출할 가능성에 대한 우려를 줄이세요.
이러한 솔루션은 AWS 클라우드에 손쉽게 배포할 수 있으며, 인프라에 대한 가시성을 높여 섀도 IT 관행이 통제 불능 상태로 확산되기 전에 대응할 수 있도록 지원합니다. AWS와 F5는 함께 점점 더 복잡해지는 AI 환경을 효과적으로 헤쳐 나갈 수 있도록 지원하므로, 성공에 필요한 모든 데이터 소스와 API를 추가할 수 있습니다.
자세한 내용은 Amazon Web Services(AWS)의 F5에서 확인하세요.
또한 제 이전 블로그 게시물인 「AWS에서 AI 학습을 위한 빠르고 안전한 데이터 파이프라인 구축」도 읽어 보세요.
GARTNER는 미국 및 전 세계에서 Gartner, Inc. 및/또는 그 계열사의 등록 상표 및 서비스표이며, 본 문서에서는 허가를 받아 사용되었습니다. 모든 권리는 보호됩니다.
1Gartner, "Gartner는 2026년까지 API 수요 증가분의 30% 이상이 AI 및 대규모 언어 모델을 사용하는 도구에서 발생할 것으로 전망," 2024년 3월 20일
작성자 소개
관련 블로그 게시물
성평등을 향한 여정: 사이버 보안 분야에서 성공적인 커리어를 개척하는 방법에 관한 Jenn Gile과의 Q&A
F5의 ‘성평등을 향한 여정’ 시리즈 네 번째 Q&A에서는 Rachael Shah와 NGINX 제품 마케팅 책임자 Jenn Gile이 사이버 보안 직종에 대한 오해를 바로잡고, 사이버 보안 분야의 성별 격차를 해소하기 위한 조언과 그 이점에 대해 이야기합니다.
TLS 검사에서 피터 파커 원칙 다루기
“큰 힘에는 큰 책임이 따른다.” 볼테르와 처칠도 이와 비슷한 말을 남겼지만, 이 문구는 스파이더맨 코믹스에서 벤 삼촌의 말로 가장 널리 알려져 있습니다. 물론 이 문구가 문화적으로 널리 통용되는 이유 중 하나는 TLS 검사를 비롯해 수많은 상황과 주제에 적용할 수 있기 때문입니다.
Venafi와 F5를 통한 머신 아이덴티티 보호
‘머신 아이덴티티’란 간단히 말해 자동화된 프로세스가 자신의 신원을 식별할 수 있도록 하고, 다른 자동화 시스템과 프로세스가 관련 리소스에 적절한 수준의 접근 권한을 부여하도록 하는 방법을 의미합니다. 이 개념 자체는 새로운 것이 아닙니다. 비교적 새로운 점은 이를 구현해야 하는 규모입니다.
마이너와 미니언: 데이터 유출만이 비용을 초래하는 것은 아닙니다
물론 데이터 유출은 더 큰 비용을 초래할 수 있고(적어도 지금은), 실패 사실을 세상에 드러낼 수밖에 없게 합니다(통지 의무가 있으니까요). 하지만 보안을 단순히 데이터 노출 문제로만 봐서는 안 됩니다. 요즘은 데이터가...
내 클라우드에서 나가!
F5의 Jay Kelley가 전하는 최신 소식에는 Microsoft Office 365용 신규 ID 및 액세스 솔루션을 배포할 때 고려해야 할 사항이 정리되어 있습니다.
Shift(웹 앱) 보안 레터
웹 앱 보안을 개발 초기 단계로 앞당기세요. F5 블로그에서 DevOps 파이프라인 초기에 보안을 통합하여 취약점을 예방하고 시간을 절약하는 방법을 알아보세요.