기술 진화의 최전선에서 인공지능(AI)은 모든 산업의 비즈니스 운영과 고객 상호작용을 혁신하고 있습니다. 그러나 조직이 AI를 핵심 프로세스에 더욱 깊이 통합함에 따라 AI에 특화된 보안 취약점의 위협도 커지고 있습니다. 새로운 안전 및 보안 위험은 이미 나타나고 있으며 앞으로도 계속해서 발생할 것입니다.
새롭게 부상하는 이러한 위협 환경에 대응하기 위해, F5는 멀티클라우드 애플리케이션 보안 및 네트워킹 서비스 분야의 선도 기업으로서 AI 보안 분야의 선구자인 Robust Intelligence와 협력하여 AI를 안전하게 활용할 수 있는 미래를 향한 길을 열어가고 있습니다. 이 파트너십은 고객이 혁신, 속도 또는 성능을 희생하지 않으면서 AI 애플리케이션을 안심하고 배포하고 보안을 확보하는 데 필요한 도구를 제공합니다.
AI 보안 난제 이해하기
AI의 확산과 함께 기존 보안 프레임워크로는 대응하기 어려운 새로운 유형의 위협이 등장했습니다. AI 애플리케이션은 머신러닝 모델을 조작하는 적대적 공격이나 AI의 출력을 왜곡할 수 있는 교묘한 프롬프트 인젝션 등 새로운 형태의 AI 위협 악용에 취약합니다. 이제는 웹페이지에서 예상된 입력에 따라 프로그래밍된 결과만 출력하는 방식이 아닙니다. 사용자는 어떤 질문이든 할 수 있고, 어떤 작업이든 실행해 달라고 요청할 수 있습니다.
큰 틀에서 보면 AI 애플리케이션은 안전 위험과 보안 위험이라는 두 가지 범주의 위험에 노출될 수 있습니다.
안전 위험은 일반적으로 AI 애플리케이션에서 의도치 않게 발생하는 결과나 오용을 의미합니다. 여기에는 악의적인 목적으로 AI 애플리케이션을 다른 용도로 사용하는 행위, 정렬 문제, 편향되거나 유해한 출력, 환각 등이 포함됩니다.
보안 위험은 조직의 민감한 데이터와 컴퓨팅 리소스를 위협하는 위험입니다. 사이버 보안의 세 가지 원칙에 비추어 볼 때, AI 보안 위험은 기밀성(승인된 당사자만 리소스를 이용할 수 있음), 무결성(리소스가 일관성과 정확성을 유지함), 가용성(승인된 당사자가 리소스에 계속 접근할 수 있음)을 침해할 수 있습니다.
관리되지 않은 AI 위험은 막대한 재정적 손실과 평판 훼손, 소송, 규정 미준수, 지식 재산(IP) 유출 등으로 이어질 수 있습니다. AI 애플리케이션이 비즈니스 기능에서 차지하는 비중이 커질수록 전문적인 보안 조치의 필요성은 더욱 절실해집니다.
AI 애플리케이션 보안을 위한 시너지 접근 방식
각 분야에서 신뢰받는 선도 기업인 F5와 Robust Intelligence는 AI가 야기하는 고유한 안전 및 보안 과제를 해결하기 위해 협력하고 있습니다. F5의 AI 보안 제품군과 Robust Intelligence의 최첨단 AI Firewall을 통합함으로써 기업은 효율성과 민첩성을 유지하는 동시에 기존 애플리케이션과 AI 애플리케이션을 다양한 위험으로부터 보호하도록 설계된 종합적인 보안 솔루션을 활용할 수 있습니다.
F5 Distributed Cloud 웹 애플리케이션 및 API 보호(WAAP) 웹 애플리케이션 방화벽(WAF), 봇 방어, DDoS 완화, API 검색/보안을 비롯한 광범위한 보안 솔루션을 아우릅니다. 이러한 솔루션은 데이터 센터와 클라우드부터 엣지에 이르기까지 모든 환경에서 디지털 자산을 효과적으로 보호합니다.
Robust Intelligence의 AI Firewall을 F5 Distributed Cloud Services 에코시스템에 통합하면 이러한 보안 태세가 한층 더 강화되고 기업용 AI 애플리케이션을 실시간으로 보호할 수 있습니다. AI Firewall은 AI 애플리케이션의 입력과 출력을 즉시 면밀히 검사하여 상호작용의 적법성을 판단합니다. 또한 잠재적 위협을 식별하고 차단하여 AI 모델이 안전한 매개변수 내에서 작동하고 악의적인 공격자에 의해 조작되지 않도록 합니다.
다음과 같은 이점이 있습니다:
- AI 시스템을 표적으로 하는 공격 완화.
- 모델 출력의 안전성 보장.
- 다음과 같은 주요 표준 준수 유지: MITRE, NIST, OWASP Top 10(웹 앱, API 및 LLM)
- 기존 보안 및 모니터링 도구(예: SIEM)와의 통합.
알고리즘 레드팀 테스트를 위해 Robust Intelligence의 AI Validation도 함께 사용하기로 선택한 고객의 경우, 각 모델에 내재된 보안 및 안전 취약점에 특화된 가드레일을 자동으로 생성할 수 있어 AI Firewall의 보호 기능이 강화되며, 이를 통해 개발 단계부터 프로덕션 단계까지 보안 범위가 확장됩니다.
결론
AI가 디지털 세계와 비즈니스 방식을 재편함에 따라, 보안 리더는 새로운 위험 패러다임에 대응할 수 있도록 조직 전략을 선제적으로 재구상해야 합니다. 이제 보안은 단순히 변화에 뒤처지지 않는 것만으로는 충분하지 않습니다.
F5와 Robust Intelligence는 협력을 통해 즉각적인 보호 기능뿐만 아니라 변화하는 AI 위협 환경에 맞춰 발전할 수 있는 역량도 제공합니다. 양사는 조직이 혁신적인 기술의 안전과 보안에 대한 확신을 바탕으로 AI의 혁신적 잠재력을 활용할 수 있도록 지원합니다.
시작하려면 robustintelligence@f5.com으로 이메일을 보내 주세요.
Robust Intelligence의 보도 자료를 읽으려면 여기를 방문해 주세요.
Robust Intelligence + F5 Distributed Cloud Services의 데모를 보려면 다음 영상을 시청하세요: https://www.youtube.com/watch?v=nLt1uMz41AQ.
F5 Distributed Cloud Services가 조직이 어디서나 모든 애플리케이션을 위한 인프라를 구축하는 데 어떻게 도움이 되는지 자세히 알아보려면 https://www.f5.com/cloud.
작성자 소개
관련 블로그 게시물
성평등을 향한 여정: 사이버 보안 분야에서 성공적인 커리어를 개척하는 방법에 관한 Jenn Gile과의 Q&A
F5의 ‘성평등을 향한 여정’ 시리즈 네 번째 Q&A에서는 Rachael Shah와 NGINX 제품 마케팅 책임자 Jenn Gile이 사이버 보안 직종에 대한 오해를 바로잡고, 사이버 보안 분야의 성별 격차를 해소하기 위한 조언과 그 이점에 대해 이야기합니다.
TLS 검사에서 피터 파커 원칙 다루기
“큰 힘에는 큰 책임이 따른다.” 볼테르와 처칠도 이와 비슷한 말을 남겼지만, 이 문구는 스파이더맨 코믹스에서 벤 삼촌의 말로 가장 널리 알려져 있습니다. 물론 이 문구가 문화적으로 널리 통용되는 이유 중 하나는 TLS 검사를 비롯해 수많은 상황과 주제에 적용할 수 있기 때문입니다.
Venafi와 F5를 통한 머신 아이덴티티 보호
‘머신 아이덴티티’란 간단히 말해 자동화된 프로세스가 자신의 신원을 식별할 수 있도록 하고, 다른 자동화 시스템과 프로세스가 관련 리소스에 적절한 수준의 접근 권한을 부여하도록 하는 방법을 의미합니다. 이 개념 자체는 새로운 것이 아닙니다. 비교적 새로운 점은 이를 구현해야 하는 규모입니다.
마이너와 미니언: 데이터 유출만이 비용을 초래하는 것은 아닙니다
물론 데이터 유출은 더 큰 비용을 초래할 수 있고(적어도 지금은), 실패 사실을 세상에 드러낼 수밖에 없게 합니다(통지 의무가 있으니까요). 하지만 보안을 단순히 데이터 노출 문제로만 봐서는 안 됩니다. 요즘은 데이터가...
내 클라우드에서 나가!
F5의 Jay Kelley가 전하는 최신 소식에는 Microsoft Office 365용 신규 ID 및 액세스 솔루션을 배포할 때 고려해야 할 사항이 정리되어 있습니다.
Shift(웹 앱) 보안 레터
웹 앱 보안을 개발 초기 단계로 앞당기세요. F5 블로그에서 DevOps 파이프라인 초기에 보안을 통합하여 취약점을 예방하고 시간을 절약하는 방법을 알아보세요.