F5의 가드레일로 책임감 있는 AI 확장

F5 ADSP | 2025년 12월 04일

F5는 최근 두 가지 새로운 AI 보안 제품인 F5 AI Guardrails와 F5 AI Red Team을 발표했습니다. 이번 발표는 업계 규제 기관이 소비자 서비스 제공을 위한 AI 활용을 점점 더 면밀히 검토하는 중요한 시점에 이루어졌습니다.

널리 알려진 EU AI 법과 같이 AI에 특화된 규정도 일부 존재하지만, 많은 관할권의 규제 기관은 기업이 AI를 책임감 있게 사용하도록 기존 규제 체계를 활용하고 있습니다. 따라서 AI 관련 규정이 별도로 없는 관할권에서도 기업이 자사의 기술 스택에 AI 혁신을 실제로 적용하려면 여전히 높은 수준의 규제 준수 부담을 감수해야 하는 경우가 많습니다. 또한 대규모 언어 모델(LLM)을 비롯한 많은 모델이 블랙박스처럼 작동하기 때문에, 공정성, 투명성 및 설명 가능성에 관한 기업의 규제 준수 의무를 고려할 때 이러한 모델을 활용하기가 더욱 어렵습니다.

F5 AI Guardrails and AI Red Team, the newest additions to the F5 Application Delivery and Security Platform (ADSP)에 새롭게 추가된 F5 AI Guardrails와 AI Red Team은 기업이 AI 모델의 입력과 출력을 더 잘 이해하고 연계하며, 편향을 제거하고, 사람의 감독 역량을 강화할 수 있도록 강력한 규정 준수 제어 기능을 제공합니다.

이 모든 작업은 몇 번의 클릭만으로 수행할 수 있으며, 이러한 인사이트를 능동적인 방어 체계로 전환해 모델이 조직의 규정 준수 의무와 책임감 있고 윤리적인 AI 사용을 위한 내부 표준을 지속적으로 준수하도록 합니다. 법적 또는 규제상의 위험 요인으로 인해 AI 도입을 미뤄 온 기업에 이는 혁신적인 진전입니다.

모든 사용 사례에서 AI 모델의 위험 요인을 간소화하고 완화하세요

F5 AI Guardrails의 기능은 조직이 AI 거버넌스 전략을 강화하는 데 핵심적인 역할을 합니다. AI가 사람들의 삶에 직접적인 영향을 미치는 경우 이러한 전략은 매우 중요합니다. 예를 들어, AI를 활용해 대출 신청을 처리하려는 금융 기관을 생각해 보겠습니다. AI가 인간 심사자라면 승인했을 대출을 거절할 때마다 해당 기관은 위험에 처할 수 있습니다. 하지만 문제는 모델이 애초에 왜 대출을 거절했는지 파악할 수 있는 유용한 도구가 거의 없다는 점입니다. 모델을 사용하기 전에 철저히 테스트하더라도 설명 가능성이 부족하면 규제 심사를 통과하거나 투명성에 대한 조직 자체의 요구 사항을 충족할 수 없습니다.

“법적 또는 규제상의 위험 요인으로 인해 AI 도입을 미뤄 온 기업에 이는 혁신적인 진전입니다.”

AI 모델을 처음 배포할 때 조직은 모델이 민감한 정보를 유출하거나, 편향을 재현하거나, 회사가 법적 책임을 질 수 있는 불공정한 결정을 내리는 등 통제에서 벗어나지 않도록 철저히 테스트하고 검증하고자 합니다.

F5 AI Red Team은 AI 시스템에 대한 광범위하고 전략적인 테스트를 제공합니다. 시스템을 대규모로 자동 적대적 테스트하여 명백하거나 쉽게 드러나지 않는 행동과 취약점을 모두 식별함으로써 팀이 모든 위험을 종합적으로 파악할 수 있도록 합니다. 이러한 레드팀 기능은 매월 10,000개 이상의 새로운 공격 프롬프트가 추가되는 업계 최고 수준의 데이터베이스를 기반으로 합니다. 기업은 모델이 업데이트되더라도 일관된 동작을 보장할 수 있도록 자체 테스트를 작성할 수도 있습니다. 이를 통해 팀은 모델이 예상대로 작동하는지 확인하고, 새롭게 등장하는 위험에 앞서 대응할 수 있도록 데이터 보안, 위협 관리 및 거버넌스 전략을 수립하고 조정할 수 있습니다.

F5 AI Guardrails를 사용하면 조직은 프롬프트와 응답의 연관성을 분석하고, 주제별 프롬프트 수가 특정 수준에 도달하면 알림을 설정하며, 중요한 프롬프트를 선별해 평가하고 수정할 수 있습니다. 이 솔루션은 AI 거버넌스 팀에 필요한 인적 감독 및 기록 관리 도구를 제공합니다.

F5 AI Red Team은 모델이 특정 방식으로 작동하는 이유를 전체적으로 조망할 수 있는 관점과 함께, 특정 추론을 도출하는 데 프롬프트 내 어떤 특성이나 토큰이 가장 큰 영향을 미쳤는지 설명하는 데 도움이 되는 세부적인 관점을 모두 제공합니다. 앞서 언급한 금융 서비스 사례로 돌아가 보면, 기업은 AI Red Team 기능을 사용하여 대출 신청서 내 어떤 데이터가 모델의 추론이나 결과에 가장 큰 영향을 미쳤는지, 그리고 의사 결정 시 어떤 특정 데이터 소스에 가장 크게 의존했는지 파악할 수 있습니다. 그 결과 조직은 모델의 작동 방식을 파악하고, 가중치가 지나치게 높거나 낮게 부여된 특성을 식별하며, 추가 재학습 또는 미세 조정을 위한 피드백을 제공하는 데 활용할 수 있는 더 많은 데이터 포인트를 확보하게 됩니다. 또한 감사 및 규정 준수 활동을 뒷받침하는 문서를 신속하게 생성할 수 있습니다.

AI 도입 장벽을 해소하고 규정 준수를 가속화하세요

단순성은 핵심적인 차별화 요소입니다. 이 포인트 앤 클릭 솔루션은 맞춤형 사내 도구를 개발할 필요가 없으며, F5 ADSP의 나머지 기능을 보완하여 단순한 표준 준수를 넘어서는 민첩한 테스트, 모니터링 및 미세 조정을 제공합니다. 조직은 규제의 역풍 속에서도 AI 이니셔티브와 여러 복잡한 AI 모델의 배포를 가속화하는 동시에, 소비자 개인정보 보호와 공정성을 자체 서비스의 초석으로 삼을 수 있습니다.

AI 사용에 관한 명시적인 규정이 아직 마련되지 않은 환경에서도 규제 기관은 기존 법적 체계를 AI 프로세스에 적용할 수 있도록 새로운 맥락에서 해석하고 있다는 점에 유의해야 합니다. 금융 서비스를 다시 예로 들면, 규제 기관은 현재 기업의 AI 사용을 1970년에 제정된 공정신용보고법(FCRA)에 비추어 평가하고 있습니다. AI Guardrails는 조직이 현재의 요구 사항을 충족하도록 지원하는 동시에, 향후 새롭게 등장할 수 있는 규제에 더 효과적으로 대비할 수 있도록 합니다.

규정을 준수하고 투명하며 위험을 최소화하는 AI를 신속하게 구현

이번 인수와 F5 ADSP 기능 확장을 통해 조직은 AI의 블랙박스 문제를 극복하는 동시에 규제 기관에 자사의 위험 관리 체계와 데이터 거버넌스를 입증하는 데 필요한 역량을 갖추게 됩니다. 그동안 고위험으로 간주되었던 매우 가치 있는 AI 활용 사례도 이제 적절한 안전장치와 사람의 모니터링, 설명 가능성 도구를 통해 구현할 수 있습니다. F5는 모든 환경에 맞게 설계된 포괄적인 플랫폼과 간편한 도구를 제공하여 조직이 이러한 목표를 더 빠르게 달성하도록 지원합니다.

자세한 내용은 이전 블로그 게시물을 참조하세요.