인공지능 보안 학습 자료

AI 보안은 조직의 사이버 보안에서 핵심 과제로 부상했습니다. AI 기술이 계속 발전함에 따라 조직은 강력한 위험 관리와 수명 주기 전반에 걸친 민감한 데이터 보호를 최우선으로 고려해야 합니다. 애플리케이션이 침해되기 전에 취약점을 식별하고 완화해야 합니다. 아래에서 F5가 제공하는 풍부한 리소스를 통해 보안 위험을 관리하고 사이버 위협에 대한 AI 애플리케이션의 복원력을 강화하는 방법을 알아보세요.

AI 보안이란 무엇인가요?

AI 보안은 악의적인 공격, 데이터 유출 및 기타 무단 행위로부터 AI 모델, 애플리케이션, 에이전트, API를 보호하는 활동입니다. AI 보안에 대한 다계층 접근 방식에는 일반적으로 AI 시스템의 입력과 출력을 필터링하고, 가드레일을 구현하며, 공격이 발생하기 전에 취약점을 찾아 해결하는 작업이 포함됩니다.

조직은 AI 시스템의 보안을 강화하는 동시에 AI 기능을 사이버 보안에 접목할 수도 있습니다. 예를 들어, AI의 한 형태인 머신 러닝(ML)을 사용하는 사이버 보안 도구는 비정상적인 행동을 식별하고 대응을 자동화하여 위협 탐지 역량을 강화할 수 있습니다.

AI에 대해 알아보기

AI 인프라 ›

AI 거버넌스 및 관리 ›

자주 묻는 질문

기존 웹 애플리케이션 보안과 생성형 AI 보안의 차이점은 무엇인가요?
기존 웹 보안은 결정론적 애플리케이션 코드, 고정된 API 엔드포인트, 구조화된 데이터베이스를 보호합니다. 생성형 AI 보안은 자연어를 입력이자 실행 코드로 해석하는 확률적 모델을 보호합니다. 일반적인 웹 애플리케이션 위협과 달리 사용자 입력과 악의적인 명령이 뒤섞일 수 있기 때문에 생성형 AI 보안은 까다로울 수 있습니다.

엔터프라이즈 LLM에서 프롬프트 인젝션 공격을 방지하려면 어떻게 해야 하나요?
프롬프트 인젝션은 공격자가 사용자 입력이나 서드 파티 소스에 악의적인 지시를 삽입할 때 발생합니다. 기업은 가드레일 구현, 레드팀 테스트(취약점을 조기에 발견하고 수정하기 위한 테스트), 입력 및 출력 필터링을 포함하는 심층 방어 방식으로 예방해야 합니다.

자율형 또는 에이전트형 AI와 관련된 주요 보안 위험은 무엇인가요?
OWASP(Open Web Application Security Project)에 따르면 AI 에이전트의 3대 보안 위험은 목표 탈취, 도구 오용, ID 악용입니다. 목표 탈취란 공격자가 에이전트를 조작하여 승인되지 않은 목표에 다시 집중하도록 하는 것입니다. 도구 오용은 공격자가 에이전트로 하여금 잘못된 도구를 선택하거나 의도하지 않은 방식으로 도구를 사용하게 할 때 발생합니다. ID 악용은 공격자가 유효한 권한을 악용하여 악의적인 작업을 실행하는 것입니다.

조직은 AI 보안 취약점을 관리하기 위해 어떤 프레임워크를 사용해야 하나요?
미국 국립표준기술연구소(NIST)의 AI 위험 관리 프레임워크(AI RMF)는 조직이 AI 시스템을 책임감 있고 안전하게 설계, 배포 및 관리하는 데 도움이 될 수 있습니다. 이는 AI 거버넌스, 취약점 파악, 안전성 측정 및 AI 위험 관리에 중점을 둔 체계적인 자율 지침입니다.

섀도 AI란 무엇이며, 조직은 이를 어떻게 통제할 수 있나요?
섀도 AI란 직원이 IT 또는 보안 부서의 승인이나 감독 없이 허가되지 않은 AI 도구를 사용하는 것을 말합니다. 섀도 AI를 통제하려면 암호화된 트래픽까지 파악하고, 트래픽을 검사 도구로 전달하며, 특정 도구나 사이트로 향하는 트래픽을 허용하거나 차단하는 세분화된 정책을 적용할 수 있는 솔루션이 필요합니다.