에이전트형 AI는 최소 권한으로 실행되더라도 보안 정책을 위반할 수 있습니다.
과제
보안 컨텍스트는 주어진 데이터 집합에 대해 누가 어떤 작업을 수행할 수 있는지를 정의합니다. 엔터프라이즈 시스템 전반에서 데이터를 생성, 변경 또는 삭제할 수 있는 권한은 특정 역할에 할당된 비즈니스 요구 사항에 따라 정의됩니다. 사람이 특정 역할을 수행하는 기업에서 소프트웨어를 사용할 때, 해당 소프트웨어가 작동하려면 보안 컨텍스트가 필요합니다. 이 보안 컨텍스트는 계정을 통해 구현됩니다. 소프트웨어는 일반적으로 사용자 계정 또는 서비스 계정으로 실행됩니다. 서비스 계정은 특정 사용자의 보안 컨텍스트와 관계없이 소프트웨어가 기업 데이터를 조작할 수 있는 권한을 부여하기 위해 생성됩니다.
다양한 기업 리소스에 최소 권한 액세스를 할당하는 것은 사용자의 역할을 기준으로 하면 간단하지만, 서비스는 여전히 일정한 제약을 받으면서도 전체 프로세스에서 필요한 모든 작업을 수행할 수 있도록 최대 권한 액세스가 허용되도록 구성됩니다. 예를 들어 사용자는 자신에게 할당된 고객 계정에 해당하는 시스템 내 레코드 집합에 대해서만 쓰기 권한을 갖고, 그 밖의 모든 고객 계정에 대해서는 읽기 전용 권한만 가질 수 있습니다. 반면 서비스 계정에는 모든 계정에 대한 쓰기 권한이 필요합니다.
프로세스 자동화 내부의 권한 격차.
에이전트형 AI를 사용하면 사용자 활동과 기업 비즈니스 프로세스 활동이 서로 뒤섞입니다. 기업 비즈니스 프로세스는 모든 대상에 일괄적으로 결과를 제공하도록 설계됩니다(즉, 모든 고객, 모든 직원, 모든 인스턴스를 대상으로 함). 이러한 프로세스를 운영하려면 일반적으로 서비스 계정에 대부분의 개별 사용자보다 높은 권한이 필요하지만, 기업 프로세스를 시작하고 모니터링하며 감독할 책임은 개별 사용자 또는 사용자 팀에 있습니다.
예를 들어, 한 조직에서 신규 직원의 온보딩을 지원하기 위해 에이전틱 AI 어시스턴트를 활용한다고 가정해 보겠습니다. 각 신규 직원에게는 특정 역할이 있으며, 해당 역할에 따라 일정 수준으로 기업 시스템에 액세스해야 할 업무상 필요가 있습니다. 에이전틱 AI 어시스턴트는 온보딩을 담당하는 HR 직원의 권한 범위 내에서 실행됩니다. 그렇다면 AI 에이전트가 한 명 이상의 HR 팀원보다 더 높은 권한을 가진 신규 사용자 계정을 프로비저닝해야 하는 경우에는 어떻게 될까요?
에이전트의 권한을 에이전트를 사용하는 개인의 권한 보유 여부가 아니라 실행해야 하는 프로세스를 기준으로 설정하면, 사용자가 제어하는 소프트웨어를 통해 해당 사용자에게 허용되지 않은 데이터에 액세스할 수 있게 되어 보안 위반이 발생할 수 있습니다. 반면 권한 부족으로 작업이 차단되면 사용자는 해당 업무를 완료할 수 없습니다.
이 시나리오는 프로세스를 분기하여 해결할 수 있습니다. 필요한 수준의 권한을 부여할 권한이 있는 사람에게 하위 작업을 할당하고, 승인이 완료되면 프로세스를 다음 단계로 진행할 수 있습니다. 보안 컨텍스트에 따라 작업을 구분하는 이 기법은 에이전트형 솔루션에도 적용해야 합니다.
매핑 화면의 보안 컨텍스트 전환
에이전트형 AI를 사용하면 사용자 컨텍스트에서 프로세스를 시작하는 데 사용된 소프트웨어가 서비스 계정으로 실행되는 에이전트의 컨텍스트로 전환될 때 더 높은 권한을 얻게 될 가능성이 커질 수 있습니다. 이 경우 상승된 권한과 데이터 액세스가 보안 정책을 위반하지 않도록 에이전트형 시스템을 운영하는 것이 중요합니다.
워크플로의 각 단계에서 보안 컨텍스트가 전환되는 과정을 보여주는 프로세스 흐름도입니다. 데이터 액세스 지점에서 권한 및 민감도 변화를 표시합니다.
격차를 인식하고 앞으로 나아가기
적절한 보안 컨텍스트를 갖춘 AI 에이전트를 설계하려면 먼저 다음 질문에 답해야 합니다. 자동화하려는 프로세스는 한 명 이상의 사용자를 위해 배포되는 개인 비서인가요, 아니면 기업을 대신해 대규모로 실행되어야 하는 범용 비즈니스 프로세스인가요?
개인용인 경우, 프로세스 맵을 통해 모든 작업 및 데이터 액세스 요구 사항이 대상 사용자에게 적용되는 기존 기업 보안 정책을 준수하는지 확인하는 데 중점을 둡니다. 예외가 발견되면 높은 권한이 필요한 작업을 분리하고, 필요한 권한 수준에 따라 액세스 권한과 작업이 각 개인에게 적절히 매핑되어 있는지 확인합니다.
프로세스가 비즈니스 전반에 공통으로 적용되는 경우, 서비스 계정 설계를 검토하여 최고 권한 액세스가 위의 첫 번째 예와 같은 보안 허점을 초래하는지 파악하고, 필요한 권한이 없는 사용자에게 민감한 데이터가 노출되지 않는지 다시 한번 확인하십시오.
조직은 개인용 및 기업용 에이전트를 설계할 때 보안 컨텍스트를 고려해야 합니다. 높은 권한이 필요한 작업을 분리하고 사용자 계정과 서비스 계정 중 어느 계정이 작업을 실행할지 신중하게 고려하면 의도치 않은 보안 허점이 발생할 위험을 줄일 수 있습니다.
자동화와 보안 간의 긴장 관계에 대한 추가적인 관점은 다음 글에서 확인하세요: 데이터 보안과 자동화 간의 긴장 완화 | F5
작성자 소개
관련 블로그 게시물
AI 시대의 새로운 애플리케이션 제공 원칙으로 복잡성 극복하기
보안, 일관성, 완전 자동화에 중점을 둔 애플리케이션 제공의 새로운 6가지 원칙을 도입하여 복잡성 없이 하이브리드 멀티클라우드의 유연성을 누리세요.
디지털 혁신을 가속화하는 6가지 기술 역량
오늘날의 엔터프라이즈 아키텍처에는 기술 변화를 주도하는 데 핵심적인 민첩성, 확장성, 보안 및 관찰 가능성이 부족하지만, 이 여섯 가지 핵심 역량은 기업이 디지털 혁신 전반에 걸쳐 위험과 과제를 관리하는 데 도움이 될 것입니다.
하이브리드 근무가 ID 중심 보안으로의 전환을 이끌고 있습니다
자동화와 디지털화의 폭발적인 성장에 하이브리드 근무 모델로의 전환 추세가 더해지면서, IP 기반 보안에서 벗어나 ID 기반 액세스 전략으로 전환하는 움직임이 더욱 가속화될 것입니다.
관점의 현대화: 애플리케이션에서 경험으로
그리스와 로마의 신들처럼, 여러 신화에서도 동일한 존재가 다양한 모습으로 나타나는 것을 볼 수 있습니다. 본질적으로 각각의 화신은 기존 존재가 새로운 얼굴로 드러난 것입니다. 디지털 세계에서도 이와 비슷한 양상이 나타납니다. 우리가 ‘애플리케이션’이라고 부르는 것들은 흔히 기존 기능이 새로운 형태로 구현된 것이라 볼 수 있습니다.
코로나19 이후 기업 결제의 디지털 전환
디지털 결제는 과거의 현금만큼이나 보편화되었습니다. 코로나19 팬데믹으로 인한 봉쇄 조치는 소비자의 디지털 결제 서비스 의존도를 더욱 빠르게 높였습니다. 기업의 디지털 결제 도입 역시 가속화되었습니다. 대중을 상대로 영업하든 하지 않든 기업에는 여전히 지급해야 할 대금과 받아야 할 대금이 있기 때문입니다.
공급망 해킹과 보안에서 하드웨어의 역할
수석 아키텍트 Dave Schmitt와 CTO 오피스가 최근 Bloomberg의 Super Micro 관련 기사를 계기로 하드웨어 보안 전문성의 중요성을 되짚어봅니다. 또한 이 글에서는 시스템이 안전하게 보호되고 있는지 확인하기 위해 공급업체에 물어봐야 할 질문도 소개합니다.