생성형 AI는 누구도 눈을 뗄 수 없을 만큼 반짝이는 물건과도 같습니다.
전 세계 거의 모든 기업이 생성형 AI 도구가 비즈니스를 혁신할 잠재력에 군침을 흘리고 있습니다. 그럴 만한 이유가 있습니다.
자연어 요청에 따라 텍스트나 이미지와 같은 콘텐츠를 생성하는 머신러닝의 한 형태인 생성형 AI는 판도를 바꾸는 기술입니다. 생산성 향상부터 개인화 개선에 이르기까지 생성형 AI 도구는 다양한 이점을 제공합니다.
예를 들어, 최근 Gartner가 실시한 설문조사에서 2,500명 이상의 경영진은 생성형 AI 투자의 주된 목적으로 고객 경험 및 유지(38%)를 꼽았습니다. 그 뒤를 매출 성장(26%), 비용 최적화(17%), 비즈니스 연속성(7%) 등의 분야가 이었습니다.
또한 IBM이 CEO 3,000명을 대상으로 별도로 실시한 설문조사에서 CEO 응답자의 69%는 생성형 AI가 조직 전반에 폭넓은 이점을 제공한다고 답했습니다. 그러나 CEO가 아닌 고위 임원 중 조직이 생성형 AI를 책임감 있게 도입할 준비가 되어 있다고 답한 비율은 30%에 불과했습니다.
“생성형 AI가 빠르게 발전하는 만큼, 조직은 순식간에 곤경에 처할 수 있습니다.”
솔직히 말해, 이는 우려스러운 일입니다. 고위 경영진 중 자신의 조직이 생성형 AI를 책임감 있게 도입할 준비가 되어 있다고 답한 비율이 3분의 1도 되지 않는다니요?
생성형 AI 도구를 사용하면 얻을 수 있는 온갖 긍정적인 효과에 쉽게 매료될 수 있습니다. 하지만 생성형 AI 도구의 사용에는 중대한 위험과 과제가 따를 수 있다는 점을 잊어서는 안 됩니다.
생성형 AI가 빠르게 발전하고 있는 만큼, 조직은 구성원들이 생성형 AI 도구를 어떻게 활용하는지 세심하게 관리하고 생성형 AI 인터페이스에 입력되는 데이터를 지속적으로 파악하지 않으면 순식간에 곤경에 처할 수 있습니다.
생성형 AI가 긍정적이고 유익한 경험을 순식간에 비용이 많이 드는 보안 골칫거리로 바꿔 놓을 수 있는 수많은 방식 중 몇 가지를 소개합니다:
- 민감한 기업 데이터 유출.
삼성 직원들이 실수로 OpenAI의 챗봇 ChatGPT에 코드를 업로드한 사건에 대해 들어보거나 읽어보셨을 것입니다. 이로 인해 독점 데이터가 노출되었을 뿐만 아니라 삼성은 전 세계적으로 심각한 홍보 위기를 겪었습니다. 그리고 이런 일이 이미 발생했거나 앞으로 발생할 수 있는 조직은 삼성뿐만이 아닐 것입니다. 다음은 여러분의 회사가 될 수도 있습니다. - 잘못된 정보와 편향의 확산.
ChatGPT와 같은 생성형 AI 도구는 대규모 언어 모델(LLM)을 기반으로 작동합니다. LLM은 기사, 웹사이트를 비롯한 온갖 출처의 데이터 세트로 학습되며, 여기에는 부정확하거나 잘못된 정보도 포함됩니다. 생성형 AI 도구가 잘못된 정보를 생성하거나 속아 편향을 확산하지 않을 것이라고 믿고, 그 결과물을 캠페인에 활용하거나 판단의 근거로 삼기 쉽습니다. 하지만 어느새 진실과 거짓의 경계가 흐려지고, 기업의 평판도 함께 훼손됩니다. 게다가 생성형 AI 챗봇이 만들어 내는 편향과 잘못된 정보는 편향 AI 환각이 초래하는 문제에 비하면 시작에 불과합니다! - 개인 식별 정보(PII)의 부적절한 처리.
생성형 AI 도구와 상호작용하는 과정에서 PII가 수집될 수 있습니다. 엄격한 데이터 개인정보 보호 조치를 준수하는 것은 해당 도구를 제공하는 기업의 책임입니다. 이를 준수하지 않으면, 계정 탈취에 대응해야 하는 상황에 처할 수 있습니다. 또는 악의적인 행위자가 고객의 PII를 손에 넣을 경우 심각한 법적 문제에 휘말리고 고객과의 관계가 악화될 수 있습니다.
다행히도 많은 조직이 안전한 관행을 유지하기 위한 조치를 취하고 있습니다. 여러 기업은 생성형 AI의 긍정적인 측면과 부정적인 측면에 관한 교육을 제공하거나, 직원들이 책임감 있게 탐색하고 실험하도록 장려합니다. 또 다른 기업들은 직원이 확인하고 반드시 준수해야 할 지침을 담은 생성형 AI 정책을 마련했습니다.
이러한 조치가 분명 의미는 있지만, 생성형 AI 도구의 높은 인기와 복잡성, 빠른 발전 속도를 고려하면 더욱 강력한 보안이 필요합니다. 게다가 사람의 실수는 언제든 발생할 수 있습니다.
아마 한 번쯤, 아니 어쩌면 여러 번 들어보셨을 겁니다. 보이지 않는 것이 오히려 해가 될 수 있다는 말을요. 직장에서 생성형 AI 도구를 사용할 때만큼 이 말이 정확히 들어맞는 경우도 없습니다. 제대로 파악하지 못하면 회사가 불리한 처지에 놓일 수 있습니다.
“우선적으로 고려해야 할 제로 트러스트 보안의 핵심 전략 중 하나는 생성형 AI 도구에 대한 접근을 탐지하는 것입니다.”
직장에서 생성형 AI를 사용할 때 발생할 수 있는 위협으로부터 보호하려면 기업은 제로 트러스트 접근 방식을 취해야 합니다. 제로 트러스트의 핵심 원칙은 “절대 신뢰하지 말고, 항상 검증하라”라는 점을 기억하세요. 그리고 오늘날 우선시해야 할 제로 트러스트 보안의 핵심 전략 중 하나는 생성형 AI 도구에 대한 접근을 탐지하는 것입니다.
직원들이 업무에서 생성형 AI 도구를 어떻게 활용하는지에 대한 가시성을 높이고 세밀한 제어 기능을 제공함으로써, 보안 팀은 잠재적 위험을 식별하고 관리할 수 있습니다. 이를 통해 조직은 다음과 같은 이점을 얻을 수 있습니다:
- 데이터, 개인 식별 정보(PII), 코드, 지식 재산권(IP) 등을 보호합니다.
- 회사 지침을 뒷받침하는 정책을 활성화하고 적용합니다.
- 생성형 AI 도구의 의도적 또는 우발적 오용으로부터 보안을 유지합니다.
생성형 AI 환경이 계속해서 빠르게 변화하는 가운데, 기업은 생성형 AI 도구 탐지 기능을 제공하는 제로 트러스트 보안 프레임워크를 통해 보안 우려를 덜 수 있습니다.
직장에서 생성형 AI 도구를 사용할 때 발생할 수 있는 잠재적 위험을 F5가 어떻게 완화하는 데 도움을 줄 수 있는지 자세히 알아보려면 이 F5 BIG-IP SSL Orchestrator DevCentral 문서를 확인하세요.
작성자 소개
관련 블로그 게시물
성평등을 향한 여정: 사이버 보안 분야에서 성공적인 커리어를 개척하는 방법에 관한 Jenn Gile과의 Q&A
F5의 ‘성평등을 향한 여정’ 시리즈 네 번째 Q&A에서는 Rachael Shah와 NGINX 제품 마케팅 책임자 Jenn Gile이 사이버 보안 직종에 대한 오해를 바로잡고, 사이버 보안 분야의 성별 격차를 해소하기 위한 조언과 그 이점에 대해 이야기합니다.
TLS 검사에서 피터 파커 원칙 다루기
“큰 힘에는 큰 책임이 따른다.” 볼테르와 처칠도 이와 비슷한 말을 남겼지만, 이 문구는 스파이더맨 코믹스에서 벤 삼촌의 말로 가장 널리 알려져 있습니다. 물론 이 문구가 문화적으로 널리 통용되는 이유 중 하나는 TLS 검사를 비롯해 수많은 상황과 주제에 적용할 수 있기 때문입니다.
Venafi와 F5를 통한 머신 아이덴티티 보호
‘머신 아이덴티티’란 간단히 말해 자동화된 프로세스가 자신의 신원을 식별할 수 있도록 하고, 다른 자동화 시스템과 프로세스가 관련 리소스에 적절한 수준의 접근 권한을 부여하도록 하는 방법을 의미합니다. 이 개념 자체는 새로운 것이 아닙니다. 비교적 새로운 점은 이를 구현해야 하는 규모입니다.
마이너와 미니언: 데이터 유출만이 비용을 초래하는 것은 아닙니다
물론 데이터 유출은 더 큰 비용을 초래할 수 있고(적어도 지금은), 실패 사실을 세상에 드러낼 수밖에 없게 합니다(통지 의무가 있으니까요). 하지만 보안을 단순히 데이터 노출 문제로만 봐서는 안 됩니다. 요즘은 데이터가...
내 클라우드에서 나가!
F5의 Jay Kelley가 전하는 최신 소식에는 Microsoft Office 365용 신규 ID 및 액세스 솔루션을 배포할 때 고려해야 할 사항이 정리되어 있습니다.
Shift(웹 앱) 보안 레터
웹 앱 보안을 개발 초기 단계로 앞당기세요. F5 블로그에서 DevOps 파이프라인 초기에 보안을 통합하여 취약점을 예방하고 시간을 절약하는 방법을 알아보세요.