모두가 생성형 AI라는 금광으로 몰려들고 있습니다. 적어도 겉으로 보기에는 그렇습니다. 요즘 제 받은편지함에 들어오는 보도자료 중 생성형 AI를 어떤 식으로든 언급하지 않는 것은 거의 없습니다.
하지만 좀 더 깊이 들여다보면, 현재 생성형 AI가 가장 큰 영향을 미치고 있는 분야는 마케팅이라는 사실을 금세 깨닫게 됩니다.
지금 우리가 목격하고 있는 것은 사람들이 손쉽게 얻을 수 있는 성과에만 매달리는 모습입니다. 상당한 개발이나 연구 없이도 쉽게 ‘덧붙일’ 수 있는 기능이라면 무엇이든 강력 접착제로 붙이듯 급조해 곧바로 출시하고 있습니다.
기술 기업이든 제조 기업이든 의료 기업이든, 대부분의 기업은 좀 더 신중하게 접근하고 있습니다. 굳이 표현하자면, 좀 더 전략적인 접근 방식이라고 할 수 있겠네요. 그리고 여기는 제 블로그니까, 그렇게 말해도 되겠죠.
생성형 AI를 사용하는 방식에 더 신중해야 하는 이유는 최근 ExtraHop 설문조사에서 나타난 인지도를 기준으로 볼 때 이미 널리 알려져 있습니다. 가장 큰 우려는 신뢰성과 보안이라는 두 가지로 나뉩니다.
생성형 AI 분야에서 신뢰성이란 정확성과 믿을 수 있음에 관한 것입니다. 코드든, 설정이든, 콘텐츠든 제가 받는 응답이 정확하고 올바르며 편향으로 가득하지 않다고 믿을 수 있어야 합니다.
보안 영역에서는 늘 그래왔듯 기존의 우려 사항에 더해 새로운 문제까지 고려해야 합니다. 이제는 고객과 직원의 개인 식별 정보(PII)가 노출되는 문제뿐만 아니라, 영업 비밀과 지식 재산이 외부로 광범위하게 유출되는 문제도 있습니다.
생성형 AI 위험 해결
신뢰성 문제를 해결하려면 많은 노력이 필요합니다. 이를 위해서는 (a) 대규모 학습과 미세 조정이 필요하거나, (b) 생성형 AI를 솔루션의 일부로만 활용하고 고급 프롬프트 엔지니어링 기법을 통해 자체 응답을 검증하는 아키텍처 접근 방식이 필요하기 때문입니다. 두 방식 모두 시간과 비용이 들기 때문에 아직은 생성형 AI 솔루션이 시장을 주도하는 모습을 보기 어렵습니다. 하지만 언젠가는 그렇게 될 것이며, 다만 시간이 필요합니다.
보안 문제는 해결하기가 더 쉬우면서도 더 어렵습니다. 영업 비밀이나 지식 재산이 노출되는 문제를 해결하려면 (a) LLM 인스턴스를 직접 배포하고 운영하면서 그에 수반되는 모든 일을 감당하거나, (b) 해당 문제를 우회하도록 아키텍처를 설계해야 합니다. 이는 LLM의 생성 기능을 주된 정보원이 아닌 도구로 활용하는 GPT 에이전트를 개발하는 것을 의미합니다.
예를 들어, 수집하는 데이터가 전략적으로 중요할 수 있다는 사실을 간과하기 쉽습니다. 제가 시장 활동을 추적하는 데 사용하는 모델은 별문제 없어 보일 수 있지만, F5가 시장을 어떻게 바라보고 해당 시장에서 어떻게 경쟁할 계획인지 상당 부분 드러냅니다. 이 데이터는 전략적 중요성을 지닙니다. 따라서 분석을 위해 공개 LLM에 맡길 만한 대상이 아닙니다. 게다가 생성형 AI는 표 형식의 데이터를 분석하는 데 형편없다는—정말 형편없다는 뜻입니다—현실까지 고려하면, 이는 적절하지 않은 활용 사례로 보입니다.
하지만 OpenAI 함수를 활용해 Python의 데이터 분석 기능을 이용한다면 전혀 나쁜 생각이 아닙니다. 단순히 데이터를 OpenAI에 넘겨 분석하게 하는 대신 GPT 에이전트를 구축해야 하므로 시간과 개발 노력이 필요하지만, 신뢰성과 보안이라는 두 가지 과제를 모두 해결할 수 있습니다.
고객 또는 직원의 개인 식별 정보(PII)가 실수로 노출되는 문제에는 이미 더 간단한 해결책인 데이터 마스킹이 활용되고 있습니다.
생성형 AI를 위한 데이터 마스킹
현재 데이터 마스킹은 개발자가 민감한 데이터의 노출 위험 없이 실제 데이터로 테스트할 수 있게 해 주기 때문에 개발 분야에서 이미 활용이 증가하고 있습니다. 또한 노출을 방지하는 수단으로 생성형 AI에도 동일하게 적용할 수 있습니다. 이미 다양한 오픈 소스 라이브러리와 도구가 제공되어 손쉽게 통합할 수 있습니다. 대부분의 생성형 AI가 API 기반이며, API 요청은 가로채서 민감한 데이터가 포함되어 있는지 검사하기 쉽기 때문입니다.
데이터 마스킹을 사용하여 생성형 AI 보안 문제를 해결하는 방식은 개발 환경과 프로덕션 환경 모두에서 효과적이며, 애플리케이션 수명 주기 전반에 걸쳐 민감한 데이터가 노출되지 않도록 보장합니다.
생성형 AI가 등장해 다른 모든 기술을 제치고 주목받기 전부터 데이터 마스킹이 확산되고 있었던 것은 분명합니다. 하지만 생성형 AI는 애플리케이션 개발뿐만 아니라 애플리케이션 제공 및 보안 영역에서도 데이터 마스킹 역량을 강화하는 촉매제가 될 가능성이 큽니다.
F5 솔루션이 AI 기반 앱을 지원하고 보호하는 방법을 알아보세요 ›
작성자 소개
Lori MacVittie는 F5 CTO 오피스의 수석 엔지니어이자 최고 에반젤리스트로, 애플리케이션 딜리버리, 자동화 전략 및 인프라 분야에서 깊이 있는 전문성을 보유하고 있습니다. AI 에이전트를 위한 가드레일을 정의하고, 취약한 멀티클라우드 아키텍처를 분석하며, 확장 가능한 시스템의 한계를 탐구하는 등 복잡한 문제를 명확하게 풀어내는 것으로 잘 알려져 있습니다. 애플리케이션 개발, IT 아키텍처, 네트워크 및 시스템 운영 전반에 걸쳐 30년 이상의 업계 경험을 쌓았습니다. F5에 합류하기 전에는 수상 경력이 있는 기술 편집자로 활동했습니다. MacVittie는 컴퓨터 과학 석사 학위를 보유하고 있으며, 보안, 클라우드 및 엔터프라이즈 아키텍처 분야를 아우르는 다수의 저서를 집필한 작가입니다. 또한 보드게임과 비디오 게임을 열정적으로 즐기며, 치즈에 대해서는 거리낌 없이 확고한 견해를 갖고 있습니다.
Lori Mac Vittie의 다른 블로그 게시물관련 블로그 게시물
AI 시대의 새로운 애플리케이션 제공 원칙으로 복잡성 극복하기
보안, 일관성, 완전 자동화에 중점을 둔 애플리케이션 제공의 새로운 6가지 원칙을 도입하여 복잡성 없이 하이브리드 멀티클라우드의 유연성을 누리세요.
디지털 혁신을 가속화하는 6가지 기술 역량
오늘날의 엔터프라이즈 아키텍처에는 기술 변화를 주도하는 데 핵심적인 민첩성, 확장성, 보안 및 관찰 가능성이 부족하지만, 이 여섯 가지 핵심 역량은 기업이 디지털 혁신 전반에 걸쳐 위험과 과제를 관리하는 데 도움이 될 것입니다.
하이브리드 근무가 ID 중심 보안으로의 전환을 이끌고 있습니다
자동화와 디지털화의 폭발적인 성장에 하이브리드 근무 모델로의 전환 추세가 더해지면서, IP 기반 보안에서 벗어나 ID 기반 액세스 전략으로 전환하는 움직임이 더욱 가속화될 것입니다.
관점의 현대화: 애플리케이션에서 경험으로
그리스와 로마의 신들처럼, 여러 신화에서도 동일한 존재가 다양한 모습으로 나타나는 것을 볼 수 있습니다. 본질적으로 각각의 화신은 기존 존재가 새로운 얼굴로 드러난 것입니다. 디지털 세계에서도 이와 비슷한 양상이 나타납니다. 우리가 ‘애플리케이션’이라고 부르는 것들은 흔히 기존 기능이 새로운 형태로 구현된 것이라 볼 수 있습니다.
코로나19 이후 기업 결제의 디지털 전환
디지털 결제는 과거의 현금만큼이나 보편화되었습니다. 코로나19 팬데믹으로 인한 봉쇄 조치는 소비자의 디지털 결제 서비스 의존도를 더욱 빠르게 높였습니다. 기업의 디지털 결제 도입 역시 가속화되었습니다. 대중을 상대로 영업하든 하지 않든 기업에는 여전히 지급해야 할 대금과 받아야 할 대금이 있기 때문입니다.
공급망 해킹과 보안에서 하드웨어의 역할
수석 아키텍트 Dave Schmitt와 CTO 오피스가 최근 Bloomberg의 Super Micro 관련 기사를 계기로 하드웨어 보안 전문성의 중요성을 되짚어봅니다. 또한 이 글에서는 시스템이 안전하게 보호되고 있는지 확인하기 위해 공급업체에 물어봐야 할 질문도 소개합니다.