기업들이 AI의 강력한 기능을 활용할 방법을 모색하면서, 의사 결정을 개선하기 위해 대규모 언어 모델(LLM)을 도입하는 사례가 늘고 있습니다. 하지만 ChatGPT와 같은 LLM은 인터넷 전반에 공개된 방대한 데이터를 기반으로 학습되기 때문에, 자체 기업 데이터에서 인사이트를 얻기 위해 AI를 활용하려는 기업에는 유용성이 제한적입니다. 게다가 이러한 모델을 학습시키는 데 수개월의 시간과 막대한 비용이 들 수 있어, 모든 응답이 실제로 유의미하고 최신 정보를 반영하도록 보장하기란 사실상 불가능합니다.
문제는 기업이 자연어 처리를 활용해 자사 고유의 데이터에서 강력한 최신 AI 인사이트를 어떻게 얻을 수 있느냐는 것입니다. 자체 LLM을 구축하려면 감당하기 어려울 정도로 많은 비용이 듭니다. 기존 LLM을 전문 데이터로 미세 조정하는 것 역시 마찬가지입니다.
다행히 검색 증강 생성(RAG)이 기업이 이러한 한계를 극복할 수 있는 방법으로 부상했습니다. 기업은 이 고급 AI 기술을 활용해 ChatGPT와 같은 사전 학습된 LLM을 자체 독점 데이터와 결합함으로써 정확하고 맥락을 이해하는 응답을 얻을 수 있습니다. 또한 승인된 사내 절차, 정책 또는 제품 정보 등 가장 관련성이 높은 출처에서만 정보를 가져오도록 사용되는 데이터를 제한할 수 있습니다. 아울러 RAG는 기업의 벡터 데이터베이스에서 정보를 실시간으로 검색하므로, 새로운 데이터가 추가될 때마다 항상 최신 정보를 확보할 수 있습니다.
LLM의 이점과 기업 데이터의 결합
RAG는 데이터 검색과 언어 생성을 효과적으로 결합합니다. 검색기는 검색 엔진처럼 작동하여 사용자의 쿼리를 기반으로 데이터를 검색하고, 정교한 알고리즘을 활용해 가장 관련성 높은 정보만 수집합니다. 생성기는 일반적으로 ChatGPT와 같은 LLM으로, 이 정보를 바탕으로 정확하고 충분한 근거를 갖춘 답변을 생성합니다. RAG는 이 두 구성 요소를 통합함으로써 기업이 경쟁 우위를 확보할 수 있는 맞춤형 AI 시스템을 구축하도록 지원합니다.
잠재적인 활용 분야는 매우 다양합니다. 영업 및 마케팅 팀은 시장 보고서, 고객 피드백, 소셜 미디어 피드의 정보를 신속하게 결합하여 구매 동향과 고객 선호도를 파악할 수 있습니다. 고객 서비스 팀은 제품 정보, 고객 프로필, 구매 이력을 활용해 고객 문의에 맞춤형 답변을 제공하는 RAG 기반 챗봇을 통해 고객 충성도를 높일 수 있습니다. 법무 팀은 법률 자문을 제공할 때 계약서, 판례 및 기타 문서에서 AI가 학습한 내용을 손쉽게 활용할 수 있습니다. RAG는 직원들이 여러 데이터베이스에 저장된 관련성 높은 최신 정형 및 비정형 데이터에 빠르고 정확하게 접근하도록 지원함으로써 업무 생산성을 높이고 고객 경험을 개선하며, 인력 투입을 줄이고 고객 충성도를 강화해 수익을 증대할 수 있습니다.
RAG는 엔터프라이즈 AI를 혁신할 것으로 기대되지만, 여전히 몇 가지 장애물이 남아 있습니다. 주요 과제 중 하나는 대부분의 기업이 구축해 놓은 분산형 IT 환경 전반에서 데이터를 검색하고 통합하는 것입니다. 오늘날 대다수 기업은 매우 복잡한 하이브리드 멀티클라우드 환경에서 애플리케이션을 운영합니다. 또한 데이터는 일반적으로 온프레미스 데이터 센터와 Microsoft Azure, Google Cloud Platform, AWS 같은 여러 클라우드를 비롯한 다양한 위치에 저장되므로, 이렇게 사일로화된 모든 데이터를 LLM과 통합하기가 어려울 수 있습니다. 게다가 적절한 보호 조치가 없으면 개인정보가 노출될 위험도 있습니다.
하이브리드 멀티클라우드 환경 전반에 RAG 구현
F5는 이러한 문제를 해결하기 위해 데이터 인프라 기업 NetApp과 협력해 왔습니다. F5의 안전한 고성능 멀티클라우드 네트워킹 기능과 NetApp의 강력한 데이터 관리 솔루션을 통합함으로써, 기업 데이터가 어디에 있든 신속하게 검색하고 LLM과 안전하게 결합할 수 있도록 지원하고 있습니다.
NetApp의 Cloud Volumes ONTAP 및 Azure NetApp Files는 데이터 보호 및 규정 준수를 강화하는 동시에 클라우드 스토리지 비용과 성능을 최적화합니다. F5 Distributed Cloud Network Connect와 함께 사용하면 데이터가 어디에 저장되어 있든 영역과 리전 간에 빠르고 안전하게 연결하고 이동할 수 있습니다.
기업들이 비즈니스 성장을 촉진하는 LLM 애플리케이션을 제공할 방법을 모색하는 가운데, 당사의 공동 솔루션은 비용을 절감하는 동시에 데이터를 원활하게 관리, 보호 및 최적화할 수 있도록 지원합니다. 기업 데이터는 비공개로 유지됩니다. 또한 사용자는 디지털 시대에 성공하는 데 필요한 정확하고 시의적절하며 맥락에 부합하는 정보를 얻을 수 있습니다.
F5의 최고 기술 및 AI 책임자인 쿠날 아난드(Kunal Anand)는 이렇게 말했습니다. “양사의 공동 솔루션은 독보적인 성능과 철통같은 보안을 제공하여 기업이 각자의 고유한 비즈니스 환경에서 AI의 역량을 안심하고 활용할 수 있도록 지원합니다.”
엔터프라이즈 AI의 잠재력을 온전히 실현하기
이번 파트너십은 기업이 하이브리드 멀티클라우드 환경을 연결할 수 있도록 지원해 온 F5와 NetApp 간의 기존 협력을 기반으로 합니다. 또한 이는 시작에 불과하다는 점도 중요합니다. 앞으로 몇 달 동안 양사는 지속적으로 협력하여 기업이 분산된 IT 환경 전반에서 AI의 잠재력을 최대한 활용할 수 있도록 지원할 것입니다.
자세한 내용은 보도 자료를 참조하세요. 또한 F5 및 NetApp 웹페이지를 방문해 보세요.
작성자 소개
Hunter Smit은 F5에서 솔루션 및 전략 부문 제품 마케팅을 담당하는 시니어 매니저입니다. AI 인프라와 애플리케이션 보안을 비롯한 F5 포트폴리오 전반의 솔루션 마케팅을 이끌고 있으며, F5의 신흥 AI 데이터 전송 시장 진출을 주도하고 있습니다. Hunter는 Whitworth University 경영대학 자문위원회 위원이며, 제품 마케팅 겸임 강사로도 활동했습니다. Whitworth University에서 경영학 석사(MBA)와 경영학 학사 학위를 취득했습니다.
Hunter Smit의 다른 블로그 게시물관련 블로그 게시물
성평등을 향한 여정: 사이버 보안 분야에서 성공적인 커리어를 개척하는 방법에 관한 Jenn Gile과의 Q&A
F5의 ‘성평등을 향한 여정’ 시리즈 네 번째 Q&A에서는 Rachael Shah와 NGINX 제품 마케팅 책임자 Jenn Gile이 사이버 보안 직종에 대한 오해를 바로잡고, 사이버 보안 분야의 성별 격차를 해소하기 위한 조언과 그 이점에 대해 이야기합니다.
TLS 검사에서 피터 파커 원칙 다루기
“큰 힘에는 큰 책임이 따른다.” 볼테르와 처칠도 이와 비슷한 말을 남겼지만, 이 문구는 스파이더맨 코믹스에서 벤 삼촌의 말로 가장 널리 알려져 있습니다. 물론 이 문구가 문화적으로 널리 통용되는 이유 중 하나는 TLS 검사를 비롯해 수많은 상황과 주제에 적용할 수 있기 때문입니다.
Venafi와 F5를 통한 머신 아이덴티티 보호
‘머신 아이덴티티’란 간단히 말해 자동화된 프로세스가 자신의 신원을 식별할 수 있도록 하고, 다른 자동화 시스템과 프로세스가 관련 리소스에 적절한 수준의 접근 권한을 부여하도록 하는 방법을 의미합니다. 이 개념 자체는 새로운 것이 아닙니다. 비교적 새로운 점은 이를 구현해야 하는 규모입니다.
마이너와 미니언: 데이터 유출만이 비용을 초래하는 것은 아닙니다
물론 데이터 유출은 더 큰 비용을 초래할 수 있고(적어도 지금은), 실패 사실을 세상에 드러낼 수밖에 없게 합니다(통지 의무가 있으니까요). 하지만 보안을 단순히 데이터 노출 문제로만 봐서는 안 됩니다. 요즘은 데이터가...
내 클라우드에서 나가!
F5의 Jay Kelley가 전하는 최신 소식에는 Microsoft Office 365용 신규 ID 및 액세스 솔루션을 배포할 때 고려해야 할 사항이 정리되어 있습니다.
Shift(웹 앱) 보안 레터
웹 앱 보안을 개발 초기 단계로 앞당기세요. F5 블로그에서 DevOps 파이프라인 초기에 보안을 통합하여 취약점을 예방하고 시간을 절약하는 방법을 알아보세요.