지난 18개월 동안 생성형 AI(GenAI)는 전 세계적으로 큰 돌풍을 일으켰습니다.
ChatGPT 및 DALL-E와 같은 새로운 서비스는 사용자의 자연어 프롬프트에 응답하여 텍스트, 이미지, 소프트웨어 코드를 생성할 수 있습니다.
이제 새로운 차원의 생산성 향상이 가능해졌으며, 블룸버그 인텔리전스의 최근 연구에 따르면 생성형 AI 시장은 2032년까지 최대 1조 3,000억 달러 규모에 이를 수 있습니다.
이 기술의 가치가 이제 분명하게 드러나면서, 컴퓨터가 신뢰할 만한 텍스트와 기타 콘텐츠를 생성할 수 있도록 하는 대규모 언어 모델(LLM)을 산업 및 지역별로 특화해 개발하려는 움직임이 점차 확산되고 있습니다.
LLM은 방대한 양의 데이터로 학습된 통계적 언어 모델입니다. 텍스트와 기타 콘텐츠를 생성하고 번역하는 것은 물론, 자연어 처리 작업을 수행하는 데에도 사용할 수 있습니다. LLM은 일반적으로 딥러닝 아키텍처를 기반으로 합니다.
전 세계의 선도적인 통신 사업자들은 이미 이러한 특화 LLM의 제공과 보안에서 핵심적인 역할을 수행하기 위한 준비에 나서고 있습니다. 특히 필요한 컴퓨팅 인프라를 자체적으로 구축할 여력이 없는 기업, 스타트업, 대학 및 공공기관에서 엔드투엔드 생성형 AI 솔루션에 대한 수요가 높을 것으로 예상하고 있습니다.
이는 주목할 만한 추세이며, 적절한 보안 조치가 마련된다면 서비스형 LLM 솔루션은 조만간 의료, 교육, 교통 및 기타 주요 분야(통신 포함)에 특화된 생성형 AI 애플리케이션을 개발하는 데 활용될 수 있습니다.
과제
그렇다면 이 모든 것이 제대로 작동하도록 하기 위해 다음으로 해야 할 일은 무엇이며, 앞으로 해결해야 할 주요 과제에는 어떤 것들이 있을까요?
매우 빠른 응답성과 높은 신뢰성, 상시 가용성을 갖춰야 하므로 많은 LLM이 여러 클라우드와 네트워크 엣지 위치에 분산될 가능성이 높습니다.
실제로 적절한 수준의 지연 시간을 확보한다면, 사용자가 실시간 ‘대화형’ 응답을 필요로 하게 됨에 따라 생성형 AI는 통신사의 엣지 서비스에서 핵심적인 역할을 하게 될 것입니다.
매출 성장에 어려움을 겪어 온 통신사들에게 특화된 생성형 AI 시스템을 지원하는 엣지 인프라 제공은 매우 중요한 새로운 시장이 될 수 있습니다. 블룸버그 인텔리전스는 LLM 학습에 사용되는 생성형 AI 서비스형 인프라 시장이 2032년까지 2,470억 달러 규모에 이를 것으로 전망합니다.
그럼에도 불구하고 생성형 AI로 대박을 노리는 기업들은 신중하게 접근해야 합니다.
잠재적인 공격 표면을 확대할 수 있는 분산 아키텍처에는 AI 학습 및 추론 단계 모두에서 데이터와 개인 식별 정보의 유출을 방지할 수 있는 강력하고 확장 가능한 보안 솔루션이 필요합니다.
악의적 행위자들이 상호 연결된 여러 시스템으로 침투 범위를 넓히기 위해 측면 이동 기법을 점점 더 많이 활용함에 따라, 통신사는 앱뿐만 아니라 제3자가 서비스형 LLM에 액세스하는 데 사용할 API까지 모두 보호해야 합니다. 이러한 문제에 대한 인식을 높이기 위해 OWASP(Open Source Foundation for Application Security)는 최근 개발자, 디자이너, 아키텍트, 관리자 및 조직을 대상으로 LLM 배포 및 관리 시 발생할 수 있는 잠재적 보안 위험을 알리는 새로운 프로젝트를 시작했습니다.
한 가지는 분명합니다. 생성형 AI 시스템은 개인적으로나 상업적으로 민감한 데이터를 처리해야 하는 경우가 많으므로, 통신사가 이 시장에서 신뢰받는 사업자로 자리매김하려면 고객의 신뢰를 유지해야 합니다. 이러한 이유로 많은 정부와 규제 기관은 자국 관할권 내에 위치한 컴퓨팅 인프라에서 이러한 시스템이 운영되기를 원합니다. 한편, 기업 역시 지식 재산을 위협할 수 있는 민감한 데이터를 공유하기를 꺼리기 때문에 프라이빗 LLM 서비스를 선호합니다.
주목할 만한 또 다른 사안으로는 AI 클러스터가 가상 사용자 커뮤니티처럼 작동한다는 점이 있습니다. 이에 따라 국가와 기업의 비공개 저장소에 있는 데이터에 접근하려면 고성능 데이터 경로가 필요합니다.
또한 AI가 네트워크 트래픽과 인프라에 미치는 영향은 국가와 기업 모두의 AI 앱 자체 호스팅 계획에 따라 갈수록 크게 좌우될 것입니다. 환각, 저작권, 보안 문제뿐만 아니라 AI가 환경에 미치는 영향에 대한 우려로 인해 많은 국가와 기업이 데이터의 보안과 통제력을 한층 강화하려 하고 있습니다. 아울러 예상되는 GPU 부하를 완화할 새로운 방안도 필요합니다. 이러한 모든 고려 사항은 AI 인프라의 총소유비용(TCO)에 영향을 미칩니다.
통신사의 역할: 다양한 환경 전반에 걸친 유연하고 확장 가능한 보호
통신사는 AI 혁명에서 중요한 역할을 할 수 있습니다. 전국 단위의 인프라를 보유하고 있고 기존 B2B 서비스를 제공하고 있어, AI 서비스형(AI-as-a-Service) 제공업체로 자리매김하기에 적합한 선택지입니다.
대표적인 사례로, F5는 이미 유럽의 한 통신사가 새로운 생성형 AI 서비스를 안전하게 보호할 수 있도록 지원하고 있습니다. 이 고객은 Nvidia DGX Super POD와 Nvidia AI Enterprise 기술을 활용해 현지 언어로 처음부터 학습된 최초의 LLM을 개발하고 있습니다. 목표는 해당 언어의 미묘한 뉘앙스뿐만 아니라 고유한 문법, 맥락 및 문화적 정체성까지 포착하는 것입니다.
여러 엣지 사이트 전반에서 솔루션을 보호하기 위해 이 통신사는 클라우드 기반 서비스로 제공되는 F5 Distributed Cloud Web Application and API Protection (WAAP)을 활용할 예정입니다. 또한 F5의 ADC 클러스터를 활용해 엣지 인프라 전반에서 새로운 AI 플랫폼의 부하 분산을 수행하고 있습니다.
무엇보다도 F5의 솔루션은 퍼블릭 클라우드와 멀티테넌시 데이터 센터는 물론, 자체 구축 환경과 엣지 인프라 전반에도 적용할 수 있습니다.
또한 F5 Distributed Cloud WAAP 및 관련 API 보안 솔루션은 트래픽 증가에 따라 빠르게 확장할 수 있어 LLM 서비스 제공에 드는 전체 비용을 절감합니다. F5는 통신사와 기타 관리형 서비스 제공업체가 엔터프라이즈 고객에게 서비스 수준 계약을 제공하는 데 필요한 트래픽 흐름, 지연 시간 및 응답 시간에 대한 가시성도 제공합니다.
F5가 도움을 줄 수 있는 또 다른 방법은 LLM 추론 및 AI 작업에 막대한 리소스가 필요하다는 문제를 해결하는 것입니다. 이러한 워크로드에는 대규모 데이터 교환이 필요하며, 대규모로 안전하게 데이터를 교환해야 하기 때문에 병목 현상이 자주 발생합니다. 이로 인해 귀중한 리소스의 활용률이 낮아지고, 운영 비용이 증가하며 원하는 성과 달성이 지연될 수 있습니다.
통신사가 전략적으로 접근하고 확장 가능하면서도 강력한 보안 솔루션을 현명하게 활용한다면, 산업 및 국가별 특화 LLM을 제공하는 신뢰받는 사업자로 자리매김할 수 있는 모든 역량을 갖추게 됩니다. 이에 성공한 통신사는 향후 수년간 확실한 경쟁 우위를 확보할 것입니다.
더 자세히 알아보고 싶으신가요? 미팅을 예약하고 2월 26일부터 29일까지 바르셀로나에서 열리는 모바일 월드 콩그레스(홀 5, 부스 5C60)에서 F5를 만나보세요.
관련 블로그 게시물
성평등을 향한 여정: 사이버 보안 분야에서 성공적인 커리어를 개척하는 방법에 관한 Jenn Gile과의 Q&A
F5의 ‘성평등을 향한 여정’ 시리즈 네 번째 Q&A에서는 Rachael Shah와 NGINX 제품 마케팅 책임자 Jenn Gile이 사이버 보안 직종에 대한 오해를 바로잡고, 사이버 보안 분야의 성별 격차를 해소하기 위한 조언과 그 이점에 대해 이야기합니다.
TLS 검사에서 피터 파커 원칙 다루기
“큰 힘에는 큰 책임이 따른다.” 볼테르와 처칠도 이와 비슷한 말을 남겼지만, 이 문구는 스파이더맨 코믹스에서 벤 삼촌의 말로 가장 널리 알려져 있습니다. 물론 이 문구가 문화적으로 널리 통용되는 이유 중 하나는 TLS 검사를 비롯해 수많은 상황과 주제에 적용할 수 있기 때문입니다.
Venafi와 F5를 통한 머신 아이덴티티 보호
‘머신 아이덴티티’란 간단히 말해 자동화된 프로세스가 자신의 신원을 식별할 수 있도록 하고, 다른 자동화 시스템과 프로세스가 관련 리소스에 적절한 수준의 접근 권한을 부여하도록 하는 방법을 의미합니다. 이 개념 자체는 새로운 것이 아닙니다. 비교적 새로운 점은 이를 구현해야 하는 규모입니다.
마이너와 미니언: 데이터 유출만이 비용을 초래하는 것은 아닙니다
물론 데이터 유출은 더 큰 비용을 초래할 수 있고(적어도 지금은), 실패 사실을 세상에 드러낼 수밖에 없게 합니다(통지 의무가 있으니까요). 하지만 보안을 단순히 데이터 노출 문제로만 봐서는 안 됩니다. 요즘은 데이터가...
내 클라우드에서 나가!
F5의 Jay Kelley가 전하는 최신 소식에는 Microsoft Office 365용 신규 ID 및 액세스 솔루션을 배포할 때 고려해야 할 사항이 정리되어 있습니다.
Shift(웹 앱) 보안 레터
웹 앱 보안을 개발 초기 단계로 앞당기세요. F5 블로그에서 DevOps 파이프라인 초기에 보안을 통합하여 취약점을 예방하고 시간을 절약하는 방법을 알아보세요.