언론 보도만 보면 생성형 AI 분야에는 OpenAI밖에 없는 것처럼 보입니다. AI에 관한 대화라면 어디서나 OpenAI가 언급되며, 이 글도 예외는 아닙니다. 하지만 OpenAI만이 유일한 서비스인 것도, 사용할 수 있는 유일한 모델인 것도 아닙니다.
실제로 기업의 생성형 AI 도입 양상은 언론 보도에서 생각하게 되는 것만큼 획일적이지 않습니다.
최근 실시한 연구에 따르면 조직은 평균적으로 거의 세 가지의 서로 다른 모델을 운영하고 있는 것으로 나타났습니다. 이러한 선택은 사용 사례에 따라 결정되는 것으로 보입니다.
예를 들어 보안 운영 사용 사례가 오픈 소스 모델을 선호하는 것은 놀라운 일이 아닙니다. 오픈 소스 모델은 프로세스와 민감한 기업 데이터가 노출될 우려 없이 비공개로 학습시킬 수 있기 때문입니다. 모델과 민감한 데이터를 공유해야 하는 경우가 많은 콘텐츠 제작도 마찬가지입니다. 또한 많은 조직이 온프레미스와 Azure 모두에서 Microsoft 솔루션과 긴밀하게 연계되어 있으므로, 워크플로 자동화 사용 사례에서 Microsoft의 호스팅 서비스를 고려하는 것도 당연합니다.
단일 모델만으로는 점점 늘어나는 기업용 생성형 AI 사용 사례의 모든 기술 및 비즈니스 요구 사항을 충족할 수 없습니다.
이로 인해 모델 선택에 따라 배포 패턴이 달라지므로 애플리케이션 제공, 보안 및 전반적인 운영 측면에서 몇 가지 과제가 발생합니다.
새롭게 부상하는 AI 배포 패턴
세 가지 기본 배포 패턴이 새롭게 등장하고 있습니다. 핵심적인 차이는 추론 서비스 확장에 대한 운영 책임을 누가 맡느냐에 있습니다. 모든 패턴에서 조직은 애플리케이션 제공과 보안을 책임집니다.
- SaaS 관리형. SaaS 관리형 배포 패턴에서는 AI 애플리케이션이 API를 사용하여 OpenAI ChatGPT와 같은 AI 관리형 서비스에 액세스합니다. 확장성에 대한 운영 책임은 제공업체에 있습니다.
- 클라우드 관리형. 클라우드 관리형 배포 패턴은 클라우드 공급자가 호스팅하는 AI 서비스를 활용합니다. 이러한 서비스에는 여전히 API를 통해 액세스하지만, 기업 전용으로 사용하거나 공유할 수 있습니다. AI 앱 자체도 퍼블릭 클라우드 또는 온프레미스에 배포할 수 있습니다. 서비스가 전용인 경우 기업이 추론 서비스의 확장을 책임져야 하는데, 대부분의 조직은 대규모 언어 모델을 확장한 경험이 거의 없기 때문에 어려움을 겪을 수 있습니다. 서비스가 공유형인 경우 조직은 클라우드 공급자에게 책임을 맡기지만, 운영 과정에서 할당량 및 토큰 기반 비용과 같은 요소를 고려해야 합니다.
- 자체 관리형. 오픈 소스 모델은 퍼블릭 클라우드와 온프레미스 모두에서 자체 관리형 패턴으로 배포될 가능성이 가장 높습니다. 모델은 API를 통해 또는 애플리케이션에서 직접 액세스할 수 있습니다. 이 패턴에서는 조직이 추론 서비스의 확장, 보안 및 모니터링에 대한 모든 책임을 집니다.
(이러한 패턴을 더 자세히 알아보려면 Chris Hain의 이 블로그를 확인해 보세요)
SaaS 관리형 패턴을 지원하기 위해 오픈 소스 모델을 호스팅하는 제공업체가 많으며, 오픈 소스를 서비스 형태로 제공하는 클라우드 제공업체도 많습니다.
OpenAI 모델은 OpenAI를 통한 SaaS 관리형 방식뿐만 아니라 Microsoft를 통한 클라우드 관리형 방식으로도 사용할 수 있습니다. 널리 사용되는 오픈 소스 모델인 Mistral은 세 가지 방식 모두로 배포할 수 있습니다. 기업이 모델과 배포 방식을 필요에 따라 조합할 수 있다는 점을 고려하면, 모델 선택을 좌우하는 가장 중요한 요인은 사용 사례라고 볼 수 있습니다.
조직들은 이미 모델을 학습시키는 데뿐만 아니라 운영하고 보호하는 데 필요한 역량과 관련해 부담을 느끼고 있습니다. 따라서 활용할 수 있는 운영 전문성이 제한된 많은 조직에는 사용 사례에 따라 모델을 선택하는 것이 가장 합리적입니다. 보안 또는 개인정보 보호상의 이유로 공유형 방식으로 배포할 수 없는 사용 사례에 리소스를 집중하는 것이 궁극적으로 최상의 결과를 가져올 것입니다.
운영 근시안을 경계하라
하지만 운영상의 근시안적 접근은 조직 내 사일로를 초래할 수 있으므로 주의해야 합니다. 클라우드 컴퓨팅에서도 이런 일이 발생했으며, 기업용 생성형 AI에서도 틀림없이 다시 나타날 것입니다. 다만 모델별로 운영과 보안을 분리할 때의 위험을 인식한다면, 조직은 그로 인해 발생하는 복잡성과 위험을 피하고 운영 리소스와 역량, 예산을 최대한 활용할 수 있는 모델과 배포 패턴을 전략적으로 선택할 수 있을 것입니다.
아직은 초기 단계이며, 이 글을 읽을 즈음에는 새로운 기능을 갖춘 신규 제공업체와 모델이 분명 등장해 있을 것입니다. 하지만 배포 패턴은 대체로 그대로 유지될 것이므로, 어떤 모델을 선택하든 이를 보호하고 확장하는 데 필요한 예산, 인력, 애플리케이션 서비스 등 운영 전반을 더욱 전략적으로 계획할 수 있습니다.
작성자 소개
Lori MacVittie는 F5 CTO 오피스의 수석 엔지니어이자 최고 에반젤리스트로, 애플리케이션 딜리버리, 자동화 전략 및 인프라 분야에서 깊이 있는 전문성을 보유하고 있습니다. AI 에이전트를 위한 가드레일을 정의하고, 취약한 멀티클라우드 아키텍처를 분석하며, 확장 가능한 시스템의 한계를 탐구하는 등 복잡한 문제를 명확하게 풀어내는 것으로 잘 알려져 있습니다. 애플리케이션 개발, IT 아키텍처, 네트워크 및 시스템 운영 전반에 걸쳐 30년 이상의 업계 경험을 쌓았습니다. F5에 합류하기 전에는 수상 경력이 있는 기술 편집자로 활동했습니다. MacVittie는 컴퓨터 과학 석사 학위를 보유하고 있으며, 보안, 클라우드 및 엔터프라이즈 아키텍처 분야를 아우르는 다수의 저서를 집필한 작가입니다. 또한 보드게임과 비디오 게임을 열정적으로 즐기며, 치즈에 대해서는 거리낌 없이 확고한 견해를 갖고 있습니다.
Lori Mac Vittie의 다른 블로그 게시물관련 블로그 게시물
AI 시대의 새로운 애플리케이션 제공 원칙으로 복잡성 극복하기
보안, 일관성, 완전 자동화에 중점을 둔 애플리케이션 제공의 새로운 6가지 원칙을 도입하여 복잡성 없이 하이브리드 멀티클라우드의 유연성을 누리세요.
디지털 혁신을 가속화하는 6가지 기술 역량
오늘날의 엔터프라이즈 아키텍처에는 기술 변화를 주도하는 데 핵심적인 민첩성, 확장성, 보안 및 관찰 가능성이 부족하지만, 이 여섯 가지 핵심 역량은 기업이 디지털 혁신 전반에 걸쳐 위험과 과제를 관리하는 데 도움이 될 것입니다.
하이브리드 근무가 ID 중심 보안으로의 전환을 이끌고 있습니다
자동화와 디지털화의 폭발적인 성장에 하이브리드 근무 모델로의 전환 추세가 더해지면서, IP 기반 보안에서 벗어나 ID 기반 액세스 전략으로 전환하는 움직임이 더욱 가속화될 것입니다.
관점의 현대화: 애플리케이션에서 경험으로
그리스와 로마의 신들처럼, 여러 신화에서도 동일한 존재가 다양한 모습으로 나타나는 것을 볼 수 있습니다. 본질적으로 각각의 화신은 기존 존재가 새로운 얼굴로 드러난 것입니다. 디지털 세계에서도 이와 비슷한 양상이 나타납니다. 우리가 ‘애플리케이션’이라고 부르는 것들은 흔히 기존 기능이 새로운 형태로 구현된 것이라 볼 수 있습니다.
코로나19 이후 기업 결제의 디지털 전환
디지털 결제는 과거의 현금만큼이나 보편화되었습니다. 코로나19 팬데믹으로 인한 봉쇄 조치는 소비자의 디지털 결제 서비스 의존도를 더욱 빠르게 높였습니다. 기업의 디지털 결제 도입 역시 가속화되었습니다. 대중을 상대로 영업하든 하지 않든 기업에는 여전히 지급해야 할 대금과 받아야 할 대금이 있기 때문입니다.
공급망 해킹과 보안에서 하드웨어의 역할
수석 아키텍트 Dave Schmitt와 CTO 오피스가 최근 Bloomberg의 Super Micro 관련 기사를 계기로 하드웨어 보안 전문성의 중요성을 되짚어봅니다. 또한 이 글에서는 시스템이 안전하게 보호되고 있는지 확인하기 위해 공급업체에 물어봐야 할 질문도 소개합니다.