엣지 AI란? 엣지 환경의 인공지능 이해하기

엣지 AI는 엣지 컴퓨팅 환경에 인공지능 알고리즘과 모델을 배포하는 것을 의미합니다. 이를 통해 컴퓨팅 성능과 지능을 의사 결정이 이루어지는 지점에 더 가깝게 배치하여 엣지 사이트와 클라우드 간의 지속적인 통신 부담을 일부 줄일 수 있습니다. 엣지 AI를 사용하면 네트워크 주변부의 디바이스가 데이터를 로컬에서 처리할 수 있으므로, 인터넷 연결이나 중앙 집중식 클라우드 서버의 처리에 의존하지 않고도 실시간으로 의사 결정을 내릴 수 있습니다. 그 결과 연산 속도가 빨라지고 데이터 개인정보 보호와 보안이 강화됩니다.

엣지 AI 이해하기

엣지 AI는 인공지능, 사물 인터넷(IoT), 엣지 컴퓨팅, 임베디드 시스템을 비롯한 여러 기술이 융합된 것으로, 각 기술은 네트워크 엣지에서 지능형 처리와 의사 결정을 구현하는 데 중요한 역할을 합니다. 엣지 AI는 임베디드 알고리즘을 사용해 원격 시스템의 활동을 모니터링하고, 센서 및 기타 추적 장치가 수집한 온도, 언어, 얼굴, 움직임, 이미지, 근접성 및 기타 아날로그 입력과 같은 비정형 데이터를 처리합니다.

이러한 원격 시스템은 센서, 스마트폰, IoT 기기, 드론, 카메라는 물론 차량과 스마트 가전제품 등 다양한 형태로 구현될 수 있습니다. 이러한 시스템에서 수집된 데이터는 엣지 AI 알고리즘의 입력으로 사용되며, 시스템 또는 주변 환경의 상태에 관한 유용한 정보를 제공함으로써 엣지 AI 시스템이 변화나 이상 징후에 신속하게 대응하고 작동 환경을 파악할 수 있도록 합니다. 이러한 엣지 AI 애플리케이션은 비용, 지연 시간, 대역폭, 보안 및 개인정보 보호와 관련된 문제로 인해 중앙 집중식 클라우드 또는 기업 데이터 센터 환경에서 운영하기가 비현실적이거나 불가능할 수도 있습니다.

엣지 AI는 다양한 사용 사례를 포괄하며, 여기에는 다음이 포함됩니다:

• 자율주행차. 엣지 AI를 활용하면 차량이 클라우드 연결에 지속적으로 의존하지 않고도 센서 데이터를 실시간으로 분석하여 객체 감지, 차선 추적, 충돌 방지 등의 작업에 필요한 순간적인 판단을 내릴 수 있습니다.
• 스마트 시티. 도시 전역에 설치된 센서와 카메라에서 수집한 데이터는 교통 관리, 공공 안전 모니터링, 폐기물 관리, 에너지 최적화 등 다양한 스마트 시티 애플리케이션에 활용될 수 있습니다.
• 농업 모니터링. 엣지 AI는 센서, 드론, 위성 이미지에서 수집한 데이터를 분석하여 작물의 생육 상태를 모니터링하고, 관개를 최적화하며, 해충 발생을 감지하고, 환경 조건을 실시간으로 분석함으로써 정밀 농업을 지원합니다.
• 산업용 IoT. 제조 장비와 센서에 AI 알고리즘을 직접 배포하면 엣지 디바이스가 중앙 서버에 의존하지 않고도 기계의 상태를 모니터링하고, 결함을 감지하며, 생산 공정을 최적화할 수 있습니다.
• 의료 모니터링. 엣지 AI는 웨어러블 기기, 의료 센서, 영상 장비의 데이터를 분석하여 의료 데이터를 실시간으로 분석하고 잠재적인 건강 문제를 의료진에게 알려 줌으로써 원격 환자 모니터링과 맞춤형 의료 서비스를 지원합니다.

엣지 AI와 클라우드 AI 비교

AI 알고리즘과 모델을 배포하는 방식에는 엣지와 클라우드라는 두 가지 주요 패러다임이 있습니다. 클라우드와 엣지 사이트에 걸친 시스템을 통합하는 전략은 ‘클라우드 인(cloud-in)’ 또는 ‘엣지 아웃(edge-out)’이라고 하며, 두 전략 모두 성능, 보안 및 운영에 영향을 미칩니다.

엣지 AI는 네트워크 엣지 또는 분산 환경에서 실시간 처리와 의사 결정을 지원하기 위해 원격 장치에 AI를 배포하는 것을 의미합니다. 이러한 시스템은 네트워크 연결에 의존하거나 데이터를 중앙 서버로 전송하지 않고도 대부분의 데이터를 로컬에서 분석할 수 있어 지연 시간이 단축되고 응답 속도가 빨라집니다. 또한 엣지 AI 시스템은 민감한 데이터를 로컬에 보관하므로 데이터를 클라우드로 전송할 때 발생할 수 있는 개인정보 침해나 보안 위험을 줄여 줍니다.

엣지 AI의 예로는 로컬에 배포된 AI로 센서 데이터를 분석해 실시간 주행 결정을 내리는 자율주행차와, 엣지 AI로 음성 명령을 처리하거나 침입자가 있는지 집 안을 감시하는 스마트 홈 기기가 있습니다.

반면, 클라우드 AI는 중앙 집중식 클라우드 서버에 AI 알고리즘과 모델을 배포하여 대규모 데이터 처리, 학습 및 추론을 지원하는 것이 특징입니다. 클라우드 리소스는 강력한 컴퓨팅 성능을 제공하므로, 막대한 연산 능력이 필요한 딥러닝 학습이나 빅데이터 분석과 같은 복잡한 AI 작업을 수행할 수 있습니다. 클라우드 AI 솔루션은 대량의 데이터와 사용자를 수용하도록 손쉽게 확장할 수 있어, 처리량이 많거나 리소스 집약적인 요구 사항이 있는 애플리케이션에 적합합니다.

Amazon이나 Netflix가 방대한 사용자 데이터를 기반으로 소비자에게 새로운 제품이나 대체 제품을 추천하는 데 사용하는 추천 엔진은 최적의 성능을 발휘하기 위해 상당한 컴퓨팅 리소스가 필요한 대규모 클라우드 AI 시스템의 대표적인 예입니다.

그 밖의 AI 사용 사례에서는 특정 고객의 요구 사항을 충족하기 위해 엣지 AI와 클라우드 AI를 모두 활용합니다. 실제 사례로는 싱가포르에 기반을 둔 AI 및 데이터 플랫폼 제공업체 Sentient.io가 있습니다. 이 업체는 기업이 기존 워크플로에 AI를 손쉽게 통합할 수 있도록 혁신적인 AI 서비스를 제공하는 허브인 Sentient Marketplace를 개발했습니다. 하지만 이 마켓플레이스가 빠르게 성공하면서 온프레미스, 퍼블릭 클라우드, 프라이빗 클라우드, 엣지 등 분산 환경 전반에서 AI 서비스를 운영하고 배포하기 어렵다는 점을 비롯해 여러 복잡한 과제가 대두되었습니다.

고객 사이트에서 여러 공급업체의 서비스를 운영할 경우, 각 클라우드 공급업체의 솔루션이 독자적인 Kubernetes 배포판을 제공할 수 있어 해당 플랫폼을 각자의 클라우드 환경에서 활용해야 하는 조직에는 큰 부담이 될 수 있습니다. 또한 고객 사이트에 Sentient의 AI 모델을 배포하는 과정도 번거로웠습니다. 각 엣지 사이트에 온프레미스 Kubernetes 환경을 구축하고, 새 모델의 업데이트와 동기화를 수동으로 처리해야 했기 때문입니다. 이로 인해 운영 복잡성이 증가하고 워크플로 오케스트레이션과 보안 정책의 일관성이 저하되었습니다.

Sentient.io는 F5와 협력하여 다양한 산업 분야의 고객에게 F5 Distributed Cloud App Stack,을 활용한 턴키 방식의 엔터프라이즈급 AI 서비스형 솔루션을 제공했습니다. 이 엔터프라이즈용 Kubernetes 플랫폼은 온프레미스, 클라우드 및 엣지 환경 전반의 배포를 간소화합니다. 이 솔루션은 Sentient의 운영을 간소화하고 지연 시간을 단축하며 엣지에서 실시간 AI 처리를 지원했습니다. 엣지에서 추론을 수행하면 지리적 위치로 인한 네트워크 및 대역폭 제약이 해소되고, 애플리케이션에 추론 결과를 실시간으로 즉시 제공할 수 있습니다. 이러한 모델 배포 방식의 전환을 통해 Sentient.io는 고객에게 고성능 AI 애플리케이션을 더 빠르게 제공하여 가치를 조기에 실현하고, 리소스 할당을 최적화하며, 전반적인 운영 비용을 절감하고, 애플리케이션 및 API 보안을 기본적으로 통합할 수 있게 되었습니다.

또한 이번 협업을 통해 전담 팀과 상당한 리소스 비용이 필요했던 기존의 여러 클라우드 플랫폼 수동 관리 방식에 비해 비용을 크게 절감했습니다. F5 Distributed Cloud Services, Sentient는 리소스를 최적화하고 애플리케이션 관리를 간소화하여 운영을 단순화하고 비용을 절감했으며, 다른 전략적 이니셔티브에 투입할 리소스를 확보했습니다.

엣지 AI 활용

엣지 AI에 액세스하려면 네트워크 엣지에서 AI 기능을 효율적으로 이용하고 활용할 수 있도록 다양한 디바이스, 기술, 인프라 구성 요소 및 통합 기능을 배포해야 합니다. 여기에는 다음이 포함됩니다:

• 엣지 디바이스. 센서와 마이크로컨트롤러가 내장된 엣지 디바이스는 물리적 환경에서 데이터를 수집하며, 로컬 처리를 위한 엣지 AI 모델을 실행할 수 있습니다. IoT 디바이스의 예로는 스마트 온도 조절기, 감시 카메라, 토양 수분 모니터, 산업용 센서 등이 있습니다. 엣지 디바이스에는 스마트폰과 태블릿 컴퓨터도 포함될 수 있습니다. 이러한 기기는 주변 환경을 감지할 뿐만 아니라 자체 처리 능력과 연결성을 활용하여 엣지 AI 작업을 수행할 수 있습니다.
• 기술. 네트워크 에지에서 AI 시스템을 운영하려면 리소스가 제한된 디바이스에 배포할 수 있도록 최적화된 학습 알고리즘과 AI 모델을 비롯한 여러 전문 기술이 필요합니다. 또한 시스템 개발 및 배포를 간소화하는 도구와 라이브러리를 제공하는 에지 AI 프레임워크와 플랫폼도 사용할 수 있습니다.
• 인프라. 유선이든 무선이든 안정적인 네트워크 연결은 엣지 AI 디바이스가 서로 통신하고 필요할 때 중앙 서버와 통신하는 데 필수적이며, 엣지 서버, 게이트웨이, 라우터 등의 하드웨어 구성 요소가 포함될 수 있습니다. 또한 API는 AI 아키텍처의 핵심 요소로, 다양한 구성 요소와 서비스가 서로 통신하고 데이터와 명령을 교환할 수 있도록 합니다.
• 통합. 엣지 AI 시스템은 데이터 접근성을 보장하고, 확장성과 시스템의 다른 구성 요소와의 호환성을 지원하며, 관리 복잡성을 줄일 수 있도록 기존 네트워크 및 인프라와 통합되어야 합니다.

또한 엣지 AI를 배포하고 이용할 때 다음과 같은 과제와 한계가 있다는 점에 유의하세요.

• 제한된 컴퓨팅 성능 및 연결성. 대부분의 엣지 디바이스는 처리 성능, 메모리 및 스토리지가 제한되어 있어 엣지에서 작동할 수 있는 AI 모델의 복잡성과 크기가 제한될 수 있습니다. 또한 엣지 디바이스는 네트워크 연결 옵션이 제한된 환경에서 작동하는 경우가 많으며, 이로 인해 엣지 AI 시스템의 응답성, 성능 및 안정성도 저하될 수 있습니다.
• 비용 및 가용성. 많은 AI 모델은 그래픽 처리 장치(GPU) 및 데이터 처리 장치(DPU)와 같은 워크로드 가속기를 활용해 처리 속도를 높일 수 있습니다. 하지만 특히 GPU는 가격이 비싸고 물리적 제약으로 인해 소형 폼 팩터에 사용하기에는 크기가 너무 클 수 있습니다. 이로 인해 엣지 디바이스에 배포할 수 있는 AI 알고리즘의 유형이 제한될 수 있으며, 대체 최적화 기법이 필요할 수 있습니다.
• 데이터 개인정보 보호. 일부 엣지 AI 시스템은 민감하거나 보호 대상인 데이터를 로컬에서 생성하고 처리하므로, 데이터 개인정보 보호와 HIPAA 또는 GDPR과 같은 규정 준수에 대한 우려가 제기됩니다. 데이터 개인정보 보호와 법적 요구 사항 준수를 보장하려면 적절한 데이터 익명화, 암호화 및 액세스 제어 조치를 구현해야 할 수 있습니다.
• 디바이스 관리. 지리적으로 분산된 여러 위치에 배포된 엣지 AI 시스템을 배포, 모니터링, 업데이트 및 유지 관리하는 작업은 까다로울 수 있으며, 효율적인 관리 도구와 플랫폼이 필요합니다.

엣지 AI 보안 조치

엣지 AI 배포 환경에서 데이터를 보호하고 보안 위험을 완화하려면 다계층 보안을 중시하는 종합적인 접근 방식이 필요합니다. 엣지 AI는 데이터를 학습하고 경험을 바탕으로 동작을 발전시킬 수 있다는 점 등에서 기존 컴퓨팅 워크로드와 중요한 차이가 있지만, 보안 요구 사항 측면에서는 보다 전통적인 IoT 시스템과 공통점이 많으며 다음을 비롯한 여러 위험을 공유합니다:

• 멀웨어 및 사이버 공격. 엣지 AI 디바이스는 적절히 보호되지 않을 경우 멀웨어 감염, 사이버 공격 및 원격 악용에 취약할 수 있습니다. 바이러스 백신 소프트웨어와 침입 탐지 시스템을 도입하고 소프트웨어를 정기적으로 업데이트하는 것은 모든 엣지 AI 보안 전략에 포함되어야 합니다.
• 네트워크 보안. 엣지 AI 디바이스는 일반적으로 네트워크를 통해 서로 통신하고 중앙 서버와도 통신하므로 네트워크 기반 공격의 잠재적 표적이 될 수 있습니다. 전송 중인 데이터를 보호하고 네트워크 리소스에 대한 무단 액세스를 방지하려면 암호화, 인증 및 액세스 제어 메커니즘을 사용하여 네트워크 통신을 보호해야 합니다.
• 데이터 무결성. AI 모델과 의사 결정 프로세스의 정확성과 신뢰성을 유지하려면 엣지 AI 디바이스에서 처리되는 데이터의 무결성을 보호해야 합니다. 데이터 변조, 조작 또는 손상을 탐지하고 완화하려면 데이터 검증, 체크섬 및 무결성 검사를 구현하여 입력 데이터의 진위성과 일관성을 확인해야 합니다.
• 물리적 보안. 엣지 AI 디바이스는 원격지나 열악한 환경에 배치되는 경우가 많아 손상, 물리적 변조, 도난 또는 기물 파손에 취약합니다. 변조 방지 인클로저나 감시 카메라와 같은 물리적 보호 조치는 디바이스를 손상, 조작 또는 무단 액세스로부터 안전하게 보호하는 데 도움이 됩니다.
• API 보안. 플러그인을 포함한 AI 생태계는 API를 통해 구현되며, API는 취약점, 악용, 잘못된 구성뿐 아니라 미흡한 인증 및 권한 부여 제어를 우회하는 공격에 노출될 수 있습니다.
• 대규모 언어 모델(LLM) 보안. 생성형 AI 기반 애플리케이션의 의사 결정과 관련된 LLM 및 관련 학습·추론 프로세스는 프롬프트 인젝션, 데이터 포이즈닝, 환각, 편향 등 수많은 위험에 노출되어 있습니다.

에지 AI 애플리케이션을 비롯하여 LLM 기반 AI 시스템을 배포하고 관리할 때 수반되는 보안 위험을 심층적으로 살펴보려면 OWASP 대규모 언어 모델 애플리케이션 10대 보안 위험을 검토하세요. 이 자료는 해당 애플리케이션의 취약점에 대한 인식을 높이고, 해결 전략을 제안하며, LLM 애플리케이션의 보안 태세를 개선하는 것을 목표로 합니다.

엣지 AI 최적화 전략

네트워크 엣지나 기타 원격 위치에 배치되는 특성상, 성능, 리소스 활용도, 보안 및 기타 요소를 고려해 엣지 AI 인프라를 최적화하는 것이 중요합니다. 하지만 리소스가 제한된 디바이스의 효율성과 성능을 최적화하는 일은 쉽지 않습니다. 허용 가능한 성능을 유지하면서 연산량, 메모리 및 에너지 요구 사항을 최소화하려면 여러 요소 간의 절충이 필요한 경우가 많기 때문입니다.

엣지 AI의 성능 향상

에너지 소비를 제한하면서 엣지의 컴퓨팅 성능을 최적화할 수 있는 몇 가지 전략이 있습니다. 저전력 모드, 절전 상태 또는 동적 전압 및 주파수 조정(DVFS)과 같은 절전 기술을 구현하면 에너지 소비를 줄일 수 있습니다. GPU 및 DPU와 같은 하드웨어 가속기는 연산 집약적인 작업을 CPU에서 분담하여 추론 속도를 높일 수 있습니다. 동적 배칭, 적응형 추론 또는 모델 희소화와 같은 기법을 사용하면 성능을 유지하면서 리소스 활용도를 최적화할 수 있습니다. 연산 부하가 적은 작업은 CPU 리소스로 처리할 수 있으며, 이는 고도로 분산된 아키텍처 전반에서 리소스 풀링이 중요하다는 점을 보여줍니다.

엣지 컴퓨팅에 맞게 모델 조정하기

엣지 AI 디바이스는 컴퓨팅 리소스가 제한적인 경우가 많으므로, 엣지 디바이스에 최적화된 경량 AI 모델을 배포해야 합니다. 이를 위해서는 디바이스의 리소스와 애플리케이션 요구 사항에 가장 적합한 모델을 선택할 때 모델의 복잡성, 정확도, 추론 속도 간의 균형을 맞춰야 할 수 있습니다. 모델 양자화, 가지치기, 지식 증류 등의 기법을 활용하면 성능 저하를 최소화하면서 AI 모델의 크기를 줄일 수 있습니다.

엣지 환경에 최적화된 보안

"경계의 소멸"은 모바일 기기, 클라우드 및 엣지 컴퓨팅 등의 요인으로 인해 기존 네트워크 경계가 점차 불분명해지는 현상을 의미합니다. 엣지 AI의 맥락에서 경계의 소멸이란 엣지 AI 기기가 일반적으로 네트워크 엣지의 원격 동적 네트워크 환경에 배포되어 데이터 센터나 클라우드 환경 외부에서 작동하며, 방화벽이나 침입 탐지 시스템과 같은 기존의 경계 기반 보안 조치가 미치지 않는 영역에 놓이는 것을 뜻합니다. 따라서 엣지 AI 보안에는 특별한 요구 사항이 있으며, 격리된 위치에서의 무단 액세스와 보안 관리 및 가시성 확보가 어려운 복잡한 분산 환경 전반의 위협으로부터 보호할 수 있도록 최적화해야 합니다.

또한 API는 AI 애플리케이션의 여러 구성 요소가 데이터와 명령을 주고받을 수 있도록 연결하는 역할을 합니다. 기업이 AI 기반 애플리케이션을 배포할 때 이러한 API 연결과 이를 통해 전송되는 데이터를 보호하는 것은 반드시 해결해야 할 중요한 보안 과제이며, 이를 위해서는 엔드포인트를 동적으로 검색하고 다양한 위험으로부터 자동으로 보호하는 웹 애플리케이션 및 API 보호 서비스를 배포해야 합니다.

대규모 언어 모델을 위한 보안

LMM은 방대한 양의 텍스트 데이터를 기반으로 하며, 놀라울 정도로 인간과 유사한 유창성과 일관성을 갖춘 자연어 출력을 이해하고 생성하도록 훈련된 인공지능 모델입니다. 생성형 AI 애플리케이션의 핵심인 LLM은 일반적으로 온라인 서적, 게시물, 웹사이트, 기사 등 인터넷에서 체계적으로 수집한 입력 데이터와 콘텐츠를 사용해 훈련됩니다. 그러나 악의적인 행위자가 생성형 AI 모델을 오도하거나 성능을 저해하기 위해 입력 데이터를 의도적으로 조작할 수 있으며, 이로 인해 취약점, 편향, 신뢰할 수 없는 출력, 개인정보 침해 및 무단 코드 실행이 발생할 수 있습니다.

LLM의 주요 보안 위험은 다음과 같습니다:

• 프롬프트 인젝션. 공격자는 LMM 입력 프롬프트를 조작하여 생성되는 결과물에 영향을 미치고, 편향되거나 불쾌감을 주거나 부정확한 콘텐츠를 생성함으로써 LLM 생성 결과물의 신뢰성과 안정성을 훼손할 수 있습니다.
• 모델 오염. 이러한 공격은 LLM의 학습 단계에서 악성 데이터를 주입하여 모델의 동작을 조작하거나 성능을 저하시키는 방식입니다. 공격자는 학습 데이터 세트에 오염된 데이터 샘플을 추가하여 학습된 LLM 모델에 편향, 취약점 또는 백도어를 심을 수 있습니다.
• 모델 서비스 거부(DoS). 이러한 공격은 요청 토큰화 및 LLM 컨텍스트 창의 한계를 초과할 수 있는 악의적인 요청이나 입력을 대량으로 보내 LLM의 가용성과 성능을 저하시킵니다. 이러한 리소스 고갈 공격은 성능 저하나 시스템 불안정을 초래하여 AI 시스템의 가용성과 신뢰성에 영향을 미치고, 모델이 학습하고 사용자 프롬프트에 응답하는 능력을 저해할 수 있습니다.

이러한 보안 문제를 해결하려면 프롬프트 인젝션을 방지하고, 악의적으로 조작된 입력에 의해 모델이 영향을 받지 않도록 프롬프트 정제, 입력 검증, 프롬프트 필터링 등의 기법을 활용하는 다각적인 접근 방식이 필요합니다. DoS 공격에 대응하려면 속도 제한, 이상 탐지, 행동 분석을 포함하는 계층형 방어 전략을 수립하여 의심스럽거나 악의적인 네트워크 활동을 탐지하고 식별해야 합니다. 업계에서는 이러한 위험을 효과적으로 관리하기 위한 기술이 여전히 발전 중이며, 이에 따라 애플리케이션 스택 내 LLM 프록시, 방화벽, 게이트웨이 및 보안 미들웨어가 빠르게 개발되고 있습니다.

엣지 AI의 미래

엣지 AI는 네트워크 엣지에서 빠르게 발전하는 기술군의 일부로, 지능적이고 신속하게 대응하며 더욱 효율적인 컴퓨팅 환경의 새 시대를 열고 있습니다. 프로세서, 네트워킹, 소프트웨어 및 보안 기술의 발전이 맞물리면서 이러한 기술은 다양한 산업 분야에서 혁신과 변화를 위한 새로운 가능성을 열어 가고 있습니다. 이러한 엣지 컴퓨팅 활용 사례는 네트워크 엣지에서 실시간 분석과 의사 결정을 수행함으로써 조직이 데이터 발생 지점과 더 가까운 곳에서 데이터를 처리하고 분석할 수 있게 하며, 지연 시간에 민감한 애플리케이션의 응답 시간을 단축하거나 콘텐츠를 실시간으로 제공할 수 있도록 합니다.

네트워크 엣지 전반에 컴퓨팅 리소스를 분산하면 조직은 변화하는 워크로드 수요에 신속하게 대응하고 리소스 활용을 최적화하여 전반적인 시스템 성능과 효율성을 높일 수 있습니다. 이러한 가능성은 엣지 AI 애플리케이션을 지원하는 데 필요한 컴퓨팅, 스토리지 및 네트워킹 리소스를 제공하는 엣지 서버, 엣지 컴퓨팅 플랫폼 및 라이브러리, AI 온 칩 프로세서 등 엣지 컴퓨팅 인프라용으로 특별히 설계된 구성 요소의 발전에 힘입은 바가 큽니다.

엣지 AI는 네트워크 엣지의 인프라 혁신을 이끄는 데 중추적인 역할을 해왔으며, AI와 IoT의 통합은 엣지에서 지능형 의사결정을 지속적으로 촉진하여 의료, 산업 자동화, 로보틱스, 스마트 인프라 등 다양한 분야에서 혁신적인 애플리케이션의 발전을 가속화하고 있습니다.

TinyML은 경량 소프트웨어 ML 모델과 알고리즘을 만드는 데 중점을 두는 ML 및 AI 접근 방식으로, 이러한 모델과 알고리즘은 마이크로컨트롤러 및 엣지 AI 기기와 같이 리소스가 제한된 엣지 기기에 배포할 수 있도록 최적화됩니다. TinyML 기반 알고리즘은 에너지 효율적으로 설계되며, 클라우드 리소스에 의존하지 않고 로컬에서 추론 작업을 실행할 수 있습니다.

또한 CPU의 데이터 처리 작업을 분담하고 가속하도록 설계된 특수 하드웨어 구성 요소인 DPU와 같은 작고 강력한 프로세서는 대량의 데이터를 효율적으로 처리하는 것이 성능과 확장성에 매우 중요한 엣지 컴퓨팅 및 AI/ML 워크로드에서 점점 더 많이 사용되고 있습니다. 이러한 효율성은 전력 제약으로 인해 에너지 집약적인 GPU 솔루션의 사용이 제한될 수 있는 엣지 컴퓨팅 환경에서 특히 유용합니다.

이러한 혁신을 엣지-클라우드-데이터 센터 연속체로 연결하는 것은 하이브리드, 멀티 클라우드 및 엣지 컴퓨팅 리소스를 비롯한 분산 아키텍처 전반에서 원활한 데이터 처리, 분석 및 관측 가능성을 지원하는 차세대 네트워킹 솔루션입니다. 이러한 네트워크는 분산 컴퓨팅 환경 내에서 원활한 데이터 교환과 동기화를 지원하는 통신, 통합 및 자동화를 촉진하므로 엣지 컴퓨팅 플랫폼의 필수 구성 요소인 API에 점점 더 의존하게 될 것입니다. 또한 API는 표준화된 인터페이스를 제공하여 다양한 엣지 디바이스, 시스템 및 서비스 간의 상호 운용성을 지원하며, 엣지 리소스와 서비스를 동적으로 프로비저닝하고 관리 및 제어할 수 있도록 합니다.

이처럼 광범위하게 분산된 아키텍처에서는 데이터 소스와 가까운 곳에 위치한 엣지 디바이스부터 데이터 센터에 위치한 중앙 집중형 또는 분산형 클라우드 서버에 이르기까지, 연속체의 여러 지점에서 데이터를 안전하게 처리하고 분석할 수 있습니다. 이러한 엣지 투 에브리웨어 연속체를 통해 조직은 여러 컴퓨팅 환경의 강점을 안전하게 활용하고 기존 워크로드와 AI 워크로드를 통합하여 최신 애플리케이션의 다양한 요구 사항을 충족할 수 있습니다.

F5가 지원하는 방법

F5는 네트워크 엣지의 AI 애플리케이션을 비롯해 분산 환경 전반에서 모든 앱과 API를 어디서나 보호하고 제공하며 최적화하는 유일한 솔루션 제공업체입니다. AI 기반 앱은 최신 앱 중에서도 가장 현대적인 앱입니다. GenAI를 사용하는 시스템에는 LLM 위험 및 분산 추론과 같은 고유한 고려 사항이 있지만, 이러한 애플리케이션 역시 지연 시간, 서비스 거부 공격, 소프트웨어 취약점뿐 아니라 봇과 악성 자동화를 사용하는 악의적 행위자의 악용에 노출될 수 있습니다.

새로운 AI 기반 디지털 경험은 고도로 분산되어 있으며, 온프레미스, 클라우드 및 엣지 환경 전반에 걸쳐 확장되는 다양한 데이터 소스, 모델 및 서비스가 점점 확대되는 API 네트워크로 모두 연결되어 있어 중대한 보안 과제를 야기합니다. 기업이 AI 지원 서비스를 더 많이 배포함에 따라 이러한 API 연결과 이를 통해 전송되는 데이터를 보호하는 것이 반드시 해결해야 할 핵심 보안 과제입니다.

F5 Distributed Cloud Services는 업계에서 가장 포괄적인 AI 지원 API 보안 솔루션을 제공합니다. API 코드 테스트와 텔레메트리 분석을 통해 정교한 AI 기반 위협으로부터 보호하는 동시에 멀티 클라우드 및 엣지 애플리케이션 환경을 더욱 손쉽게 보호하고 관리할 수 있습니다. F5 Multi-Cloud Networking 솔루션은 트래픽 최적화 기능을 갖춘 SaaS 기반 네트워킹과 퍼블릭 및 프라이빗 클라우드와 엣지 배포를 위한 보안 서비스를 단일 콘솔을 통해 제공하여, 클라우드 의존형 서비스와 여러 타사 공급업체를 관리하는 부담을 줄여 줍니다. F5 네트워크 솔루션을 사용하면 AI 배포를 가속화하고, 엔드 투 엔드 정책 관리와 관측 가능성을 확보하여 완전히 자동화할 수 있는 안정적인 인프라를 구축할 수 있습니다.

또한 새로운 F5 AI Data Fabric는 고객이 더 정확한 의사 결정을 내리고 더 신속하게 조치를 취할 수 있도록 지원하는 혁신적인 솔루션 구축의 기반입니다. Distributed Cloud Services, BIG-IP, NGINX의 텔레메트리를 결합하여 탁월한 인사이트를 제공하고, 실시간 보고서를 생성하며, 작업을 자동화하고, AI 에이전트를 구동합니다.

F5는 고객이 자연어 인터페이스를 사용해 F5 솔루션과 상호 작용하고 이를 관리하는 방식을 혁신할 AI 어시스턴트도 출시합니다. F5 AI Data Fabric을 기반으로 하는 이 AI 어시스턴트는 데이터 시각화를 생성하고, 이상 징후를 식별하며, 정책 구성을 조회 및 생성하고, 문제 해결 조치를 적용합니다. 또한 내장형 고객 지원 관리자 역할을 수행하여 고객이 질문하고 전체 제품 지식 베이스를 학습한 모델을 기반으로 권장 사항을 받을 수 있도록 지원합니다.

데이터 센터에서 엣지에 이르기까지 AI 기반 앱의 구동과 보호를 지원하는 F5 솔루션은 예측 가능한 성능과 보안을 제공하는 강력한 도구를 통해 AI 투자에서 최대의 가치를 얻을 수 있도록 지원합니다.