HPE AI Factory, NVIDIA와 협력해 에이전스 시대 확대
출처: NVIDIA AI 블로그
기업들은 에이전트 AI를 프로토타입(Proof of Concept)에서 실제 운영으로 옮기고 있으며, 차세대 AI 팩토리는 에이전트 시대에 맞춰 설계되었습니다.
HPE Discover Las Vegas(6월 18일 목요일까지)에서 NVIDIA와 HPE는 HPE AI 팩토리 with NVIDIA를 확장하고 있으며, 여기에는 NVIDIA Vera CPU와 HPE Private Cloud AI용 NVIDIA Agent Toolkit이 포함됩니다.
또한, NVIDIA Confidential Computing은 HPE AI 팩토리 전반에 걸친 확장과 향상된 전체 스택 NVIDIA 통합 — NVIDIA 가속 컴퓨팅, NVIDIA AI 소프트웨어, NVIDIA 네트워킹 — 을 제공하며, 이를 통해 포트폴리오 전체에 적용 가능합니다.
NVIDIA Vera CPU가 HPE Private Cloud AI와 함께 제공됩니다
HPE ProLiant Compute DL394 Gen12에 NVIDIA Vera CPU가 탑재된 모델은 2027년에 HPE Private Cloud AI와 함께 제공될 예정이며, 이는 NVIDIA와 공동으로 설계한 턴키형 AI 팩토리입니다.
Vera는 에이전트를 위한 전용 CPU로 설계되었으며, 도구 호출, 오케스트레이션 및 에이전트 루프에 필요한 실시간 데이터 처리를 지원하도록 디자인되었습니다. 이를 통해 HPE Private Cloud AI에 결정적인 저연결 지연 성능을 제공합니다.
뉴욕 증권 거래소는 Redpanda와 HPE와 협력하여, HPE ProLiant Compute DL394 Gen12 서버에서 Vera CPU를 탐구하는 초기 기업 고객 중 하나입니다.
Vera CPU는 NVIDIA Vera Rubin 플랫폼의 일부이며, 이 플랫폼은 NVIDIA Vera Rubin NVL72 랙 규모 시스템을 통해 전량 생산 단계로 진입하고 있으며, HPE에서 제공합니다.
Vera Rubin은 1조 개 이상의 파라미터를 가진 최첨단 규모 모델을 지원하도록 설계되었으며, 모든 칩에 걸쳐 전체 스택 NVIDIA Confidential Computing을 제공할 예정입니다.
HPE는 또한 HPE Compute XD700을 HPE AI Factory에 제공하고 있으며, 이는 NVIDIA HGX Rubin NVL8 기반으로 구축되어 한 랙당 최대 128개의 Rubin GPU를 지원합니다.
NVIDIA Agent Toolkit이 HPE Private Cloud AI와 함께 제공됩니다
NVIDIA Agent Toolkit은 NVIDIA Nemotron 오픈 모델, NVIDIA OpenShell 보안 런타임, 그리고 NVIDIA NemoClaw 블루프린트를 포함하고 있으며, HPE Private Cloud AI와 함께 제공됩니다. 이를 통해 기업들은 에이전트 동작 모니터링, 거버넌스 정책 적용, 안전하게 자율적이고 장시간 실행되는 다중 에이전트 시스템을 구축·운용할 수 있는 에이전트 AI 운영 체제를 갖게 됩니다.
HPE Private Cloud AI는 안전한 로컬 에이전트 등록 기능을 제공하여, 고객은 실행 전에 중앙 거버넌스 및 보안 정책에 맞춰 AI 모델, 기술, 도구를 승인할 수 있습니다. 새로운 HPE Zerto 소프트웨어 기능은 악성 에이전트 행동을 감지하고 지속적인 데이터 보호를 활용해 깨끗한 상태로 되돌릴 수 있게 합니다.
데이터 측면에서 HPE Alletra Storage MP X10000은 NVIDIA-인증 스토리지의 기본 수준을 달성했으며, 비구조화된 데이터를 AI 파이프라인에 적합하도록 자동으로 메타데이터와 거버넌스 정책을 적용해 토큰 처리량을 향상시킵니다.
HPE AI Factory 솔루션 전역에 걸친 NVIDIA Confidential Computing
NVIDIA Confidential Computing은 HPE Services를 통해 HPE AI Factory 전체에 제공됩니다 — 여기에는 HPE AI Factory at Scale, HPE Sovereign AI Factory 및 HPE Private Cloud AI가 포함됩니다.
AI 애플리케이션은 보호하고 보안해야 할 개인 및 민감 데이터를 사용합니다. 또한, 자체 데이터 또는 기술을 활용한 모델은 엑스필트레이션 위험에 대비해 보호되어야 합니다. Confidential Computing은 온프레미스 및 주권적 배포 환경에서 모델과 개인 데이터를 실행 중에 보호하고, 암호학적 인증과 암호화로 신뢰 체인을 구축함으로써 이러한 현대 AI 워크로드에 필수적입니다.
또한 HPE ProLiant Compute DL380a는 NVIDIA-인증 시스템 인증을 획득했으며, 이는 Confidential Computing 프로그램을 통해 강력한 애플리케이션 성능을 검증합니다. 이러한 시스템은 AI 워크로드와 민감한 데이터 자산을 하드웨어 기반으로 보호하면서 최적의 NVIDIA 가속을 유지합니다.
HPE AI Factory 솔루션 전반에 걸쳐 NVIDIA BlueField DPUs와 NVIDIA DOCA는 실리콘 내 제로 트러스트 정책 적용, 런타임 위협 탐지 및 네트워크 암호화를 제공하여 AI 워크로드, 에이전트 및 데이터 보호를 유지하면서 성능 저하 없이 운영됩니다.
포트폴리오 전체에 걸친 향상된 전체 스택 NVIDIA 통합
HPE AI Factory at Scale, HPE Sovereign AI Factory 및 HPE Private Cloud AI는 NVIDIA RTX PRO 6000 Blackwell Server Edition GPU, NVIDIA Spectrum-X Ethernet 네트워킹, NVIDIA BlueField-3 DPU 및 NVIDIA ConnectX-8 SuperNICs와 함께 제공됩니다.
차세대 AI 팩토리에서는 모든 Vera Rubin NVL72 시스템이 NVIDIA 네트워킹을 기본으로 제공합니다 — NVIDIA Vera BlueField-4 DPU, NVIDIA ConnectX-9 SuperNIC 및 NVIDIA Spectrum-X Ethernet — 그리고 NVIDIA Spectrum-6 스위칭은 오프더셸프 Ethernet 대비 AI 통신 성능을 1.6배 향상시킵니다.
Spectrum-X Ethernet 네트워킹은 HPE AI Factory와 NVIDIA의 표준으로, 현재 이용 가능한 규모 확장형, 주권적 및 턴키형 AI 팩토리 솔루션에도 적용됩니다.
대규모 및 주권적 워크로드에서는 HPE가 3월 NVIDIA GTC에서 InfiniBand 네트워킹 옵션을 추가한다고 발표했으며, 여기에는 NVIDIA Quantum-X800 InfiniBand와 HPE Cray Supercomputing GX5000이 포함됩니다.
이 구성은 NVIDIA 레퍼런스 아키텍처를 기반으로 하며, AI 개발부터 대량 배포까지의 사용 사례를 지원하고, NVIDIA AI Enterprise 소프트웨어와 HPE Unleash AI 생태계와 함께 제공됩니다.
이번 주 HPE Discover에서는 Unleash AI 파트너 프로그램이 Aizen, BridgeTEK, deepset, Deliverance, Faclon Labs, Gallop, Rocket, Supervity, Thales, Trustwise 및 Vortiqx 등 약 십여 개의 새로운 AI 소프트웨어 파트너를 확대하고 있습니다.
참석자는 이 Woche 전체에서 [이 쇼](https://www.nvidia.com/en-us/events/hpe-discover\)을 통해 이러한 솔루션을 탐색할 수 있습니다.
그리고 HPE AI 팩토리 with NVIDIA 및 *NVIDIA AI Computing by HPE 포트폴리오*를 더 자세히 알아볼 수 있습니다.