네오클라우드·주권형 AI·PostgreSQL: 규제 기업을 위한 새로운 운영 모델
출처: The New Stack
인퍼런스는 이제 기업 AI의 주도력이 되었으며, 그와 함께 불편한 현실이 찾아왔습니다: 데이터는 거의 대부분 계산으로 이동됩니다. 모든 인퍼런스 호출은 민감한 엔터프라이즈 정보를 그 시스템이 존재하는 곳으로 이동시키고, GPU 처리 능력이 최적화된 외부 환경으로 이동시켜 데이터를 거버넌스에 최적화된 환경으로 이동시킵니다. 이 과정에서 규모와 함께 마찰이 가중됩니다: 비용 상승, 보안 노출 확대, 그리고 운영 현실과 동기화되지 않는 데이터 사본의 복잡한 얽힘이 발생합니다.
기업들은 실제 원하는 것이 다릅니다: 데이터를 복제하고 생기는 불일치를 관리하는 대신 데이터베이스 내에서 데이터와 지식을 그대로 유지하길 원합니다.
연구를 통해 전 세계 주요 기업의 고위 임원 2,050명 이상을 대상으로 조사한 결과, 95%의 조직이 향후 780개 업무일 이내에 자체 AI 및 데이터 플랫폼으로 전환할 의도를 갖고 있는 것으로 나타났습니다. 그러나 이를 실제로 달성한 경우는 단 13%에 불과합니다.
성공한 조직들은 아직 AI를 운영화하는 데 어려움을 겪는 기업들에 비해 거의 5배의 투자 수익률을 달성하고 있습니다.
리더와 추종자 사이를 구분짓는 것은 모델 품질이 아니라 인프라 전략입니다.
가장 성공한 조직들은 설계 단계에서 주권 원칙을 채택했습니다. 75% 이상이 단일 초거대 클라우드 제공업체에 의존하지 않고 다중 클라우드 및 온프레미스 환경을 운영하고 있습니다. 그들은 자체 사업, 규정, 운영 요구사항을 기반으로 AI를 구축하고, 클라우드 벤더의 아키텍처에 맞게 요구사항을 조정하지 않습니다.
AI가 실험 단계에서 생산으로 이동함에 따라 CIO들은 모델 훈련이 비교적 쉽다는 것을 깨닫고 있습니다. 수천 개의 운영 워크로드에 걸쳐 효율적으로, 안전하게, 그리고 준수적으로 실행하는 것은 진정한 도전이 시작되는 지점입니다.
훈련에서 인퍼런스로의 전환
훈련은 이산적인 사건이며, 인퍼런스는 지속적인 비즈니스 프로세스입니다. 모델은 한 번 훈련될 수 있지만 하루에 수백만 번 호출될 수 있습니다. 사기 평가, 보험 청구 검토, 고객 서비스 상호작용, 의료 권장, 제재 확인, 예측 유지보수 이벤트 등 모든 항목은 실시간 운영 데이터에 대한 인퍼런스에 기반합니다.
“리더와 추종자 사이를 구분짓는 것은 모델 품질이 아니라 인프라 전략입니다.”
이 구분은 기업 인프라 요구사항을 근본적으로 변화시킵니다. 훈련 워크로드는 연산 밀도와 GPU 가용성을 우선시하지만, 인퍼런스 워크로드는 지연 시간, 거버넌스, 신뢰성 및 비용 통제를 우선시합니다. 이들은 비즈니스 데이터가 존재하는 위치와 준수 요구사항을 충족할 수 있는 환경에서 동작해야 합니다.
금융 서비스, 의료, 통신, 에너지 및 공공 부문과 같은 엄격히 규제된 산업에서는 인퍼런스가 가장 낮은 연산 비용을 제공하는 지역에서만 이루어진다고 볼 수 없습니다. 데이터 주권 요구사항, 감사 의무 및 보안 규정은 일반적으로 워크로드가 정확히 실행되어야 할 위치를 명확히 지정합니다.
따라서 이 도전은 AI 자체보다 훨씬 크게 확장됩니다. 조직들은 연산, 데이터 및 거버넌스를 희생 없이 통합할 수 있는 운영 모델이 필요합니다.
네오클라우드가 생산으로의 пропасть를 메우는 핵심 레이어가 부상하고 있다
전통적인 초거대 클라우드 제공업체와는 달리, 네오클라우드는 AI 인프라를 중심으로 설계되었습니다. 그들의 초점은 수백 개의 일반적인 클라우드 서비스를 제공하는 것이 아니라 GPU 접근, AI 성능 최적화 및 유연한 소비 모델에 집중합니다.
많은 기업들에게 네오클라우드는 특수화된 AI 연산 수요가 증가하는 매력적인 답변을 제공합니다. 그들은 최신 가속기 기술을 제공하면서도 대규모 클라우드 환경과 관련된 복잡성을 최소화하여 조직이 워크로드를 확장할 수 있도록 지원합니다.
“AI 아키텍처의 미래는 모델을 데이터에 가깝게 배치하는 데 달려 있으며, 데이터를 모델에 가깝게 이동시키는 것이 아니라 합니다.”
하지만 네오클라우드는 기업 AI 문제의 한 부분만을 해결합니다. AI는 고립된 가치를 창출하지 않습니다. 모델은 문맥이 필요하며, 고객 기록, 거래 이력, 운영 워크플로우, 정책 문서, 공급망 정보 및 기업 지식에 접근해야 합니다. 이러한 자산들을 별도의 AI 환경으로 이동시키면 복제, 지연 및 거버넌스 문제가 발생합니다.
“AI 아키텍처의 미래는 모델을 데이터에 가깝게 배치하는 데 달려 있으며, 데이터를 모델에 가깝게 이동시키는 것이 아니라 합니다.”
포스트그레스가 기업 AI의 기반이 된 이유
기관들이 운영 및 AI 워크로드를 모두 지원하는 통합 플랫폼을 찾고 있는 상황에서 포스트그레스가 자연스러운 기반으로 부상했습니다. 포스트그레스는 세계에서 가장 중요한 애플리케이션들의 운영 핵심 역할을 이미 수행하고 있습니다. 트랜잭션 신뢰성, 확장성, 스케일링을 결합했으며, 기업이 점점 더 요구하는 개방성을 제공합니다. 포스트그레스를 기반으로 하는 AI 관련 애플리케이션 개발은 70% 이상 이루어지고 있습니다.
포스트그레스가 AI 시대에 특히 관련성이 있는 이유는 [데이터베이스 그 이상을 넘어설 수 있는 능력] (https://thenewstack.io/postgres-ai-ground-truth/) 때문입니다. 이는 운영 데이터, 애플리케이션 컨텍스트, 권한, 가시성, 검색 기능을 포함한 AI 시스템을 위한 거버넌스된 메모리 레이어로 기능할 수 있게 합니다.
이것은 복잡성을 크게 줄입니다. 트랜잭션 시스템, 벡터 스토어, AI 메모리 레이어, 거버넌스 프레임워크용 별도 인프라를 유지하는 대신, 조직은 이미 미션 크리티컬 워크로드를 지원하는 신뢰할 수 있는 운영 플랫폼을 중심으로 통합할 수 있습니다.
혁신과 통제를 동시에 추구하려는 CIO들에게 이 아키텍처 단순화는 중요한 전략적 우위를 제공합니다.
주권이 그 어느 때보다 중요해졌습니다
[주권](https://www.enterprisedb.com/what-is-sovereign-ai-data- sovereignty)은 기업 기술의 정의적인 주제 중 하나가 되었습니다. 은행에 있어 주권이란 재무 데이터와 규제 의무를 유지하는 것을 의미합니다. 의료 기관에 있어 주권은 환자 정보를 보호하면서 혁신을 가능하게 하는 것을 의미합니다. 정부에게 있어 주권이란 국가 및 시민 데이터가 적절한 관할 하에 유지되는 것을 보장하는 것을 의미합니다.
AI의 부상은 이러한 우려를 증폭시켰습니다. 기업들은 모델, 데이터, 정책 및 운영 제어권이 지정된 환경 내에서 유지되면서도 AI 기술의 발전을 활용할 수 있다는 보장을 점점 더 필요로 하고 있습니다. 이 요구는 클라우드, 사설 인프라 및 온프레미스 환경을 가로지르는 작동이 가능한 [주권 AI] 아키텍처에 대한 수요를 촉진하고 있습니다.
이 도전은 이러한 환경들 간에 일관성을 유지하면서 운영 복잡성을 도입하지 않는 것입니다.
EDB 포스트그레스 AI: 주권 데이터와 주권 AI 연결
EDB 포스트그레스 AI는 운영 포스트그레스, AI 기능 및 하이브리드 인프라 관리 기능을 통합한 일관된 플랫폼으로 이 도전을 해결합니다.
기업들이 혁신과 통제를 선택하도록 강요하는 대신, EDB 포스트그레스 AI는 데이터가 이미 존재하는 위치에서 AI를 배포할 수 있도록 지원합니다. 운영 데이터베이스, 분석, 에이전트형 AI 워크로드 및 하이브리드 관리 기능을 아우르는 다양한 역량을 통해 조직은 주권 환경 전체에 일관된 운영 모델을 구축할 수 있습니다.
이 접근 방식은 외부 AI 서비스로 민감한 정보를 이동시키는 것이 규정 준수, 보안 또는 거버넌스 문제를 야기할 수 있는 규제 산업에 특히 적합합니다. 운영 데이터에 가까운 인퍼런스를 가능하게 함으로써 조직은 데이터 이동을 줄이고,