애플 AI 전략, 프라이버시 약속에 달렸다

출처: The Verge

예상대로, 어제 열린 WWDC 키노트에서는 대부분 AI에 관한 내용이었습니다. 그리고 역시 예상대로, 애플은 뒤늦게 등장한 점을 판매 포인트로 삼으려 했습니다: “우리는 AI에 서두르지 않았습니다. 제대로 하려는 시간이 필요했기 때문입니다.” 여기서 “제대로”라는 말은 “다른 어느 곳보다 더 많은 프라이버시를 보장한다”는 뜻입니다. 좋은 판매 전략이지만, 실제로 얼마나 버틸 수 있을지는 두고 봐야 합니다.

새로운 Apple Intelligence 기능과 업데이트된 Siri AI는 iPhone, iPad, Mac, Apple Watch, Vision Pro 전반에서 작동하도록 설계되었습니다. 전용 Siri AI 앱이 제공되며, ChatGPT와 비슷한 챗봇 경험, AI 기반 카메라 및 사진 편집 기능, 그리고 Siri AI가 iPhone, iPad, Mac의 다른 앱 및 소프트웨어와 상호작용할 수 있는 에이전시 경험의 초석이 마련되었습니다.

어떤 기기에서 새로운 AI에 접근하든, 애플은 처리 방식이 거의 동일하다고 말합니다: 가능한 경우 요청은 기기 내에서 처리되고, 그렇지 않을 경우 보안이 강화된 Private Cloud Compute 시스템을 통해 처리됩니다. 애플은 사용자의 데이터가 저장되지 않으며, 요청을 수행하는 데에만 사용되고, 애플이나 다른 누구도 접근할 수 없다고 주장합니다. 새로운 Siri AI 앱에 남는 대화 로그는 기기 내와 종단 간 암호화된 iCloud 계정에만 보관됩니다.

이 아키텍처 자체는 새로운 것이 아닙니다 — Private Cloud Compute는 2024년 Apple Intelligence 최초 출시와 동시에 발표되었습니다. 하지만 2년이 지난 지금 두 가지가 바뀌었습니다. 첫째, 애플은 여전히 거의 모든 경쟁사보다 AI 분야에서 뒤처져 있습니다. 이는 프라이버시를 강조하는 것이 경쟁사와 차별화하는 가장 중요한 포인트가 됨을 의미합니다. 두 번째 변화는 더 복잡합니다: 뒤처진 만큼 애플은 이제 구글과 엔비디아와 협력해 AI 운영을 진행하고 있습니다.

애플이 자체적으로 설계한 것이 아니라, 새로운 클라우드 AI 모델은 구글 Gemini를 기반으로 합니다. 한편 Private Cloud Compute는 애플 자체 데이터센터를 넘어 구글 클라우드 시스템에서 엔비디아 GPU, 인텔 CPU, 구글 Titan 칩을 사용해 운영됩니다.

이는 큰 변화입니다. Private Cloud Compute가 처음 발표될 때 애플은 이 시스템이 애플 실리콘 전용으로 설계됐으며, 각 서버가 랙에 들어가기 전에 광범위한 보안 검사와 검증 절차를 거치는 강화된 공급망을 강조했습니다. 하지만 구글, 인텔, 엔비디아의 공급망을 애플이 직접 통제할 수는 없습니다. 대신 애플은 현재 사용 중인 모든 구글 클라우드 하드웨어에 대해 “암호학적으로 검증 가능한, 추가만 가능한 원장”을 유지하고 소프트웨어에 대한 “완전한 제어”를 보유하고 있다고 밝히고 있습니다. 애플은 이 시스템이 이전과 동일한 “탁월한 보안 및 프라이버시 특성”을 갖춘다고 주장하지만, 비평가들은 공급망이 길어지면서 기존에 없던 취약점이 생길 수 있다고 지적합니다.

그럼에도 불구하고 애플은 AI 접근 방식이 거대 AI 기업들보다 프라이버시를 우선시한다는 점을 신뢰성 있게 주장할 수 있습니다. 그리고 이 점을 강조하는 데 주저하지 않았습니다. “일부 기업은 AI 자체를 목표로 삼아, 궁극적으로 서비스를 받아야 할 우리 모두를 고려하지 않는 듯 보입니다.”라고 소프트웨어 엔지니어링 부사장 크레이그 페더리히는 키노트에서 말했습니다. 그는 이어 Apple Intelligence가 “모든 단계에서 프라이버시를 염두에 두고 설계되었다”고 설명했습니다.

실제로 애플의 프라이버시 솔루션이 완전히 독창적인 것은 아니지만, 업계에서 가장 포괄적인 편입니다. 작년 구글은 Private AI Compute를 발표했으며, 당시 우리는 이를 “사실상 동일한” Private Cloud Compute(이름까지 동일)라고 부렀습니다. 구글은 자체 TPU 기반 “하나의 원활한 구글 스택” 위에서 이를 운영했습니다. 차이는 적용 방식에 있습니다: 애플은 기기 내에서 실행할 수 없는 모든 AI 요청에 Private Cloud Compute를 사용하지만, 구글은 언제 이 서비스를 활용하고 언제 사용하지 않을지 구체적으로 밝히지 않았습니다. 구글은 이 기술을 Pixel 폰의 Magic Cue와 AI 기반 Recorder 앱에 사용한다고 했지만, Gemini 쿼리를 모든 구글 폰에서 사용할 때 적용되는지, 혹은 다른 플랫폼에서 Gemini 사용에 동일한 보호가 제공되는지는 언급하지 않았습니다.

실제로 구글에 따르면 Gemini는 기본적으로 방대한 데이터를 수집합니다: 사용자가 제출한 프롬프트, 공유한 파일, 음성 대화 녹음 등. 또한 Gemini가 생성한 콘텐츠, 수행한 작업, 그리고 사용자가 Gemini와 함께 사용하는 앱, 브라우저, 디바이스에 대한 정보도 수집합니다. 기본 설정으로 Gemini와의 채팅 기록은 18개월 동안 보관된 뒤 삭제되며, 최소 72시간까지 단축할 수 있습니다.

다른 주요 AI 기업들도 비슷한 상황입니다. OpenAI는 사용자가 ChatGPT에 업로드한 프롬프트와 콘텐츠, 다양한 위치 및 디바이스 정보를 수집한다고 밝히고 있습니다. 채팅 내용은 기본적으로 모델 학습 데이터로 활용되지만, 사용자가 이를 비활성화할 수 있습니다. Anthropic도 Claude 사용 시 거의 동일한 데이터를 수집하지만, 음성 프롬프트 녹음은 삭제하고 전사본만 보관한다고 명시합니다. Claude 역시 기본적으로 데이터를 모델 학습에 사용하며, “식별 불가능한” 형태로 최대 5년간 보관합니다.

반면, Apple Intelligence 프라이버시 정책은 2025년에 마지막으로 업데이트됐으며(가장 최근 발표 이전), Private Cloud Compute 요청에 대해 “요청 크기와 처리 시간” 정도의 제한된 정보만 수집하고, 요청 내용이나 결과에 대한 정보는 수집하지 않는다고 명시합니다. Apple은 자체 모델을 학습시키는 데 사용자 개인 데이터나 상호작용을 사용하지 않는다고 주장합니다. 여기에는 애플만의 이점이 있습니다: 모델 학습에 데이터를 직접 수집할 필요가 없기 때문입니다. 구글이 이미 자체 사용자 데이터를 활용해 모델을 학습했기 때문이죠. 구글과의 파트너십은 사용자 프라이버시 유지에 대한 우려를 낳을 수 있지만, 동시에 프라이버시를 포기하지 않고도 실용적인 AI를 제공할 수 있게 해주는 요소이기도 합니다.

결국, 더 제한적인 기본 데이터 수집이 애플의 프라이버시 약속을 돋보이게 합니다. 확장된 Private Cloud Compute가 과거만큼 안전하지 않더라도, 애플은 여전히 다른 AI 대안보다 훨씬 적은 데이터를 수집한다고 주장합니다. 많은 애플 사용자에게는 Apple Intelligence가 실제로 제공될 때까지 몇 달, 혹은 몇 년을 기다리는 것이 충분히 가치 있을 수 있습니다.

주제와 저자를 팔로우하면 맞춤형 홈피드에서 이와 유사한 기사들을 더 많이 볼 수 있고, 이메일 업데이트도 받을 수 있습니다.

• Dominic Preston