왜 기업들은 일반 AI를 사용자를 아는 도구로 교체하고 있는가
Source: VentureBeat
개요
AI의 미래는 단순히 에이전시적인 것이 아니라, 깊은 개인화이다.
단순히 사용자 행동을 연관시켜 패턴을 식별하고 이를 개별 워크플로에 적용하는 추천 시스템이 아니라, 대형 언어 모델(LLM)과 AI 에이전트는 사용자를 직접 분석하여 깊이 맞춤화된 경험을 만들 수 있다.
사용자가 점점 더 요구하는 이러한 공격적인 맞춤화이며, 이를 제공하는 가장 현명한 기업(그리고 곧 제공할 기업)이 승리할 것이다.
목표는 “무작위로 하거나 내가 누군지 추측하려 하지 마세요. 내가 무엇을 중요하게 생각하는지 알려드리겠습니다,” 라고 Zoom AI 제품 책임자인 Lijuan Qin이 새로운 Beyond the Pilot podcast에서 설명한다.
Zoom이 개인화 기능을 도입하는 방법
Zoom의 생성형 어시스턴트인 AI Companion은 기본적인 요약, 스마트 녹음, 회의 후 작업 항목을 넘어 의견 차이와 사용자 정렬 추적까지 지원합니다.
- 사용자는 자신의 특정 관심사에 맞춰 회의 요약을 맞춤 설정할 수 있습니다.
- 다양한 페르소나(예: 영업 담당자 또는 계정 담당자)를 위한 후속 이메일 템플릿을 만들 수 있습니다. AI 어시스턴트는 통화 후 자동으로 해당 문서를 채워 넣습니다.
- Zoom AI Studio에 있는 맞춤 사전은 고유한 기업 용어와 어휘를 처리하여 보다 관련성 높은 AI 결과물을 제공합니다.
- 심층 연구 모드를 통해 “내부 전문 지식 및 외부 인사이트”를 기반으로 포괄적인 분석을 빠르게 제공받을 수 있습니다.
제어가 핵심이며, 인간은 “매우 구체적으로 [그리고] 에이전트 권한을 확정”할 수 있다고 Qin이 설명했습니다. 그들은 후속 작업에 대해 “매우 명확한 제어”를 가지고 있습니다, 예를 들어:
- 에이전트가 특정 수신자에게 자동으로 이메일을 보낼 수 있나요?
- 전사에 민감한 정보가 포함된 것으로 인식될 때 검증 단계를 트리거해야 하나요(사용자가 지정한 대로)?
AI가 때때로 올바른 방향을 벗어날 수 있다는 점을 인식하고, 인간 사용자는 Zoom에서 에이전트 행동을 추적하고, 기능을 켜고 끌 수 있으며, 데이터 접근을 제어할 수 있습니다. 이는 부정확하거나 목표와 벗어난 결과물을 방지하는 데 도움이 됩니다.
“가장 중요한 것은 AI가 모든 것을 정확히 처리할 만큼 똑똑하다고 가정하지 않는다는 점”이라고 Qin이 강조했습니다.
컨텍스트를 올바르게 잡기
이 새로운 에이전시 AI 시대에, Sam Witteveen(Red Dragon AI 공동 설립자이자 Beyond the Pilot 진행자)은 본질적으로 “컨텍스트에 대한 땅을 차지하는 경쟁”이 진행되고 있다고 말합니다.
“사용자를 확실히 아는 것이 가장 큰 과제죠, 맞나요? 그들이 어떤 앱 안에서 생활하고, 일상적으로 어떤 작업을 지속적으로 수행하는지 아는 것 말이에요.”
기업들은 여러분에 대한 데이터가 많을수록 AI 메모리가 더 좋아지고, 맞춤화도 더 잘될 수 있다는 점을 깨닫고 있습니다.
- Claude Cowork는 Witteveen에 따르면 이 분야에서 “정말 빛을 발하고” 있는 앱입니다.
- OpenClaw도 또 다른 예시입니다. 모델이 이제 충분히 강력해져 사용자를 위한 결정을 내리고 다음과 같은 지시에도 응답할 수 있습니다: “당신은 나에 대해 많은 정보를 가지고 있어요. 이 모든 컨텍스트를 활용해 내가 더 나은 업무를 수행하도록 도와줄 스킬을 생성해 주세요.”
하지만 토큰 사용량과 보안은 항상 고려되어야 합니다. OpenClaw는 출시 이후 보안 문제에 시달려 왔습니다. 이 때문에 많은 기업이 자율 에이전트를 제거하거나 사용을 전면 금지하고 있습니다; 이러한 제거 작업은 IT 리더가 실수로 전체 엔터프라이즈 스택을 삭제하지 않도록 올바르게 진행되어야 합니다.
토큰 예산 측면에서, 개인화는 비용을 증가시킬 수 있습니다. “추적하고 있는 메트릭을 생각해야 합니다,”라고 Witteveen은 말했습니다. “제품마다 차이는 크지만, 이러한 것들에 대한 메트릭이 핵심이 될 겁니다.”
팟캐스트에서 더 들어볼 내용:
- 지금 AI 스킬을 실험하지 않는 기업은 “곧 망할 수도 있다”는 이유.
- Zoom이 회의 중 의견 차이를 추적하는 AI 동반자를 어떻게 구축했는지—액션 아이템뿐 아니라 의견 차이까지.
- 엔터프라이즈 소프트웨어에서 ‘구축 vs 구매’ 질문이 왜 더 급박해졌는지.
- 미래 기업 AI에서 “스킬”이 MCP보다 더 중요해질 수 있는 이유.
또한 **Beyond the Pilot**을 Spotify, Apple Podcasts 또는 팟캐스트를 들을 수 있는 어디서든 구독하고 청취할 수 있습니다.