왜 Notion의 가장 큰 AI 돌파구는 모든 것을 단순화함으로써 나왔는가

Source: VentureBeat

소개

LLM과 에이전시 AI를 처음 실험할 때, Notion AI의 소프트웨어 엔지니어들은 고급 코드 생성, 복잡한 스키마, 그리고 무거운 지시를 적용했습니다. 하지만 곧 시행착오를 통해 팀은 그 복잡한 데이터 모델링을 모두 없앨 수 있다는 것을 깨달았습니다. Notion의 AI 엔지니어링 팀은 문제 공간을 단순화하면 훨씬 더 좋은 결과를 얻을 수 있다는 것을 발견했습니다.

초기 접근 방식

• 고급 코드 생성: 팀은 실시간으로 정교한 코드 스니펫을 생성하려고 시도했습니다.
• 복잡한 스키마: 사용자 의도를 포착하기 위해 복잡한 데이터 구조를 구축했습니다.
• 무거운 지시: 프롬프트에 상세하고 다단계 지시를 가득 채웠습니다.

이러한 전술은 처음에는 유망해 보였지만, 지연, 취약성, 그리고 개발자와 최종 사용자 모두에게 가파른 학습 곡선을 초래했습니다.

전환점

반복적인 테스트를 통해 엔지니어들은 많은 정교한 구성 요소가 불필요하다는 것을 깨달았습니다. 추상화 레이어를 제거하고 보다 직관적인 상호작용 모델에 집중함으로써 다음을 달성했습니다:

1. 지연 감소 – 처리 단계가 줄어들어 응답이 빨라짐.
2. 신뢰성 향상 – 시스템이 단순해져 실패 지점이 감소.
3. 향상된 사용자 경험 – 사용자는 복잡한 스키마를 이해할 필요 없이 AI와 상호작용 가능.

단순화된 솔루션

팀은 미니멀리스트 디자인으로 전환했습니다:

• 평면 데이터 구조: 중첩 스키마 대신 평면 키‑값 쌍을 사용.
• 간결한 프롬프트: 프롬프트를 짧고 명확하며 컨텍스트를 인식하도록 재작성.
• 반복적 정제: AI가 사전에 모든 것을 추론하려 하지 않고 후속 질문을 할 수 있게 함.

이 접근 방식은 LLM이 핵심 언어 이해 작업에 집중하도록 하면서, 주변 인프라가 가벼운 방식으로 컨텍스트 관리를 담당하게 했습니다.

결과

• 높은 정확도: 복잡도가 감소했음에도 (또는 덕분에) AI 출력 품질이 향상.
• 확장성: 간소화된 아키텍처가 Notion 사용자 기반 전반에 더 효율적으로 확장.
• 개발자 생산성: 엔지니어가 복잡한 코드를 유지보수하는 데 드는 시간이 줄고 새로운 기능을 만드는 데 더 많은 시간을 할애.

주요 시사점

• 단순함이 복잡함을 능가할 수 있다 대형 언어 모델을 다룰 때.
• 반복 테스트는 필수이며, “더 고급” 솔루션에 대한 가정은 오해를 불러올 수 있다.
• 사용자 중심 설계—사용자가 실제로 필요로 하는 것에 집중—는 더 나은 제품 결과를 만든다.

단순함을 받아들임으로써 Notion AI는 도전적인 엔지니어링 문제를 경쟁력 있는 강점으로 바꾸었으며, 때때로 가장 큰 돌파구는 복잡성을 추가하는 것이 아니라 제거하는 데서 온다는 것을 보여주었습니다.