WhatsApp AI Bot in Production: 3개월, 5만 메시지, 다운타임 제로

Source: Dev.to

도전 과제

클라이언트는 하루에 200개 이상의 WhatsApp 메시지가 들어오고, 두 명이 답변을 하면서도 피크 타임에 응답 시간이 2시간 이상 걸려 고객을 잃고 있었습니다.

그들의 요구: “실제로 작동하는 봇을 만들 수 있나요?”

스택

WhatsApp Business API
        |
    Evolution API (self-hosted)
        |
    FastAPI Backend
        |
    Yoshii IA (Brazilian Portuguese LLM)
        |
    PostgreSQL + Redis

차별점

1. 포르투갈어를 실제로 이해함

번역된 영어가 아니라 원어민 수준의 브라질 포르투갈어.

Customer: "ce tem a blusa azul em P?"
(Informal: "u got the blue shirt in S?")

Bot: "Temos sim! A blusa azul ta disponivel em P, M e G.
     Quer que eu reserve pra voce?"

2. 스마트 핸드오프

봇이 80 %의 문의를 처리하고, 복잡한 경우는 전체 컨텍스트와 함께 사람에게 전달됩니다:

if sentiment_score | Evolution API  |---->| Webhook  |
| Cloud API   |     | (self-hosted)  |     | Handler  |
+-------------+     +----------------+     +----------+
                                                |
                    +---------------------------+
                    |
              +-----v-----+     +---------+
              | Message   |---->| Yoshii  |
              | Processor |     | LLM API |
              +-----------+     +---------+
                    |
              +-----v-----+
              | Response  |
              | Generator |
              +-----------+
                    |
              +-----v-----+
              | Queue     |-----> Send via WhatsApp
              +-----------+

비용 상세

오픈 소스

이 봇을 구동하는 LLM은 오픈 소스입니다:

• 모델: yoshii-ai/Yoshii-7B-BR
• 데이터셋: brazilian-customer-service-conversations

앞으로의 계획

• 음성 메시지 처리 (Whisper 통합)
• 사전 알림 메시지 (주문 상태 업데이트)
• 다국어 지원
• 분석 대시보드

비슷한 것을 만들고 싶으신가요? 댓글로 언제든 도와드리겠습니다!

sakaguchi.ia.br | WhatsApp