Google의 새로운 Interactions API가 AI 개발자에게 큰 의미를 갖는 이유

Source: VentureBeat

배경

지난 2년 동안 생성형 AI 개발의 기본 단위는 “완성(completion)” 이었습니다. 텍스트 프롬프트를 모델에 보내면 모델이 텍스트를 반환하고 거래가 종료됩니다. 대화를 계속하려면 전체 대화 기록을 다시 모델에 보내야 합니다. 이 무상태(stateless) 접근 방식은 작동하지만 비효율적이며 개발자가 구축할 수 있는 상호작용 유형을 제한합니다.

Google의 Interactions API

Google의 새로운 Interactions API는 개발자가 상태 유지(stateful) 다중 턴 대화를 서버 측에서 직접 관리할 수 있게 함으로써 이러한 패러다임을 바꿉니다. 각 요청마다 전체 대화 기록을 다시 보낼 필요 없이, API가 모델이 컨텍스트를 추적하도록 하여 더 풍부하고 동적인 상호작용을 가능하게 합니다.

주요 장점

• 지연 시간 감소 – 큰 프롬프트 히스토리를 다시 보낼 필요가 없습니다.
• 토큰 사용량 감소 – 모델은 전체 대화가 아니라 새로운 사용자 입력만 처리합니다.
• 코드 단순화 – 개발자는 대화 상태 관리 대신 기능 구현에 집중할 수 있습니다.

함수 호출

API는 **“함수 호출(function calling)”**도 지원합니다. 모델이 대화 중에 외부 함수를 호출할 수 있게 하여 다음과 같은 가능성을 열어줍니다:

• 실시간 데이터 조회
• 도구 사용
• 보다 복잡한 워크플로우

이러한 기능을 통해 AI 비서가 예를 들어 약속을 잡거나, 실시간 데이터를 가져오거나, IoT 장치를 제어하는 등 광범위한 작업을 별도의 복잡한 파이프라인 없이도 쉽게 구현할 수 있습니다.

결론

전반적으로 Google의 Interactions API는 보다 유연하고 효율적이며 강력한 AI 기반 애플리케이션을 향한 중요한 진전이며, 개발자에게 차세대 인터랙티브 경험을 구축할 수 있는 강력한 새로운 도구를 제공합니다.