구글의 저평가된 AI 앱, 안드로이드 폰에서 온디바이스 AI 도구 3가지 공개
Joe Maring / Android Authority
AI. AI. AI. 지난 몇 년간 이 단어를 너무 많이 들어서 지쳤을 거라 생각합니다. 모든 기능, 모든 앱, 모든 키노트 슬라이드에 AI라는 라벨이 붙어 있죠. 실제로 휴대폰이 더 좋아지는지 여부와는 별개로 말이죠. 솔직히 저도 같은 느낌이었습니다. 물론 유용한 기능도 있지만, 안드로이드에 탑재된 대부분의 AI 기능은 한 번 써보고는 잊어버리는 속임수에 불과하다고 생각했습니다.
제 의견으로는 온‑디바이스 AI가 바로 그런 속임수 중 하나였습니다. 대부분의 AI 기능은 아직도 클라우드(또는 하이브리드) 기반이며, 스마트폰이 AI 데이터 센터의 연산 능력을 따라잡을 수 없다고 오래전부터 믿어왔습니다. 그래서 온‑디바이스 AI는 기업들이 주장하는 만큼 실용적이라고 느껴지지 않았습니다.
하지만 구글의 덜 알려진 온‑디바이스 AI 앱을 직접 써보면서 제 생각이 조금 바뀌었습니다.
휴대폰에서 완전히 오프라인으로 동작하는 AI 기능을 실제로 사용할 건가요?
9표
Google AI Edge Gallery는 내가 몰랐던 숨은 보석
Sanuj Bhatia / Android Authority
Google의 AI Edge Gallery 앱은 새로 나온 것이 아닙니다. 실제로 약 1년 전에 실험용 앱으로 출시되었습니다. 최근에 다시 주목받게 된 이유는 구글이 Gemma 4(최신 오픈소스 AI 모델)를 지원하도록 **[업데이트]**했기 때문입니다(https://www.androidauthority.com/gemma-4-ai-edge-gallery-3656199/). 이 업데이트 덕분에 저는 본격적으로 사용해 볼 수 있었습니다.
앱은 안드로이드와 iOS 모두에서 사용할 수 있습니다. 저는 iPhone Air(https://www.androidauthority.com/iphone-air-who-is-it-for-3597508/), Google Pixel 10 Pro, 그리고 Oppo Find X9 Ultra(https://www.androidauthority.com/oppo-find-x9-ultra-camera-hands-on-3659414/)에서도 테스트했습니다. 플랫폼마다 약간의 차이는 있지만 핵심 아이디어는 동일합니다. 오픈소스 AI 모델을 직접 디바이스에 다운로드하고, 이를 다양한 작업에 활용하는 것이죠.
앱에는 일반 챗봇, 음성 전사, 이미지에 대한 질문, 에이전트 스타일 작업 등 미리 정의된 사용 사례가 여러 개 들어 있습니다. 저는 한정된 파라미터를 가진 온‑디바이스 AI 모델이 실제 생활에서 크게 도움이 되지 않을 거라 생각했었는데, 최근 여행 중에 이 도구가 생각보다 유용하다는 것을 깨달으며 의견이 바뀌었습니다.
이동 중에도 질문하기
Sanuj Bhatia / Android Authority
가장 좋은 사용 사례는, 아직 완벽하진 않지만 오프라인 온‑디바이스 AI 챗봇에 접근할 수 있다는 점입니다. Google AI Edge Gallery 앱은 AI Chat을 제공하는데, 이는 Gemini 등 다른 챗봇과 본질적으로 비슷합니다.
사용법은 매우 간단합니다. 프롬프트를 입력하면 모델이 응답을 내놓습니다. 멀티모달을 지원해 텍스트, 음성, 이미지 모두를 입력할 수 있으며, 모두를 컨텍스트에 반영합니다. ChatGPT나 Gemini에 비해 확실히 느리지만, 전혀 인터넷에 연결되지 않은 상태에서 온‑디바이스만으로 동작한다는 점이 큰 차별점입니다.
32,000피트 고도에서 인터넷 없이 휴대폰으로 AI를 사용해 본 경험은 온‑디바이스 AI가 실제로 가능하다는 느낌을 주었습니다.
제가 최근 태국행 비행기에서 사용했을 때는, 기본적인 회화 문구를 물어보거나 기내 엔터테인먼트 시스템에 있는 영화 제목 몇 개를 알려 달라고 요청해 추천과 대략적인 IMDb 평점을 받아보았습니다.
인터넷에 접근할 수 없고 학습 데이터에만 의존한다는 점을 고지했지만, 질문을 그에 맞게 구성하면 완전 오프라인 상황에서도 꽤 유용한 답변을 얻을 수 있었습니다.
오프라인 번역
Sanuj Bhatia / Android Authority
이 앱의 가장 강력한 사용 사례라고 할 수 있습니다. 해외 여행 시 eSIM을 사용하지만, 연결이 원활하지 않은 지역이 종종 있습니다. 이때 Gemma 4의 멀티모달 기능 덕분에 AI Edge Gallery를 진정한 오프라인 번역기로 활용할 수 있습니다.
앱에는 음성을 전사하고 동시에 실시간 번역까지 해주는 전용 오디오 스크라이브 도구가 포함돼 있습니다. 하드웨어를 제대로 활용할 수 있는 폰에서는 번역 속도가 놀라울 정도로 빠르며, 전용 번역 앱 못지않게 인터넷 없이도 안정적으로 동작합니다.
이미지에 질문하기
Sanuj Bhatia / Android Authority
위 기능을 확장한 것이 바로 오프라인 모델을 이용한 이미지 질문 기능입니다. 사진을 첨부하고 그에 대해 궁금한 점을 물어볼 수 있습니다. 처음엔 별로 쓸 일 없을 거라 생각했지만, 여행 중에 메뉴를 번역하거나 다양한 언어로 된 표지판을 이해할 때 정말 큰 도움이 되었습니다.
또한 모든 처리가 디바이스 내에서 이루어지기 때문에 이미지 파일을 서버에 업로드하고 응답을 기다리는 과정이 없어, 소중한 모바일 데이터도 절약할 수 있습니다.
AI Edge Gallery 안드로이드 앱이 개선해야 할 몇 가지 점
전반적으로 Google AI Edge Gallery 앱을 오프라인 AI 도구로 사용해 보니 만족스러웠지만, 몇 가지 단점도 존재합니다. 가장 큰 불만은 채팅 기록이 저장되지 않는다는 점입니다.
예를 들어 Gemini나 ChatGPT 같은 경우에는 각 대화가 스레드 형태로 저장돼 나중에 다시 열어 이어서 대화할 수 있습니다. 오프라인 모델은 하드웨어 제약으로 컨텍스트 길이에 제한이 있다는 점은 이해하지만, 최소한 제한에 도달할 때까지 대화를 이어갈 수 있는 옵션이라도 제공했으면 좋겠습니다.
더 큰 문제는 구글이 안드로이드에서 하드웨어 활용을 충분히 하지 못한다는 점입니다. AI Edge Gallery 앱은 안드로이드와 iOS 모두에서 제공되며, 여러 디바이스에서 테스트해 보았습니다. iPhone에서는 GPU를 활용해 처리 속도가 일반적으로 AI 작업에 훨씬 빠릅니다.
안드로이드에서는 상황이 엇갈립니다. Snapdragon 8 Elite Gen 5(https://www.androidauthority.com/oppo-find-x9-ultra-vs-x9-pro-benchmarks-3659826/) 같은 최상위 칩을 탑재한 폰은 GPU를 활용해 앱을 훨씬 효율적으로 실행할 수 있습니다. 하지만 구글 자체 Pixel 10 Pro에서는 Tensor GPU나 NPU를 충분히 활용하지 못하는 듯합니다.
앱에서는 AICore 기반 경험(NPU 활용 가능)이 현재 베타 테스터에게만 제한돼 있다고 안내합니다. 저처럼 해당 프로그램에 포함되지 않은 사용자는 CPU 처리로 전환되며, Gemini Nano 같은 온‑디바이스 모델을 활용하지 못해 눈에 띄게 느려집니다.
Robert Triggs / Android Authority
비교해 보면, 같은 음성 입력에 대해 iPhone Air는 1초 미만에 응답했지만 Pixel 10 Pro는 10초가 넘게 걸렸습니다. 이런 차이는 전체 사용 경험에 큰 영향을 미칩니다.
제가 말하는 온‑디바이스 AI 앱은 기능이 제한적이고 사용자층도 꽤 틈새 시장에 속합니다. 하지만 구글이 온‑디바이스 AI를 크게 강조하고 있는 만큼, 자체 Tensor 하드웨어를 충분히 활용하지 못한다는 점은 다소 실망스럽습니다. 이 부분이 빨리 개선되길 진심으로 바랍니다.
그럼에도 불구하고, 32,000피트 고도에서 직접 Gemini 모델에 접근해 답변을 얻을 수 있었다는 경험은 정말 눈을 뜨게 했습니다. 아마도 제가 실제로 진정한 AI를 체감한 첫 순간이었을 겁니다.