Show HN: 오프 그리드 – 전화기에서 AI 텍스트, 이미지 생성, 비전 오프라인 실행

Source: Hacker News

Overview

당신의 휴대폰 GPU는 많은 2018년형 노트북 GPU보다 더 강력한 경우가 많지만, 원격 서버에서 AI를 실행하기 위해 매달 구독료를 내는 동안 보통 유휴 상태에 있습니다. 이러한 서비스는 당신의 대화, 사진, 음성 녹음을 당신이 읽어본 적이 없을 수도 있는 회사들의 개인정보 보호정책에 따라 전송합니다. Off Grid는 그 하드웨어를 로컬에서 활용하도록 만든 오픈소스 앱으로, 텍스트 생성, 이미지 생성, 비전 AI, 음성 전사 등을 전부 휴대폰에서 실행하며 데이터가 디바이스를 떠나는 일은 없습니다.

Use Cases

• Wi‑Fi가 없는 비행기 안에서 AI 사용
• 인터넷 검열이 있는 국가에서 운영
• 클라우드 서비스가 규정 준수 문제를 일으키는 병원에서 배포
• 개인 일기 내용을 누구의 학습 데이터에도 포함되지 않게 유지

Technical Details

• Text generation: llama.cpp (15–30 토큰/초, 모든 GGUF 모델)
• Image generation: Stable Diffusion (Snapdragon NPU에서 5–10 초)
• Voice transcription: Whisper
• Vision: SmolVLM / Qwen3‑VL

모든 구성 요소는 다음 플랫폼에서 하드웨어 가속됩니다:

• Android: QNN, OpenCL
• iOS: Core ML, ANE, Metal

Availability

• MIT 라이선스.
• Android APK는 GitHub Releases에서 제공.
• 소스 코드는 iOS용으로도 빌드 가능.

---

Comments: https://news.ycombinator.com/item?id=47019133 (24 points, 6 comments)