Show HN: Off Grid – 在手机上离线运行 AI 文本、图像生成、视觉

Source: Hacker News

概述

您的手机 GPU 往往比许多 2018 年笔记本的 GPU 更强大，但在您每月为远程服务器上的 AI 支付订阅费用时，它通常处于闲置状态。这些服务会将您的对话、照片和语音记录发送给您可能从未阅读过隐私政策的公司。Off Grid 是一款开源应用，能够让这些硬件在本地发挥作用：文本生成、图像生成、视觉 AI 和语音转录——全部在手机上运行，数据永不离开设备。

使用场景

• 在没有 Wi‑Fi 的航班上使用 AI。
• 在互联网审查严格的国家使用。
• 在云服务存在合规风险的医院部署。
• 将个人日记内容保留在训练数据之外。

技术细节

• 文本生成： llama.cpp（15–30 token/秒，任意 GGUF 模型）
• 图像生成： Stable Diffusion（在 Snapdragon NPU 上 5–10 秒）
• 语音转录： Whisper
• 视觉： SmolVLM / Qwen3‑VL

所有组件均在以下平台上实现硬件加速：

• Android： QNN、OpenCL
• iOS： Core ML、ANE、Metal

可用性

• MIT 许可证。
• Android APK 可在 GitHub Releases 下载。
• 源代码可构建 iOS 版本。

---

评论： https://news.ycombinator.com/item?id=47019133 (24 points, 6 comments)