运行低功耗 AI 服务器 24/7 — 我的 15W 以下配置
I’m happy to translate the article for you, but I’ll need the full text you’d like translated. Could you please paste the content (or the portion you want translated) here? I’ll keep the source line exactly as you provided and preserve all formatting, markdown, and code blocks.
为什么 “Always On” 很重要
需要手动启动的 AI 助手其实并不是真正的助手——它只是一个工具。区别就像拥有管家与拥有瑞士军刀:前者在你需要时随时就绪,后者只有在你记得它存在时才会被使用。
要让随时在线的 AI 助手有意义,它必须:
- 运行成本几乎为零(电费)
- 零噪音(它位于你的家/办公室)
- 可靠(不崩溃,不过热)
- 真正有能力(而不是仅仅一台华丽的 Raspberry Pi 闲置)
最后一点是大多数低功耗方案失效的地方。的确,Pi 5 只消耗少量电能——但它无法运行本地 AI 模型。功能强大的桌面 GPU 服务器可以运行任何模型——但功耗约 300 W,你仅在电费上就要支付 每月 €30+。
我的配置:ClawBox(Jetson Orin Nano)
我选择了 ClawBox,它是一款配备 512 GB SSD 并预装 OpenClaw 的 NVIDIA Jetson Orin Nano。本文关注的规格如下:
| Spec | Detail |
|---|---|
| TDP | 15 W(在低功耗模式下可调至 7 W) |
| Cooling | 无风扇——完全被动散热 |
| AI Compute | 通过 NVIDIA GPU 实现 67 TOPS |
| Availability | 通过 systemd 服务保持常开,断电恢复后自动启动 |
我把它放在路由器旁的架子上。没有噪音,没有明显的热量,也没有闪烁的 RGB——只是一只小盒子安静工作。
Source: …
电费计算
让我们具体一点。我在欧洲,电价大约是 €0.25 /kWh(各国不同——法国约 €0.15,德国约 €0.35)。
24/7 运行时每个设备的费用
| 设备 | 典型功耗 | kWh / 月 | 每月费用 (€0.25/kWh) | 每年费用 |
|---|---|---|---|---|
| Raspberry Pi 5 | 5‑8 W | 3.6‑5.8 | €0.90‑1.44 | €10.80‑17.28 |
| ClawBox (Jetson) | 12‑15 W | 8.6‑10.8 | €2.16‑2.70 | €25.92‑32.40 |
| Intel N100 Mini PC | 15‑25 W | 10.8‑18.0 | €2.70‑4.50 | €32.40‑54.00 |
| Mac Mini M4 (idle) | 5‑7 W | 3.6‑5.0 | €0.90‑1.26 | €10.80‑15.12 |
| Mac Mini M4 (load) | 20‑40 W | 14.4‑28.8 | €3.60‑7.20 | €43.20‑86.40 |
| 老旧笔记本/台式机 | 40‑80 W | 28.8‑57.6 | €7.20‑14.40 | €86.40‑172.80 |
| 台式 GPU 服务器 | 150‑350 W | 108‑252 | €27.00‑63.00 | €324‑756 |
我的 ClawBox 24/7 运行的费用大约是 €2.50 /月——相当于一杯咖啡的价格——却能提供带 GPU 加速推理的完整 AI 助手。与老旧笔记本(€10+/月)或 GPU 服务器(€30‑60/月)相比,全年下来可节省 数百欧元。
噪音因素
这点常被严重低估。我最初尝试在 Intel N100 迷你 PC 上运行 OpenClaw。它可以工作,但在进行浏览器自动化任务时,细小的风扇会启动。凌晨 2 点的安静公寓里,你会 听到 它的声音。
ClawBox 采用无风扇设计。零噪音。这看似微不足道,直到你在家里与服务器共处一个月后才体会到。静音运行不是锦上添花,而是必需条件。
噪音对比
| 设备 | 噪音水平 | 备注 |
|---|---|---|
| Raspberry Pi 5 | 0 dB(无风扇) | 静音,但功能受限 |
| ClawBox (Jetson) | 0 dB(无风扇) | 静音 + GPU 加速 |
| N100 Mini PC | 20‑35 dB | 负载时风扇转动 |
| Mac Mini M4 | 0‑15 dB | 大多数情况下静音,风扇很少出现 |
| Desktop tower | 25‑45 dB | 始终可闻 |
实际在 15 W 上运行的内容
人们常以为“低功耗”就意味着“低性能”。以下是我的 15 W ClawBox 同时 处理的任务:
- OpenClaw core – Node.js 编排引擎
- Telegram、WhatsApp、Discord 机器人 – 始终保持连接
- 浏览器自动化 – 使用 Playwright 的 Chromium 进行网页任务
- 本地 LLM 推理 – 通过 Jetson GPU 上的 CUDA 运行量化模型
- PostgreSQL – 对话历史和记忆存储
- Nginx – 用作 webhook 的反向代理
所有这些都在 15 W 的功耗下并发运行。Jetson 的 GPU 负责繁重的 AI 计算,而 ARM CPU 负责编排。现代 ARM + GPU 芯片在如此小的功耗范围内也能完成大量工作。
无风扇散热管理
ClawBox 采用被动式铝散热片设计。根据我的测试:
| 负载 | 温度 |
|---|---|
| 空闲 | ~38 °C |
| 正常负载(聊天 + 浏览器自动化) | ~52 °C |
| 重度推理 | ~65 °C |
| 环境温度 | ~23 °C(室内) |
Jetson 在 85 °C 时会降频,而在正常使用中我从未接近该温度。即使在持续进行本地模型推理时,温度也始终保持在安全范围内。
提示: 不要把它放在封闭的机柜里。保持四周有几厘米的散热空间即可,运行不会有问题。
与 Raspberry Pi 的比较
很多人会问:“为什么不直接使用 Raspberry Pi 5?它更便宜且功耗更低。”
这个问题很合理。Pi 5 的功耗大约是 5‑8 W,而 Jetson 的功耗约为 12‑15 W——这相当于每月 €1‑2 的差价。但使用 Pi 5 你会失去以下优势:
- 没有 GPU —— 不能本地运行 AI 模型,毫无例外
- 8 GB RAM 上限 —— 对于 OpenClaw + 浏览器自动化 + 数据库来说非常紧张
- SD 卡可靠性 —— 对于 24/7 高写入负载并不理想
- 没有 CUDA —— 失去整个 NVIDIA AI 生态系统的支持
完整的对比请参见我的 Raspberry Pi 与 Jetson 详细对比,其中包括基准测试、实际性能以及总体拥有成本。
Pi 适合学习和轻量任务。对于需要 本地思考 的常驻 AI 助手来说,额外的 7‑10 W 功耗是值得的。
运行任何低功耗 AI 服务器的技巧
无论硬件如何,遵循以下最佳实践:
- 使用 SSD 而非 SD 卡。 写入耐久性对 24/7 运行至关重要。
- 在断电时设置自动重启。 启用 BIOS 的开机选项,并为你的工作负载创建 systemd 服务。
- 监控温度。 一个简单的 cron 任务记录
/sys/class/thermal/thermal_zone*/temp的值效果很好。 - 使用 UPS 或至少使用防浪涌保护器。 为你的常开服务器提供低成本保险。
- 保持通风。 即使是被动散热的设备也需要几厘米的间隙。
- 保持软件精简。 禁用不必要的服务,以保持在功耗范围内。
有了合适的硬件和一些自律的习惯,低功耗 AI 服务器可以 24/7 运行,保持静音,每月仅花费几欧元——同时处理真实世界的助手任务。祝你玩得开心!
优化你的服务。
禁用你不使用的功能。每瓦特在 8,760 小时的累计中都很重要。
如果你注重安全,请将其放在独立的 VLAN 中。 常开设备就是常开的攻击面。
结论
运行 低功耗 AI 服务器 并不是在妥协——而是要恰到好处。我不需要一台 350 W 的 GPU 服务器来管理我的消息、自动化网页任务以及偶尔进行本地推理。我需要的是一台安静、高效的机器,月费用甚至比流媒体订阅还低。
在 15 W 且 €2.50 / 月 的情况下,ClawBox 是我会推荐给任何想要 随时在线的 AI 助手,且不想承受传统服务器硬件噪音、热量或高额电费的人。
个人 AI 的未来不在云端,而在你的书架上,耗电量甚至比一盏灯泡还低。
想要自己动手构建低功耗 AI 环境吗?查看 硬件对比指南 以获取详细基准测试和购买建议。