· ai
[Paper] 优化大型语言模型在地理分布式推理中的资源分配
大型语言模型在许多 AI 任务中表现出卓越的性能，但即使在训练之后，由于它们对高……的需求，使用成本仍然很高。
-
- · ai
🦉 从破损模型到活体系统：我在没有 GPU 的情况下构建 AI 的旅程
我并没有从完美的配置开始——没有 GPU，没有 TPU，也没有资金——只有想法、失眠和一种顽固的冲动，想让机器拥有生命。这就是我的 AI 的故事。
- · ai
[Paper] 保守的主动信息
我们引入了保守的主动信息 I^oplus，这是一种对主动信息的对称扩展，用于量化整个搜索过程中的信息净增益/损失。
- · ai
[Paper] 基于智能 IoT 的泄漏预测与检测，用于 AI 数据中心的节能液冷
以 GPU 为核心的 AI 数据中心已采用液体冷却来处理极端热负荷，但冷却剂泄漏导致通过 unp... 的大量能量损失。
- · ai
[Paper] 智能体如何进行代码优化？实证研究
Performance optimization 是软件开发中一个关键且充满挑战的方面，通常需要对系统行为、algorithmic trad… 有深入的理解。
- · software
我一直在开发一款名为 FinVantage 的个人理财应用，但最近遇到了瓶颈
应用 - 使用 OCR 扫描收据 – 将相机对准任意账单，AI 提取全部信息 - 语音输入 – 说“在杂货上花了 500”，即可记录 - AI 洞察...
- · ai
让心情更欢快——在 GeForce NOW 上畅听节日热曲
节日灯光闪烁，热可可在炉子上沸腾，玩家们正准备好好休息一下。无论是宅在家里还是去冬季度假，Ge...
- · ai
为什么 MAP 和 MRR 在搜索排名中失效（以及该使用什么）
MAP 和 MRR 看起来直观，但它们悄悄破坏了排序评估。下面说明这些指标为何会产生误导——以及更好的替代方案如何解决。文章《Why MAP and...》
- · it
OpenAI 承认 prompt injection 将持续存在，企业在防御方面滞后
当一家领先的 AI 公司说出显而易见的事情时，令人耳目一新。在一篇关于强化 ChatGPT Atlas 抵御 prompt injection 的详细帖子中，OpenAI 承认了什么……
- · ai
[Paper] HiStream：通过消除冗余的流式传输实现高效高分辨率视频生成
高分辨率视频生成虽然对数字媒体和电影至关重要，但由于扩散模型的二次复杂度，在计算上成为瓶颈，...
- · ai
[Paper] 超越记忆：多模态序回归基准，揭示视觉语言模型中的流行度偏差
我们揭示了最先进的视觉语言模型（VLMs）中显著的流行偏差，这些模型在著名建筑上的准确率最高可提升34%……
- · ai
[Paper] 通过量化不确定性优化 Masked Diffusion Models 中的解码路径
Masked Diffusion Models（MDMs）提供灵活的非自回归生成，但这种自由带来了一个挑战：最终输出质量对……高度敏感。