DeepSeek的条件记忆修复了静默的LLM浪费：GPU周期因静态查找而损失

Source: VentureBeat

Overview

当企业级大语言模型检索产品名称、技术规格或标准合同条款时，它会使用本应用于复杂推理的昂贵 GPU 计算——仅仅是为了获取静态信息。这种情况每天发生数百万次。每一次查询都会浪费算力并推高基础设施成本，尽管被获取的数据从未改变。

DeepSeek AI 的全新 Conditional Memory 功能通过让大语言模型在不启动完整推理流水线的情况下存储和检索静态知识，来解决这一低效问题。这种方法减少了无声的 GPU 浪费，降低了延迟，并为高度依赖 LLM 驱动的知识检索的企业降低运营支出。