‘布朗尼配方问题’：为何 LLMs 必须拥有细粒度上下文才能提供实时结果

Source: VentureBeat

布朗尼配方问题

如今的 LLM 在推理方面表现出色，但仍可能在上下文处理上出现困难。这在实时订单系统（如 Instacart）中尤为明显。Instacart 的首席技术官 Anirban Kundu 将其称为“布朗尼配方问题”。仅仅告诉 LLM “我想做布朗尼”并不足以让它真正提供帮助……