超越基础提示：提升你的 LLM 实力

Source: Dev.to

引言

使用大型语言模型与真正掌握它们之间有着显著的区别。大多数人通过简单的问答交互与 LLM 互动，而有经验的用户则了解那些能够显著提升输出质量、可靠性和相关性的微妙技巧。这种专长并不需要了解变换器的内部工作原理或神经网络训练的数学原理。相反，它要求对交互艺术有深入的熟悉——即提示、评估和迭代的细腻艺术。

思考链优势

高级用户工具箱中最强大的技术之一是 思考链（chain‑of‑thought）提示。当你明确指示模型“逐步思考”或提供类似“让我们系统地一步步完成”的推理前缀时，你实际上在让模型在给出最终答案之前激活其内部推理过程。这不仅仅是要求展示工作过程，而是一种结构性干预，根本改变了模型处理信息的方式。研究一再表明，这一简单的添加显著提升了在复杂推理任务上的表现，尤其是当问题需要多步逻辑推导时。

为什么示例优于系统提示中的指令

在构造有效的系统提示时，少量示例学习和提供具体的输入输出示例始终优于冗长的文字指令。这一现象出现的原因是示例能够以描述无法实现的方式消除歧义。

• 指令： “保持简洁。”
• 示例： 展示三个简洁的回复，便没有误解的余地。

过于详细的系统提示有时会适得其反，导致模型的优先级层次混乱，或把模型推入僵硬的遵循指令模式，牺牲真正的任务卓越性。

在验证之前检测幻觉

有经验的用户会在进行事实核查之前直觉性地发现潜在的幻觉。常见的征兆包括：

• 过度具体且毫无依据的自信。
• 精确的日期、确切的数字或明确的陈述，却缺乏适当的保留语言。

当模型提供此类细节时，资深用户会产生怀疑，因为模型可能在编造听起来合理的信息。即使输出听起来权威，仍需将具体主张与权威来源交叉核对。

掌握 Temperature 与采样

对 temperature 设置的理解将普通用户与高级用户区分开来。

• Temperature（温度）： 控制 token 选择的随机性。较高的值会带来更多变化，但可能导致不连贯；较低的值则产生可预测但可能显得陈旧的输出。
• Top‑p 采样： 在保留有意义的创意变化的同时过滤不太可能的 token。

将 temperature 与 top‑p 采样结合使用，并采用多轮生成加质量过滤，可以在不牺牲创造力的前提下进一步稳定输出。

应对上下文窗口限制

即使是拥有大上下文窗口的模型也会出现“中间遗失”现象：长上下文的开头和结尾信息记忆最为完整，而中部内容会被削弱。熟练的用户可以通过以下方式缓解：

• 创建周期性的摘要检查点。
• 为关键信息维护外部笔记。
• 将长会话划分为可管理的块，而不是一次性马拉松式交互。