所有不同类型的AI层
Source: Dev.to

介绍
- 本文档提出了一个概念框架,用于在构建自定义 AI 架构时思考不同类型的 AI 层。
- 这些 不是 严格的技术定义,而是从构建多层 AI 系统中得出的实用分类法。
- 该框架帮助您设计系统,使 AI 能够自主处理特定功能,同时保持整体一致性。
- 如需更深入的理解,请重新阅读 Lesson 4 – Multilayered AI Architectures。
- 该章节探讨了如何将这些层类型编排成统一的系统,使 AI 掌控关键功能。
从架构角度思考
制定平台实现卓越成果的最佳策略
- 考虑你的实际目标,并将其拆分为具体步骤。
- 如果你亲自执行此操作,需要遵循哪些步骤?把它写下来——这就是你的工作流。
- 在正式化工作流后,思考整个过程需要进行的数据转换。
- 构建提示词以自动化这些转换,然后将它们串联起来。
性能考虑
依赖对话历史获取上下文的平台可能导致令牌计数和性能问题。
- 考虑是否使用 对话合并 提示词会对你有帮助。
随机性考虑
如果你在任何决策中需要真正的随机数,请让后端向你的 AI 提供该数值。
- 不要假设大型语言模型的训练数据能够产生接近纯随机的结果。
Core Layer Types
Reasoning / Strategy Layers
The decision‑maker of your platform
- 推理层在内容生成之前做出决策。
- 它们评估当前状态,考虑可用选项,评估后果,并选择方向。
- 可以把它们看作系统的*“规划大脑”*。
在 Emstrata 中: Discovery 层查看参与者想要做什么,考虑模拟状态,评估哪些结果符合叙事逻辑,并决定该动作应如何解决。
- 它并没有在写故事;它在决定应该发生什么。
何时需要它: 如果你发现自己让 LLM 同时“弄清应该发生什么 并且 把它写得漂亮”,那就是在给单个提示过载。
- 将其拆分:先推理,后写作。
Navigator Layers
The pathfinder of circumstantial systems
- 与推理层密切相关,但承担不同功能。
- 它们决定在执行流会根据条件变化的系统中下一步应该是什么。
- 推理层决定内容或结果;Navigator 层决定过程流。
典型用例:
- 错误检测层决定是否需要纠正。
- 路由层检查用户意图并将请求发送到完全不同的处理路径。
- 系统根据运行时条件自行调整执行流。
何时需要它: 当你的架构必须基于前一步的结果动态分支时。
- Navigator 层赋予系统在架构中自行选择路径的能力。
Content Layers
The performer of your platform
- 内容层生成用户实际体验的输出:散文、对话、描述或界面文字。
- 它们接受推理层的决策和记忆层的上下文,然后打造体验。
在 Emstrata 中: Narration 层接收 Discovery 对“发生了什么”的决定,检查 Groundskeeper 的模拟状态,并写出玩家阅读的叙事文本。
- 它优化的是氛围、节奏和情感共鸣——而不是逻辑或一致性(这些在别处处理)。
何时需要它: 始终需要,除非你的平台不生成人类可读的输出。
- 这里是系统“声音”所在之处。
Correction Layers
The referee of your platform
- 校正层在其他层完成工作后捕捉错误。
- 它们充当质量控制,发现连续性断裂、逻辑不一致或约束违规等遗漏。
在 Emstrata 中: Chron‑Con 层在叙事写完后运行。
- 它检查诸如:“一个本在酒馆的角色是否突然出现在森林而没有旅行?”
- “有人使用了他们并未拥有的物品吗?”
- “空间坐标是否与描述的动作一致?”
何时需要它: 当平台必须满足复杂需求和期望时。
- 在呈现最终答案之前进行校正,可降低出现糟糕回复的概率。
Memory Consolidation Layers
The stenographer of your platform
- 这些层将刚刚发生的事情提炼为以后可检索的形式。
- 它们从冗长的内容中提取重要细节,并以系统能够高效查询或注入后续输入的格式存储。
在 Emstrata 中: Groundskeeper 执行此功能。
- 在 Discovery 确定事件后,Narration 完成写作,Groundskeeper 更新所有实体和新兴叙事的综合记忆。
- 它维护关于模拟状态的唯一真实来源。
何时需要它: 在大多数多轮系统中。
- 没有它,系统要么会忘记信息,要么会被未处理的历史记录膨胀。
Catch‑All / Connector Layers
The clean‑up crew of your platform
- 并非所有层都能归入上述类别。
- 捕获‑全/连接层用于处理杂项任务、桥接不同层之间的接口,或执行通用的后处理步骤。
- 它们确保信息在层与层之间顺畅流动,防止遗漏或冲突。
Source: …
恰当地归入上述类别;捕获型或连接器层处理各种杂项任务,例如:
-
为下游消费格式化数据。
-
将外部 API 与内部 AI 工作流桥接。
-
执行辅助转换(例如,本地化、语调调整)。
-
它们确保主要层之间的顺畅交接,使整体管道保持一致。
文档结束。
清洁类别层
- 捕获层 是混合层,为多个其他层执行互补工作。
- 它们处理不属于任何单一专用层的任务,但这些任务对系统的整体运行至关重要。
- 当你发现系统中的空白时,这类层往往会出现。
- 两个层可能需要协同工作,却“使用”不同的语言。
- 多个层可能需要相同的预处理,而这些预处理不应由它们中的任何一个单独负责。
在 Emstrata:Chron‑Con
Chron‑Con 不仅仅是错误纠正。它还会跟踪叙事中的 秘密 和 记忆,并显式标记它们,以便 Groundskeeper 将其整合到系统记忆中。
- 你不希望 Narration 在撰写高质量 prose 时,还要承担提取和分类秘密的无关任务。
- Groundskeeper 需要这些片段明确标记为“秘密”或“记忆”,才能正确地将其整合进模拟历史。
- Chron‑Con 正是弥合这一鸿沟的桥梁。
当你需要一个全能层时
- 当你注意到层之间的协作出现问题。
- 当有重要工作不自然地归属于任何现有层时。
循环系统 vs. 情境系统(以及介于两者之间的所有)
循环系统
- 每次运行相同的提示。
Emstrata遵循此模式: 每回合按顺序运行 Discovery → Narration → Chron‑Con → Groundskeeper。
- 流程可预测且一致,无论仿真中发生何事。
- 你总是知道接下来执行的是什么。
- 便于调试,成本估算更可靠。
情境系统
- 根据结果或 AI 指令决定路径。
- 架构的路线会根据前一步的情况而变化。
示例:
-
错误检测层决定是否需要纠正。
-
路由层检查用户意图并将请求发送到完全不同的处理路径。
-
系统根据运行时条件自适应执行流程。
混合系统
- 基本上是循环的,但在特定条件需要不同处理时会出现情境分支。
- 你可能始终运行核心循环,但在某些触发器触发时分支到专门的子系统。
- 许多现实系统就是这样:可靠的主干加上针对边缘情况的条件分支。
Emstrata 也有情境分支。
Source: …
无偏后端交互
AI 层之间会发生什么?
为什么要在层之间保存数据?
- 在 AI 层之间,将重要的、已转换的数据保存到后端,以便将来检索、调试,或在出现错误时重新运行。
- 保存数据可以让你以后以有趣的方式展示它,或在将来将其输入到其他层。
后端作为公正的裁判
- 当你需要一个公正的裁判时,后端就是去处。
- 后端对结果保持中立,而 AI 可能有强烈偏好并表现出来。
**在 Emstrata 中:**后果是通过加权随机方式决定的。
- Discovery 层决定某件事发生的可能性。
- 后端返回一个 0‑1000 之间的随机数。
- 如果该数字落在设定的可能性范围内,后端将确认的后果发送给 Narration 层。
- 如果超出范围,后端则发送失败结果。
数据持久化最佳实践
- 存储每一层的 转换后输出,而不仅仅是原始 AI 响应。
- 为数据打标签,包括:
- 层来源
- 时间戳
- 任何相关的元数据(例如置信度分数、版本号)
- 考虑以后调试、分析或重新处理时需要哪些信息。
- 后端应负责 所有状态管理——不要依赖 AI 在各层之间自行跟踪历史。