设计不漂移的 AI 系统：面向身份感知 LLM 架构的实用方法

Source: Dev.to

问题不在于幻觉——而是漂移

当开发者将大型语言模型集成到产品中时，最大的问题不是幻觉，而是 推理漂移。

同一个系统可能会产生：

• 在一次会话中给出结构化分析
• 在另一会话中给出宽松的抽象
• 在相似输入下得出略有不同的结论

这并不是模型本身的失败，而是架构缺失。大多数 LLM 部署都是无状态的。即使扩展了上下文，也没有持久的身份层来强制一致的推理规则。

如果 AI 是基础设施，这就是一个系统性问题。

基础模型本质上是概率序列预测器。每一次输出都是以下因素的函数：

• 当前输入
• 提供的上下文
• 模型权重

以下内容没有结构化的持久性：

• 领域边界
• 核心假设
• 不变逻辑
• 推理风格

每一次会话都要从头重新构建连贯性。对于单轮使用来说，这没问题。解决方案是把 LLM 当作 组件，而不是整个系统。

身份感知架构

身份感知架构在基础模型周围引入三层：

范围强制层

确保输入保持在定义好的领域规则之内。

持久记忆层

通过存储和检索相关状态，在会话之间提供连续性。

不变性验证层

将输出与一组不变性进行比对，以保证推理的一致性。

示例实现（Python）

class IdentityAwareAI:
    def __init__(self, domain_rules, invariants, memory_store):
        self.rules = domain_rules
        self.invariants = invariants
        self.memory = memory_store

    def handle_request(self, user_input):
        if not self.validate_scope(user_input):
            return "Out of defined reasoning scope."

        state = self.memory.retrieve(user_input)
        draft = foundation_model(user_input, state)
        return self.enforce_invariants(draft)

    def validate_scope(self, input):
        return check_against_rules(input, self.rules)

    def enforce_invariants(self, output):
        return validate_output(output, self.invariants)

这种方法 不是 提示工程。

CloYou 结构化 AI 克隆

CloYou 正在探索结构化 AI 克隆——即推理模块，这些模块：

• 在定义好的领域内运行
• 保持持久记忆
• 强制稳定的身份边界

目标并不是打造一个 “更聪明的聊天机器人”。在克隆的市场中，每个单元在其范围内表现可预测，而不是作为通用的概率预言机。

权衡

• 额外的延迟
• 规则管理的复杂性
• 记忆扩展的顾虑
• 治理开销

好处

• 一致性
• 可审计性
• 受控的推理领域
• 多会话可靠性

对于基础设施级别的 AI，预测性往往比广度更重要。开发者必须决定是将概率生成器嵌入产品，还是构建具有更严格架构边界的系统。

AI 基础设施的未来可能不在于更大的模型，而在于更紧凑、身份感知的设计。这正是 CloYou 正在实验的方向。