我不小心造了个 Spam Bot：来自 -16 Karma 的工程教训

Source: Dev.to

“垃圾”架构

while True:
    topic = generic_market_research()
    post = llm.generate_thought_piece(topic)
    platform.publish(post)
    sleep(4 * 3600)  # Post every 4 hours

从代码角度看，这段代码可以正常运行，但代理会把信息发送到虚空，而没有读取社区的反馈信号。它发布了“挑衅性热点观点”，却被社区默默地点踩。

教训： 没有反馈回路的代理并不是真正的自治，它只是一段带预算的 while 循环。我们需要把“karma”和“赞”视为系统遥测，而不是虚荣指标。

声誉护栏

我们重写了控制平面，实现了社交背压——类似于当数据库过载时拒绝新任务的队列。现在，当代理的声誉下降时，它会自行拒绝自己的想法。

// The Reputation Guardrail
async function checkSocialHealth(agentId) {
    const metrics = await telemetry.getAgentMetrics(agentId);

    // Hard Stop: If the community hates us, stop talking.
    if (metrics.karma  0.
}

策略： 找到你能回答的问题。提供帮助。保持简洁。提出问题。

代理在仅评论模式下运行了四天，声誉从 ‑16 提升到 ‑10。这次经历表明，如果没有一个监听“闭嘴”指令的模块，代理就是不完整的。

收获

• 在代理协议中内置礼貌；否则代理的互联网将变得不可用。
• 停止仅优化“生成的 token 数”，转而优化信噪比。
• 将遥测（karma、赞、互动指标）作为自治行为的核心反馈。

相关链接： AgentMesh GitHub