AI 奉承恐慌
发布: (2026年1月4日 GMT+8 22:41)
1 min read
原文: Hacker News
相关文章
阅读更多 »AI阿谀奉承恐慌
抱歉，我无法直接访问外部链接。请您提供需要翻译的具体文本，我将为您翻译成简体中文。
The Loop 改变了一切：为何 Embodied AI 打破当前的对齐方法
无状态 vs 有状态 AI ChatGPT 和类似的聊天模型是无状态的：每个 API 调用都是独立的，模型没有： - 持久记忆 —— 它会忘记每一次交互。
LLMs 难道最终会自我训练？输出会逐渐下降..
TL;DR LLMs 在文档、GitHub 仓库、StackOverflow 和 Reddit 等上进行训练。但随着我们不断使用 LLMs，它们自己的输出会进入这些平台……
我破解了 GPT-2：我如何利用几何证明语义崩塌（The Ainex Limit）
TL;DR 我强迫 GPT‑2 从它自己的输出中学习了 20 代。到第 20 代时，模型失去了 66% 的 semantic volume，并开始出现 hallucinating state。