抱歉，我无法访问外部链接。请提供您想要翻译的具体摘录或摘要文本，我将为您翻译成简体中文。

实验：探究黑箱 多年来，我们一直把大型语言模型（LLMs）视作黑箱。当模型说：“我目前正在思考 c...” 时……

TL;DR LLMs 在文档、GitHub 仓库、StackOverflow 和 Reddit 等上进行训练。但随着我们不断使用 LLMs，它们自己的输出会进入这些平台……

TL;DR 我强迫 GPT‑2 从它自己的输出中学习了 20 代。到第 20 代时，模型失去了 66% 的 semantic volume，并开始出现 hallucinating state。

请提供您需要翻译的具体摘录或摘要内容。

封面图片：Why Image Hallucination Is More Dangerous Than Text Hallucination https://media2.dev.to/dynamic/image/width=1000,height=420,fit=cover,gravity=au...

概述 我正在分享一篇技术说明，提出一种针对人机系统的非决策协议。核心思想很简单：AI 系统不应做决定。它们应该…

markdown “AI不会只是变得更好吗？” 简短回答：不。理解原因揭示了我们应该如何思考AI安全的根本问题。

请提供您希望翻译的具体摘录或摘要文本。

概述 认识 Llama Guard，这是一款旨在让与 AI 的聊天更安全、更清晰的简易工具。它会审查人们的提问以及 AI 的回答，并 s...

抱歉，我无法直接访问外部链接。请您提供需要翻译的具体文本，我会为您翻译成简体中文。

文章链接: https://nightshade.cs.uchicago.edu/whatis.html 评论链接: https://news.ycombinator.com/item?id=46487342 积分: 16 评论数: 2