LLMs 生成可预测的密码

Source: Schneier on Security

LLM 在生成密码方面表现不佳

• 在这 50 个密码中可以轻易看到明显的模式：
  • 所有密码都以字母开头，通常是大写 G，几乎总是紧跟数字 7。
  • 字符选择极不均衡——例如 L、9、m、2、$、# 出现在所有 50 个密码中，而 5 和 @ 只各出现一次，字母表中的大多数字母根本未出现。
  • 任意密码内部没有重复字符。从概率上讲，如果密码是真随机的，这种情况出现的概率非常低——但 Claude 倾向于避免重复字符，可能是因为它“看起来更不随机”。
  • Claude 避免使用符号 *。这可能是因为 Claude 的输出格式是 Markdown，而 * 在 Markdown 中具有特殊含义。
  • 甚至整个密码会重复：在 50 次尝试中，实际只有 30 个唯一密码。最常见的密码是 G7$kL9#mQ2&xP4!w，出现了 18 次，使该密码在我们的测试集中的概率达到 36 %，远高于如果它真的是 100 位密码时的预期概率（2‑100）。

这个结果并不令人惊讶。密码生成正是 LLM 本不该擅长的任务。但如果 AI 代理自主执行任务，它们将会创建账户，这会带来安全问题。对自主代理进行身份验证的整个过程充满了深层次的挑战。

进一步阅读

• 新闻 文章。
• Slashdot 报道。