为什么你的 LLM 可能存在 PII 问题（以及如何解决）

Source: Dev.to

（请提供您希望翻译的正文内容，我将按照您的要求保留链接并翻译文本。）

朴素正则表达式的问题

一个匹配信用卡模式的简单正则表达式会产生大量误报。例如，16 位数字 1234567890123456 能匹配所有信用卡正则，但它并不是有效的卡号。真实的 Visa、Mastercard 或 Amex 号码满足 Luhn 算法，该算法可以消除绝大多数随机数字序列。

def luhn_valid(number: str) -> bool:
    digits = [int(d) for d in number if d.isdigit()]
    digits.reverse()
    total = 0
    for i, d in enumerate(digits):
        if i % 2 == 1:
            d *= 2
            if d > 9:
                d -= 9
        total += d
    return total % 10 == 0

SSN（社会安全号码）也存在同样的问题。模式 \d{3}-\d{2}-\d{4} 能匹配数百万并非有效社会安全号码的字符串。一个健全的验证器还必须拒绝：

没有这些检查，你的过滤器会把订单号、发票 ID、时间戳等标记为匹配，从而导致不可接受的高误报率。

实用的推出策略

1. 在 标记模式 下启动

检测潜在的 PII，记录命中，但让内容保持不变。这样可以在任何内容被修改之前，获取真实流量数据以验证检测准确性。

# Flag mode — detect and log, content unchanged
result = requests.post(
    "https://your-sentinel-endpoint/v1/scrub",
    headers={"X-Sentinel-Key": "sk_live_your_key"},
    json={"content": user_message, "tier": "standard"},
).json()

# pii_hits: number of PII matches found
# pii_types: categories detected (CREDIT_CARD, SSN, EMAIL, PHONE)
print(result["security"]["pii_hits"])   # e.g. 2
print(result["security"]["pii_types"])  # e.g. ["EMAIL", "PHONE"]
# safe_payload is unchanged in flag mode — content passed through

2. 在信心足够时切换到 脱敏模式

在文本到达你的 LLM 之前，用已定义的占位符替换检测到的 PII。

# Redact mode — PII replaced with placeholders
# Input:  "My card is 4532015112830366 and email is john@example.com"
# Output: "My card is [CREDIT_CARD] and email is [EMAIL]"

脱敏后的文本随后会流经安全管道的其余部分——注入检测、语义相似度等——此时敏感值已经被剥离。

合规考虑

这些控制措施往往决定了能否赢得企业合作，而不是在合规问卷中失去机会。

第 1 阶段：高价值模式

第2阶段：扩展覆盖范围

• IBAN（对欧洲金融科技至关重要）
• 护照号码
• 每个租户的自定义正则表达式模式——允许企业自行定义个人身份信息（PII）定义。

端到端流程

User message
   → PII pre‑pass (flag or redact)
       → HTML injection detection
           → Fast‑path regex (prompt injection patterns)
               → Deep‑path vector similarity
                   → LLM

PII 过滤首先运行，在任何其他处理之前进行。 在脱敏模式下，已清理的文本——例如 [CREDIT_CARD] 和 [EMAIL]——会流经管道的其余部分，确保注入检测和 LLM 永远不会看到原始的 PII。

Sentinel integration

PII 过滤已内置于 Sentinel，作为 scrub 流水线的预处理步骤，可在 Teams 和 Enterprise 计划中使用。flag → redact rollout 方法、Luhn 校验以及 SSN 段检查已全部上线。