需立即启动本地化敏感信息过滤机制,包括App端内置开关、服务端Qwen-Safety+引擎、输入端脱敏预处理、输出端重写拦截及离线沙箱测试验证。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜
如果您在使用千问App或接入千问API过程中,发现用户输入或模型输出中存在身份证号、手机号、银行卡号、地址、健康信息等敏感内容,则需立即启动本地化敏感信息过滤机制。以下是多种可独立部署、无需依赖云端审核的过滤方法:
一、启用内置隐私过滤开关(App端)
千问App 3.0及以上版本已集成轻量级本地敏感词识别模块,该模块基于规则匹配与语义特征双引擎,在不上传原始文本的前提下完成实时拦截,适用于日常聊天与语音转文字场景。
1、打开千问App,确保登录账号已完成实名认证。
2、点击底部导航栏“我的”,进入个人中心。
3、点击右上角设置图标,进入系统设置菜单。
4、选择“隐私设置”→“敏感信息防护”,将开关由关闭状态切换为开启。
5、在弹出的子菜单中,勾选需防护的字段类型:手机号、身份证号、银行卡号、家庭住址、电子邮箱。
二、部署Qwen-Safety+本地规则引擎(服务端)
针对企业级API调用或自建服务,推荐采用Qwen-Safety+模块与自定义正则规则协同工作的双层架构。该方案支持毫秒级响应,且所有处理均在本地完成,符合GDPR与《个人信息保护法》数据不出域要求。
1、通过Ollama拉取Qwen-Safety+模型:ollama run qwen-safety-plus:latest。
2、在推理请求前插入预处理中间件,对用户输入prompt执行安全扫描。
3、配置rule_config.yaml文件,添加业务专属规则,例如:匹配“工号为[0-9]{6}”并替换为“工号已脱敏”。
4、若检测到高风险内容,直接返回预设拦截话术,不触发千问主模型推理。
三、实施输入端数据脱敏预处理(开发集成)
在调用千问API前,对原始输入文本进行结构化清洗,可从根本上消除敏感字段进入模型的可能性。该方法兼容transformers、DashScope SDK及Gradio前端,适用于Web服务与小程序后端。
1、引入qwen2.5-privacy-preprocessor库,执行pip install qwen25-privacy-preprocessor。