一句话结论:不是什么数据都能喂给大模型。客户隐私、商业机密、源码密码,喂了就出事。先分级,再脱敏,最后才喂。
用大模型做AI客服、知识库,要把企业数据喂进去。但大模型不是本地的,数据发出去就收不回来。
喂错了数据:
| 级别 | 数据类型 | 能喂大模型吗 |
|---|---|---|
| 公开 | 官网公开内容、产品介绍 | ✅ 可以 |
| 内部 | 内部流程、SOP文档 | ✅ 脱敏后可以 |
| 机密 | 客户名单、报价、成本 | ⚠️ 脱敏后谨慎 |
| 绝密 | 源码、密码、核心算法 | ❌ 绝对不行 |
简单脱敏:手机号中间4位打星号、姓只留第一个字、邮箱用户名打星号。
高级脱敏:用脚本批量处理,正则匹配手机号/身份证/邮箱,自动打码。
如果数据特别敏感:
坑1:不脱敏直接喂
客户名单直接扔给大模型,隐私泄露。先脱敏再喂。
坑2:把密码写进prompt
prompt里写了数据库密码,大模型记住了。密码放环境变量,别写进prompt。
坑3:用公共API处理敏感数据
公共API的数据可能被用来训练。敏感数据用私有化部署。
坑4:不清理对话历史
对话历史里有敏感信息,被别人看到。定期清理。
脱敏后可以。手机号、姓名、身份证要打码,不然违法。
核心源码不要喂。公共代码可以。喂之前先脱敏。
数据分级:公开/内部/机密/绝密。机密以上不喂。
不一定。国内大模型也有数据留存政策。敏感数据用私有化部署最安全。
定期扫描知识库,看有没有手机号/身份证/密码。用脚本自动检查。
不知道怎么脱敏?
免费帮你做数据分级我们提供 我要定制工具 · 先试做,效果好再报价 —— 源码交付、私有化部署,先看成品再谈合作。