联系我们:19113907061
联系我们
产品咨询关闭
捷云信通资深阿里云代理服务商

AI 办公的数据安全边界:哪些数据不能喂给大模型

作者:litecc
发布时间:2026-11-10 16:59
阅读量:
暂无

把客户名单、源代码、合同底价粘进对话框之前,先想一个问题:这些数据出去以后,还回得来吗?这篇给一线员工和负责人一张可执行的边界清单——哪些数据一律不喂、哪些脱敏后才能喂、平台怎么选、制度怎么立。


第 1 页 / 共 4 页核心结论
  1. 一条总红线:核心数据、未授权的个人信息、第三方保密数据不能原样喂。用公开工具输入内容的瞬间数据即出境——公司无法收回,也可能进入训练库。
  2. 先分级,再使用:按 GB/T 43697-2024《数据安全技术 数据分类分级规则》分核心、重要、一般三级——核心数据一律不出域,重要数据脱敏加审批后用,一般数据可直接用。
  3. 泄密多是人祸,不是技术:三星 2023 年三起泄露、广州 495 万元判例,都是员工主动粘贴。制度、工具、审计三件事要同时做,缺一个就漏。

一张图看懂三级数据能不能喂

1.核心数据 · 不能喂

国家秘密、大规模敏感个人信息一经泄露损害国家安全、公共利益一律不出域

本地化部署或私有化方案任何公网 AI 工具都不行

2.重要数据 · 不能原样喂

未公开经营数据、客户名单、合同一旦泄露损害企业权益与个人权益

脱敏 + 审批后用

脱敏规则见第 2 页;外发需审批优先选数据不出公网的平台

3.一般数据 · 可以喂

公开制度、产品资料、模板、公文不涉密、不含个人信息与商业机密

可直接使用

仍建议用企业版平台并留审计日志方便出问题时追溯「谁喂了什么」


记住这个动作顺序:先分级 → 再脱敏 → 后使用

输入即出境:粘进公开工具的内容会传到外部服务器,公司无法收回,也可能被用于模型训练;删除对话记录不等于数据没离开。

拿不准是哪一级时,按高一级处理——问一句安全负责人,比赌一次「应该没事」便宜得多。

图 1 数据三级分级与喂食边界:核心不出域、重要脱敏审批、一般可用

口径提醒:分级框架引自 GB/T 43697-2024 及《网络数据安全管理条例》(2025 年 1 月 1 日施行)公开文本;行业有专门规定的(如医疗、金融)从其规定;本文不构成法律意见。
第 2 页 / 共 4 页红线清单 · 脱敏 · 判例

六类不能原样喂给大模型的数据

类别典型例子风险正确做法
国家秘密与工作秘密涉密文件、内部标密资料违反保密法,追究刑责任何 AI 工具都不碰
客户个人信息身份证号、手机号、健康与金融账户违反个保法,需单独同意脱敏后才可处理
未公开经营数据真实合同价、成本、未公开财报泄露即商业损失替换为示例数据
核心知识产权源代码、配方、工艺参数技术秘密侵权,或泄密本地私有化方案
第三方保密数据带保密条款的供应商资料、客户数据违约 + 泄密双重责任先取得书面授权
系统凭据密钥、Token、数据库密码直接给攻击者开门一律不贴,用占位符

必须脱敏时,用这三招

招式做法例子
替换真实值换成不影响分析的假值「张伟 138****1234」→「某客户 A」
泛化精确值改成区间或量级合同额 128.6 万 →「百万级」
删除与分析无关的字段直接去掉删掉地址、账号,只留品类和数量

两个真实教训

  • 三星三连泄(2023 年):员工把半导体设备测量源代码、良率代码和会议录音转写稿粘进 ChatGPT,公司发现输入即送至外部服务器、可能进入训练库且无法收回,随后限制每问题输入 1,024 字节,并在公司设备上禁用生成式 AI 工具。
  • 495 万元判例(2026 年):广州知识产权法院一审认定五名前核心员工违反保密义务获取「虚拟数字人」源代码等技术秘密,七被告构成侵权,适用三倍惩罚性赔偿,连带赔偿 495 万元及维权费用 22.68 万元——源代码相似度超 90%。保密制度 + 权限管控 + 留痕,缺一不可。
  1. 粘贴前 10 秒三问:这份数据是哪一级?(不知道就按高的算)→ 脱敏了吗,还有哪些字段带着真实值?→ 用的是企业版吗,日志留得下来吗?三问有一问答不上来,就先别按回车。
第 3 页 / 共 4 页管理闸门 · 平台 · 法规

四道闸门,把边界变成日常动作

闸门动作验收标准
制度闸发布《AI 工具使用规范》:分级清单、禁喂清单、脱敏规则、外发审批全员签字确认,新人入职即学
账号闸企业版统一开通、权限最小化;离职即回收,禁用私人账号办公账号与在职名单一致
审计闸保留使用与导出日志,重要数据外发走审批流日志可查、审批可追
应急闸误喂后先断传、再上报、后复盘,纳入演练有预案且每半年演练一次

平台侧:企业版与公开工具差在哪

能力企业版(以千问办公为例)公开免费工具
数据边界旗舰版支持 VPC 部署,数据不出公网内容传至外部服务器,无法收回
租户隔离五重租户隔离,企业数据互相隔离取决于对方策略,不可控
权限与审计组织架构同步、权限分级、日志留痕几乎无企业管理能力
合规资质ISO 27001 / 27701、等保 2.0 三级无法出具企业合规证明材料

法规口径:四份文件各管一段

文件对企业的核心要求
数据安全法 / 个保法数据分类分级保护;处理敏感个人信息须单独同意
网络数据安全管理条例2025 年 1 月施行;提供生成式 AI 服务者须加强训练数据安全管理,重要数据须识别申报
生成式 AI 服务管理暂行办法企业自用不适用该办法,但数据合规义务不免除
行业规定(医疗 / 金融等)有更严要求的从其规定,如健康医疗数据境内存储
误喂之后三步走:① 立即停止并断开外传(断网、关插件、撤会话);② 上报安全负责人,评估是否涉及重要数据与个人信息,必要时按《国家网络安全事件报告管理办法》时限报告;③ 复盘成因、修订制度,别只处理人不补漏洞。
第 4 页 / 共 4 页服务商 · 为什么交给我们

① 数据摸底分级盘点按 GB/T 43697 盘点三类数据标出核心数据与禁喂清单

② 边界设计脱敏 + 平台选型脱敏规则、审批流设计按分级匹配部署形态

③ 制度与运营落地 + 持续制度模板、培训、审计配置季度审计与误喂演练先划边界,再放开用——制度、平台、审计三件事一起做,才能既提效又不裸奔。

图 2 捷云信通数据安全边界服务三环节

为什么这件事交给我们更稳

能力维度可核查事实
阿里云授权2016 年成为阿里云合作伙伴,2017 年成都区域授权,2023 年拉萨区域授权,川滇藏属地服务
交付与资质团队全员阿里云 L3,ISO 三体系认证,两届阿里云奖项,覆盖 8 大行业
真实项目2019 年与阿里云共建西藏阿里地区远程诊疗平台(中国日报网 2019-08-30 报道,1 个月云端建成);2015 年四川某医疗项目;2018 年某新闻类 App 异地容灾
安全办公服务数据分级盘点、脱敏与审批流设计、千问办公企业版开通与 VPC 配置、制度模板与培训

两种合作方式,按需要选

方式范围与周期交付物
边界设计单次项目,2—4 周分级清单、脱敏规则、制度初稿、平台配置建议
年度护航全年服务季度审计、误喂演练、制度更新与培训复训
自检四问:公司发布过 AI 使用规范吗?核心数据盘点过吗?私人账号还在办公吗?误喂过怎么处理有人知道吗?有一问答不上来,边界就还没划好。


分享:
云服务在线资讯 阿里云产品在线资讯 在线咨询
云产品在线留言 企业上云在线留言 客户留言
优惠上云电话咨询 阿里云产品电话咨询 电话联系
19113907061
返回页面顶部 返回页面顶部 回到顶部
关闭阿里云产品留言窗口
云产品订购折扣咨询
  • *

  • *

  • *

  • *验证码

  • 我已阅读并同意《使用服务协议》和《隐私政策声明》