ChatGPT 再遭禁用 | 人工智能时代下数据安全如何保障

手机

iphone11大小尺寸是多少？苹果iPhone11和iPhone13的区别是什么？

警方通报辅警执法直播中被撞飞：犯罪嫌疑人已投案

ChatGPT 再遭禁用 | 人工智能时代下数据安全如何保障

2023-05-11 18:55:22 来源：博客园

近日，三星电子宣布禁止员工使用流行的生成式AI工具，原因在于4月初三星内部发生的三起涉及 ChatGPT 误用造成的数据泄露事件。报道称，三星半导体设备测量资料、产品良率等内容或已被存入ChatGPT学习资料库中。

(相关资料图)

去年11月上线以来， ChatGPT 一直是科技领域的焦点。上线短短5天，注册用户数就超过100万，一举成为史上增长最快的消费者应用。几个月来，不少企业将其嵌入工作环境，利用人工智能提升工作效率，其中包括微软、亚马逊等行业巨头。4月份，三星电子也引入ChatGPT，结果不到20天就曝出文章开头出现的机密数据外泄事件。

人工智能强大的存储、检索和生成功能对数据安全提出了更高要求，全面禁止并不是拥抱新技术的最佳选择。AI 时代下，怎样更好地守护数据安全呢？

追溯一起数据泄露事件背后的原因，往往会涉及技术缺陷和人为操作。保障数据安全，也要双管齐下。从技术上给数据库罩上“金刚罩”，保障数据流动严进严出；在管理上合理分配操作权限，审批操作流程，全方位进行管控。目前市场上的数据库管控产品已经给出了解决方案，那么，作为一体化数据库安全管控平台的 CloudQuery 又是如何实现这些要求的呢？

1.技术上：严格进出，细分权限

统一访问入口

传统的权限控制中，通常是 DBA 为不同的人员分配不同权限的数据库帐号，拥有帐号的人员在各自的环境中访问数据库。而使用 CloudQuery，与数据库的通信连接都建立在受信任的部署服务器上，整个平台作为数据库的统一访问入口。CloudQuery 通过统一管控，收敛其他数据库访问入口，支持用户便捷接入 HTTPS，在外网环境使用 HTTPS 协议访问 CloudQuery，可以有效防止通信内容被窃听和篡改的风险。提升数据操作效率的同时，在数据流向的各个环节提供统一的数据安全防护措施。

权限管控

CloudQuery 支持细粒度的权限管控，如操作对象、操作类型、操作时间、影响行数、操作次数等多因素进行管控，避免高权限账号滥用风险，限制越权操作、高危操作。

数据导出权限

CloudQuery 严格遵循数据保护制度的企业级数据导出，包括精细化的权限控制，如查询与导出权限分离，并能根据导出人的权限，控制导出数据对象（精确到字段级）、导出时间（精确到分钟）、导出行数。

数据导出时还将进行严格的行为审计，包括记录导出行为的发起人、客户端IP、SQL语句、执行时间、导出时间、影响行数等信息。审计人员可随时搜索与查看导出记录以及导出数据。

受限资源权限

CloudQuery 支持自定义高危操作，高危提权复核方式支持同步复核。设置成功后，高危操作将被禁止，第一时间保护重要数据。

动态脱敏CloudQuery 支持数据动态脱敏。无须改变生产数据库中的数据，即可依据用户级别、数据级别，对数据库返回数据进行差异化地脱敏。确保不同角色的用户能够差异化地访问数据库中的敏感数据。具有以下核心功能：1．内置规则脱敏。根据提前设置的脱敏策略，自动对呈现的结果集进行脱敏。此规则适用于所有数据，适用于所有没有明文数据查询权限的用户。2．指定字段脱敏。管理员可以设置脱敏策略，并对指定字段进行脱敏。3．数据导出脱敏。在对数据进行导出时，自动根据内置规则以及设定的脱敏策略对导出数据进行脱敏。4．敏感数据自动发现。数据库管理员可建立扫描任务，并根据扫描规则，从大量数据资源中快速发现和定位敏感数据，并呈现给管理员决定是否需要对该数据进行脱敏。

2.管理上：提权审批，行为审计

流程申请和审批

三星此次数据泄露更大程度是由于内部员工的不当操作。据报道，三星DS部门的A职员，将有问题的原始代码复制到 ChatGPT，并询问了解决方法；同部门的B职员将为了控制产量、不良设备而编写的源代码输入到ChatGPT，并要求其优化。

为了防止内部员工的越级提权和不当操作，CloudQuery 设有流程申请和审批模块。当普通用户需要某些权限时，需要向管理员发起流程申请。管理员可管理流程，如设置审批人、将审批进行转审、将审批流程自定义为一级/二级/多级审批等。通过审批人层层批准后普通用户才可进行提权操作，有效防止了内部员工不当操作引发的数据泄露。

查看审计日志

CloudQuery 会记录使用过程中的语句明细和操作明细，针对数据库的操作行为，进行操作中的同步监控，操作后的全方位审计。包含系统管理类和安全行为的审计，并留存日志和记录，记录sql执行人账号、ip、语句等信息。

CloudQuery 通过动态监测用户的操作行为，并通过页面展示详细的行为记录和安全趋势，实现精准的行为审计，保障企业数据安全。

系统监控功能

CloudQuery 具备主机监控和容器监控功能，可对自身平台所在服务器运行状态进行监控，查看CPU使用率与总体率、分区状态、流量状态等。还支持对容器运行状态进行监控，管理者可随时登录，及时查看服务运行状态，未雨绸缪应对数据安全事故。

数据是数字化时代的金矿，数据安全是企业行稳致远不可或缺的保障。CloudQuery 作为一体化数据库操作管控云平台，最大程度上确保了数据不泄漏、操作可管控的防护能力，为企业的智能化升级提供安全保障。

关键词：