为贯彻落实国家发展新一代人工智能的决策部署,全面贯彻总体国家安全观,公安部第三研究所充分发挥在网络等级保护领域国家队的优势,并依托国家级创新平台——网络安全等级保护与安全保卫技术国家工程研究中心,成立通用人工智能安全工作组,并发布了《通用人工智能AGI等级保护白皮书(2023 版)》。
白皮书首先介绍了通用人工智能的基本情况,并从技术角度出发分析了通用人工智能在网络安全领域的应用趋势及通用人工智能面临的多种安全威胁,主要包括传统安全风险,以及数据泄露和滥用风险、模型可靠风险、大模型滥用误用风险等由于大模型自身的数据规模性、算法复杂性等原因导致的安全风险。为了应对这些风险,白皮书对通用人工智能的等级保护合规落地需求进行了阐述和分析。
此外,白皮书列举了通用人工智能大模型赋能的典型场景,包括网络安全等级保护知识赋能、等级测评赋能和等级保护培训赋能等。
本白皮书旨在帮助读者更好地应对通用人工智能大模型带来的安全风险和挑战,同时也为网络安全等级保护在通用人工智能领域的合规落地提供了指导和建议。
附件:通用人工智能AGI等级保护白皮书-网络安全等级保护与安全保卫技术国家工程研究中心
信安秘字〔2023〕124号;围绕文本、图片、音频、视频四类生成内容给出了内容标识方法,可用于指导生成式人工智能服务提供者提高安全管理水平
数据安全产品广泛应用于在数据资产识别,数据安全检查,数据安全 防护,数据风险监测,数据共享流通安全;数据安全防护类产品涵盖了数据保护类,访问控制类,追踪溯源类的诸多产品
报告对工控系统漏洞,联网工控设备,工控蜜罐与威胁情报数据等情况进行了阐释及分析,有助于全面了解工控系统安全现状,多方位感知工控系统安全态势
企业内部基础设施建设不完善,拥抱数字化转型后缺少有效的安全防护措施;高额赎金已经成为网络攻击者极高的犯罪动力;远程办公增加安全风险
分析了量子安全通信发展机遇,研究了量子安全通信关键技术和产业标准规范,给出了基于端到端量子加密网络内生安全的解决方案,打造重点行业量子安全通信应用标杆
网络预约汽车服务数据包括用户数据如手机号码,位置信息,支付信息,行踪轨迹和行程录音录像等;业务数据如驾驶员数量,乘客数量,行程订单量和里程总数等
网络音视频服务提供者传输,存储数据,应采用安全口令,数字签名证书等 两种及以上方式进行接收方身份鉴别与认证,个人身份信息与其他个人信息分开存储
网络支付服务提供者如提供跨境支付服务,出境数据应仅限为处理跨境支付业务所需的必要信息,每年应自行或委托第二方机构对数据出境至少进行一次数据出境 风险评估
网上购物服务的相关方包括买家,卖家,网上购物服务提供者及第三方服务提供者;用户数据如买家消费记录,收货人信息(姓名,地址,电话号码),卖家账号信息等
快递物流服务数据处理活动主要围绕着快递物流服务的业务功能开展;用户数据如收寄件人姓名,地址,联系电话,企业账号信息,企业通信信息等
应按照有关要求和标准进行数据分类分级保护,识别即时通信服务涉及的核心数据,重要数 据 ,一般数据,对不同级别的数据采取不同的保护措施
车外数据未完成匿名化处理前不应向车外提供;匿名化处理过程中.除分析确定包含人脸以及车牌等个人信息的区域不应进行人脸比对步态分析以及语音识别等其他处理
收集人脸识别数据时应向数据主体告知人脸识别数据的相关事项;在识别过程中持续告知数据主体验证目的,并通过语言,文字等向数据主体进行提示