新动力数字金融研究院 | 解读《生成式人工智能服务管理办法(征求意见稿)》
- 发布时间:2023-04-12
- 来源:
- 大 中 小
- 打印
近期AIGC相关信息占领了数字科技的头条,一方面强大的功能使其呈现出巨大的可能性,另一方面AIGC不透明、不可解释性也使得其在知识产权、安全、伦理和环境四个方面的面临巨大挑战,甚至如意大利数据保护局宣布封禁ChatGPT,直到整改完毕。
为规范我国AIGC发展,保障合规,合法,合情,合理、安全,我国网信办快速反应,并于昨日发布了《生成式人工智能服务管理办法(征求意见稿)》,对生成式人工智能(AIGC)服务进行了框架性规范。该办法在对AIGC进行了明确定义 “生成式人工智能指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术”并对一些服务应用行为进行了方向性指引。
1.积极发展AIGC的态度
该办法阐明我国对AIGC的态度为积极支持、引导AIGC发展,并使得AIGC可以发挥更大的社会和商业价值。包括“为促进生成式人工智能健康发展和规范应用”,“国家支持人工智能算法、框架等基础技术的自主创新”。同时,国家鼓励在安全可信范围内发展AIGC技术“鼓励优先采用安全可信的软件、工具、计算和数据资源。”
2.在道德伦理层面提出要求
该办法要求AIGC服务及生成内容“符合社会主义的价值观”、防止出现民族、信仰等歧视、尊重商业道德、尊重他人合法权益、“防止生成虚假信息”等。
其中,价值观及防止歧视为应有之意,“防止生成虚假信息”判定难度较高,但对于提升AIGC所产生数据资产价值提升具有比较深远的意义。
3.明确服务提供者为最主要责任人
确认AIGC服务提供者为最主要的责任人,也就是说即使服务提供者是内容的“搬运工”也要承担主要责任。管理办法将“提供者”定义为“提供聊天和文本、图像、声音生成等服务的组织和个人,包括通过提供可编程接口等方式”。提供者需承担责任包括:
■ 个人信息保护
■ 训练数据来源的合法性
■ 制定标注规则、培训标注人员、保障标注正确性
■ AIGC服务具有防沉迷能力
■ 生成内容不包含歧视性
■ 对不合规内容及时进行修正
■ 保障用户正常使用,防止用户不当使用
■ 生成内容按照《互联网信息服务深度合成管理规定》进行标识
■ 提供可以影响用户信任和选择的必要信息
4.对该办法AIGC服务合规要素提出具体要求
■ 在提供前需根据规定向网信部门进行安全性申报和备案、变更、注销等手续
■ 对用户进行实名制验证
■ 违规生产内容应在3个月内进行优化、防止再次生成
■ 违反本规定按照网络安全法等相关法律和行政规范进行处罚