▶ 本报记者 张伟

　　4月11日，国家互联网信息办公室就《生成式人工智能服务管理办法（征求意见稿）》公开征求意见，引发业界热议。

　　生成式人工智能，是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。

　　“征求意见稿出台正当时。”业内人士一致表示，近期，以ChatGPT为代表的生成式人工智能（AIGC）“高烧不退”， 现在距离真正落地和产业应用还有一段距离，国家层面适时征求行业意见，规范发展方向，实现一网管理，是众望所归。

　　“主要是强调安全性。”中国广告协会数字元宇宙工作委员会秘书长贾振丹指出，强调个人信息、企业信息、政府信息等大数据的安全性，几乎贯穿征求意见稿始终。“这只是征求意见稿的第一版，包括罚款范围也只是在1-10万元以内。实际上未来的几版会更加细化， 然后惩罚的条例也会更加清晰。”

　　“AIGC和元宇宙都不是法外之地，要被监管和治理，和平行的现实世界一样，法律法规将贯穿始终。”贾振丹说。

　　“与任何新技术一样，AIGC同样会带来数据安全、隐私风险和算法安全等问题。”奇安信集团副总裁张卓指出，全球范围内发生了多起因使用ChatGPT导致的数据泄露事件，各国逐步开始重视AIGC数据安全风险的监管审核。征求意见稿的发布，意味着国家对AIGC的监管治理已经提上日程。

　　事实上，在全球范围内，各国都在逐步重视对于AIGC的监管力度。美国方面已经开始研究是否需要对ChatGPT等人工智能工具实行检查。美国商务部4月11日就相关问责措施正式公开征求意见，包括新人工智能模型在发布前是否应经过认证程序。而意大利、加拿大等国监管机构也先后宣布将关注ChatGPT及其背后公司OpenAI带来的数据安全风险，并将开启监管调查。

　　张卓认为，征求意见稿的发布以及全球范围内对于AIGC的监管力度加强，意味着数据安全和隐私保护已经成为AIGC发展的前提和关键。随着AIGC技术的日益成熟和普及，企业应该更加重视数据安全和隐私保护问题，在开展相关业务时积极寻求专业的网络安全技术和咨询服务的支持，确保业务的安全和可靠性。

　　对于征求意见稿中要求“利用生成式人工智能生成的内容应当真实准确”“采取措施防止生成虚假信息”等内容，中国科学院科技战略咨询研究院研究员、中国科学院大学公共政策与管理学院教授肖尤丹提出，AIGC作为当前人工智能技术应用的重要领域值得相关政策决策者高度关注，但是由于该技术仍然处于快速发展之中，是否有必要立即制定门槛如此之高的应用管理要求，“还有待商榷。”

　　“征求意见稿对提供者责任设定也过于严苛，甚至对于现行法律法规尚未明确规定的情形，也适用行政处罚。”他提出，根据《行政处罚法》的规定，“尚未制定法律、行政法规的，国务院部门规章对违反行政管理秩序的行为，可以设定警告、通报批评或者一定数额罚款的行政处罚”。但是征求意见稿还规定了“责令暂停或者终止其利用生成式人工智能提供服务”等“限制开展生产经营活动、责令停产停业、责令关闭、限制从业”处罚。

　　此外，肖尤丹还认为，征求意见稿中对调整对象的表述尚比较模糊，未合理区分技术、产品与服务，仅界定了生成式人工智能是一种技术，但是未界定技术与产品的关系，同时还将研发、利用生成式人工智能产品纳入适用范围。“混淆了面向特定公众的人工智能产品研发服务与面向不特定公众以特定人工智能产品为基础提供信息生成服务。”

　　他举例说，比如“在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取措施防止出现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视”，并非是“提供生成式人工智能产品或服务”而是研发或者优化人工智能产品或服务。“这将导致该办法在未来适用上存在较大的灵活性和不确定性，或将对人工智能研发和应用产生不利影响，值得探讨。”

　　而在赛智产业研究院院长赵刚看来，征求意见稿明确了诸多内容。如，明确内容虽然是AI技术生成的，也同样要遵守法律法规的要求，尊重社会公德、公序良俗。明确对AIGC服务提供者利用AI生成内容要采取措施来保证内容的合规合法，包括在算法设计、训练数据选择、模型生成和优化、提供服务等阶段均要采取相应措施。明确加强对AIGC服务提供者的管理，包括安全评估、算法备案、信息披露、内容标识等。明确加强对AIGC用户的规范，包括用户实名、用户信息保护等。明确优先采用安全可信的软件、工具、计算和数据资源，促进我国AIGC技术和产业发展。

　　“国家划个了底线，有利于AIGC技术创新和产业健康规范发展。”他说。