▶ 孙立彬

　　人工智能生成技术（AIGC）的浪潮席卷全球，在内容生产方面，其正以前所未有的效率重构传统的运行规则，文、视、图、声等合成和制作门槛大幅降低。与此同时，由于人工智能（AI）幻觉、恶意传播与法律法规滞后等诸多因素并存，致使生成式内容的制作和传播处于混乱状态。

　　今年全国两会期间，代表委员敏锐注意到上述问题，就打击AIGC虚假信息、完善AI视频传播管理机制等思考提出建议。

　　他们都看到了什么

　　全国人大代表、科大讯飞董事长刘庆峰表示，生成式人工智能存在幻觉，特别是深度推理模型逻辑自洽性的提升，使得AI生成内容真假难辨。带有算法偏差的虚假信息会被新一代AI系统循环学习，形成恶性循环，影响公众信任和社会稳定。

　　全国人大代表，美的集团党委副书记、集团副总裁兼首席财务官钟铮注意到，随着目前AI技术的快速发展，视频合成和制作门槛大幅降低，导致网络上出现大量AI生成的视频内容真假难辨，且成为一种常态。在一些视频中，有的模仿明星或专家的形象声音进行传播，有的则虚构人设，用于推销产品，误导消费者购买不必要的商品，以至产生信任危机；还有一些视频通过流量变现，进一步加剧这一类乱象愈演愈烈。

　　全国人大代表、TCL创始人、董事长李东生表示，随着生成式人工智能技术的发展，深度伪造技术快速发展，而一旦被不法分子利用，可能会导致新的社会问题。近年来，我国相关立法对这一议题虽有关注，但已出台的规章制度不成体系，尚不具备可操作的细则和明确的处罚标准。

　　关于深度伪造问题，全国人大代表、小米集团董事长兼CEO雷军也非常关注。他表示：“‘AI换脸拟声’不当滥用造成的违法侵权行为已成为重灾区，易引发侵犯肖像权、侵犯公民个人信息以及诈骗等违法行为。AI深度合成技术所需素材获取便利、技术使用门槛低、侵权主体及其手段隐蔽性强等特点，给治理带来较大挑战。”

　　他们建议这样解决

　　针对AI幻觉问题，刘庆峰建议构建安全可信数据标签体系，提升内容可靠性：建立安全可信、动态更新的信源和数据知识库，对不同类型数据的可信度和危害程度建立标签体系，降低人工智能幻觉出现概率，提升生成内容可靠性；同时研发AIGC幻觉治理技术和平台，定期清理幻觉数据，研究幻觉自动分析的技术和软件平台，开展幻觉自动分析、AIGC深度鉴伪、虚假信息检测、有害内容识别以及互联网传播溯源，由相关部门定期清理幻觉数据，为公众提供AIGC幻觉信息检测工具与服务。

　　对于AI生成视频的传播，钟铮建议，一是完善法律法规体系，加强原创版权和隐私保护；二是探索利用AI技术审核AI合成的视频内容，确保视频传播内容审核的效率与准确性；三是进一步加强行业自律与政府监管，对违法违规行为进行严厉惩治，督促行业健康发展。

　　李东生认为，要规范对于这一新兴技术的不当利用行为，有必要要求深度合成服务提供商对人工智能生成的内容进行强制标识，减少恶意滥用，并厘清责任、对违法犯罪行为追责。

　　李东生建议：第一，加快人工智能深度合成内容标识管理规章制度的出台。第二，明确对人工智能深度合成服务商未履行标识义务的惩罚制度。完善对深度合成内容服务提供商未按要求进行标识的行为界定、分类细则，以及相应的处罚标准。第三，加强深度合成内容标识技术标准和发布的管理。出台深度合成内容标识的技术标准，保障标识的有效性。此外，对相关内容平台提出要求，用户在发布深度合成的视频、音频等内容时，有义务对其进行标识。第四，加强国际合作，形成人工智能生成合成内容的有效监管。

　　雷军建议，首先，应加快单行法立法进程，在安全与发展并重的基础上提升立法位阶；其次，强化行业自律共治，压实平台企业等各方的责任和义务；第三，加大普法宣传的广度力度，增强民众的警惕性和鉴别力。