▶ 本报记者 于大勇
近日,科技部发布《驾驶自动化技术研发伦理指引》(以下简称《指引》),旨在指导驾驶自动化技术研究开发和应用的规范开展,防范技术研发与产品应用过程中的科技伦理风险,推动该领域健康发展。
专家表示,《指引》为驾驶自动化技术确立了伦理底线与行为边界,其核心作用在于将技术创新纳入社会价值导向的轨道,既鼓励企业探索前沿,又要求其在研发初期即嵌入伦理评估机制,这对于促进驾驶自动化技术的健康发展意义重大。
作用:多维度且深远
“在一个技术飞速演进、商业落地日益加快的赛道上,伦理的滞后往往成为公众信任的裂缝,《指引》恰恰填补了这一裂缝。《指引》明确各类驾驶自动化技术应当遵守的伦理底线和行为准则,让智能驾驶不只是‘能跑得快’,更‘能跑得稳’。”知名商业顾问霍虹屹认为,《指引》的发布,是中国科技伦理治理体系在智能驾驶领域一次重要的制度落点。从技术发展角度看,它不是束缚创新的“紧箍咒”,而是为创新设立边界的“防护栏”。
新智派新质生产力会客厅联合创始发起人袁帅表示,从研究开发层面看,《指引》为科研人员提供了清晰明确的伦理框架。《指引》的出台促使驾驶自动化技术科研人员将伦理考量纳入研发全流程,避免因单纯追求技术先进性而发生违背伦理的现象。在应用推广方面,《指引》规范了驾驶自动化技术的应用场景与方式。不同类型驾驶自动化系统有着不同的技术特性和适用范围,《指引》针对这些差异提出相应伦理规范,有助于确保技术在合适的场景应用,防止因不当应用导致安全事故或社会问题,增强公众对驾驶自动化技术的信任。
首位:对生命安全尊重和保护
《指引》提出,安全优先、尊重生命。驾驶自动化技术的研究开发和应用必须充分考虑安全性,既要尽最大可能保证用户及参与者的生命安全,还应高度重视保护车辆周围人员生命与环境安全。
“尊重和保护生命是科技伦理的基本原则之一。作为指导驾驶自动化技术发展的伦理规范,《指引》必然要把生命安全作为核心考量,确保技术在研发和应用过程中不会对生命安全构成威胁。”中国通信工业协会数字平台分会副会长高泽龙表示。
“智能驾驶的本质,是人与机器在公共空间的协作,一旦涉及生命,任何技术优势都必须让位于伦理原则。《指引》强调以人为本、尊重生命,是一次深刻的价值立场表达。”霍虹屹介绍说,在复杂道路环境中,自动化系统可能面临“机器决策”的道德困境,生命保护原则的确立如同一条清晰的红线,为所有开发者划定了不可逾越的伦理禁区。
“《指引》明确将生命安全置于首位,体现了对人类生命的高度重视,有助于引导技术研发和应用朝着安全可靠的方向发展,避免因追求技术进步而忽视生命安全这一根本底线。”袁帅说。
纲要:未来注定要“细化”
采访过程中,专家一致认为,作为驾驶自动化技术研发领域伦理方面的纲领性指引,未来,《指引》也会伴随新技术或新场景的出现而不断完善和细化。
霍虹屹认为,随着技术从L2向L3、L4甚至L5不断推进,更多新场景和新风险将不断浮现,伦理指引也需要与之匹配,持续更新。同时,《指引》的修订会更加重视跨部门、跨行业协同,如与司法、交通、保险等体系形成联动机制。特别是在算法责任、数据治理、安全评估等方面,未来可能会有更具操作性的细则出台。
“随着技术演进与社会认知深化,《指引》可能会在多个方面进行调整。”资深人工智能专家郭涛举例说,如在技术适配性方面,可能会纳入车路协同(V2X)、元宇宙虚拟测试等新方法学要求;在国际协同方面,可能会对接欧盟《AI法案》、联合国WP.29自动驾驶框架,解决跨境数据流动与认证互认问题;在风险预警机制方面,可能会引入实时伦理审计接口,要求系统记录关键决策日志供第三方核查;在新兴场景覆盖方面,可能会补充无人配送车、飞行汽车等非载人场景的伦理规范。
“随着驾驶自动化技术快速发展,新的技术形态和应用场景不断涌现,现有《指引》可能无法完全覆盖这些新情况。因此,修订会及时纳入新技术带来的伦理问题,确保《指引》始终与技术发展同步。”袁帅认为,当出现更高级别的自动驾驶技术或全新的驾驶模式时,需要制定相应的伦理规范。同时,社会对驾驶自动化技术的认知和需求也在不断变化,公众对生命安全、数据隐私等方面的关注点可能会更加细化。《指引》的修订应充分考虑这些社会需求变化,进一步强化对生命安全、数据隐私保护等方面的要求。
“未来《指引》的修订可能会借鉴国际先进经验和做法,与国际标准接轨,提升我国在该领域伦理规范的科学性和权威性。”袁帅说。