▶  本报记者   孙庆阳

　　2026年的3个救援故事，将人工智能（AI）法律难题推到了公众面前——

　　苏州市一男子心情烦闷时听从AI建议，前往未开发的野山散心，深夜被困山中，最终依靠救援队才得以脱险；

　　宁波市一名男子爬山时询问AI下山近路，被错误指引往反向高处行走，在山野间反复穿行耗尽体力、彻底迷路；

　　一名21岁女外卖员凌晨送餐被导航带入未开发深山，途中遭遇野狗追赶，历经近两个小时搜救，她才成功脱困。

　　当AI的建议开始深度介入人身安全决策时，谁来为AI的误导买单？

　　现有法律困境

　　AI的“嘴”到底算不算数？

　　AI输出的内容在法律层面该如何定性？全国首例AI“幻觉”侵权案给出了司法答案。该案中，AI在解答高考志愿相关问题时给出错误信息，被用户质疑后自行承诺，若内容有误便赔偿10万元，并建议用户向杭州互联网法院提起诉讼。法院审理认为，该AI已完成大模型备案与安全评估，平台在产品界面、用户协议等处充分履行提示告知义务，因此，判定平台不存在过错，不构成侵权。

　　天达共和律师事务所数据合规团队负责人叶鹏表示：“‌《中华人民共和国民法典》所确立的民事主体制度中，享有民事权利、能够作出有效意思表示的主体只有自然人、法人和非法人组织三类。AI既不是生物学意义上的人，也没有被任何法律赋予民事主体资格。”

　　在合同法方面，北京中银律师事务所高级合伙人杨保全认为：“AI的建议原则上不构成要约或承诺。大语言模型的输出，本质上是基于海量语料的概率性序列预测，不具备追求特定法律效果的意思表示。AI建议更接近信息参考服务。”

　　“这一案件还存在一个争议：当AI在特定商业部署场景中足以让用户产生合理信赖时，其输出内容的性质，是否可以构成要约或承诺？法院在这个具体案件中也表示，不能一概而论。”走出去智库合伙人、《互联网法律评论》主编张颖表示。

　　杨保全将当前AI法律定性面临的困境归纳为三大空白：主体空白，AI不是民事主体，其输出后果只能归属于服务提供者；关系空白，用户与AI平台之间到底是服务合同关系还是工具使用关系，定性不一；标准空白，AI输出的“可靠性边界”没有法定标准，只能靠法官根据个案裁量。

　　平台责任边界

　　“免费”不是挡箭牌

　　“当AI把人导航进深山，一句‘仅供参考’无法撇清关系。”杨保全认为，“免费就无责”站不住脚。《中华人民共和国消费者权益保护法实施条例》第二章第七条第二款明确规定：经营者向消费者提供商品或者服务（包括以奖励、赠送、试用等形式向消费者免费提供商品或者服务），应当保证商品或者服务符合保障人身、财产安全的要求。

　　在操作层面，杨保全建议，AI服务平台具有训练数据质量控制义务；输出内容的风险识别义务；明确的警示和说明义务，要针对具体风险给出明确提示；适用场景的边界告知义务。

　　在高风险场景方面，杨保全建议，AI服务平台有义务在显著位置提示强度更高的风险；提示内容要更具体，说明风险是什么、如何防范；技术可行时应设风险拦截机制。

　　关于免责条款，那些藏在用户协议里的“概不负责”，法院该怎么看？杨保全指出，‌《中华人民共和国民法典》第四百九十六条第二款规定，提供格式条款的一方未履行提示或者说明义务，致使对方没有注意或者理解与其有重大利害关系的条款的，对方可以主张该条款不成为合同的内容。叶鹏也强调：“平台未尽注意义务存在过错的，免责条款不能阻却责任；涉及人身损害的，免责条款可能自始无效。”

　　用户自身义务

　　不能完全信任AI的话

　　杨保全认为，用户的义务主要有三项：一是合理注意义务，保持基本审慎，不能盲目轻信；二是合理核实义务，涉及人身安全的建议应独立核实；三是风险自担义务，明知风险仍自愿承受的，应自行承担后果。

　　他表示，但这些义务有明确边界，标准是理性普通人而非专业人士；对明显风险有注意义务，对隐蔽风险没有预见义务；用户的个体差异会影响过错认定；风险自担不能免除平台法定义务。

　　法院如何权衡？杨保全建议：第一步，判断平台是否有过错，是否尽到了风险提示义务、AI输出是否存在明显错误、是否明确告知了服务适用场景和局限性、是否采取了合理的拦截或二次确认措施；第二步，判断用户的过错程度，用户是否具有相关领域经验、风险是否属于“明显可预见”、用户是否采取了基本核实措施、发现危险后是否及时止损；第三步，判断因果关系的强度，AI建议是损害的直接原因还是间接诱因；第四步，参考服务性质，付费服务的注意义务高于免费服务，专业领域AI的注意义务高于通用型AI的注意义务。

　　强化平台责任

　　AI监管转向硬性规则

　　“2026年8月起，欧盟AI办公室正式获得针对违规企业的直接罚款权。对于高风险AI系统，提供者须建立质量管理体系、保存技术文档及日志长达10年供事后审计。”张颖认为，欧盟的做法有两点值得借鉴：将人身安全高风险场景单列为强化义务区间；要求保存技术文档与日志，解决用户举证难点痛点。

　　美国的Character.AI（角色.AI）公司曾卷入AI机器人导致未成年人自杀案件。2024年2月28日，美国一名14岁少年在与该公司平台AI角色对话后，用手枪自杀身亡。“2025年5月21日，法官驳回被告大部分撤案动议，并认为可将Character.AI作为产品对待，从而启动严格产品责任路径。但最终该案以和解告终，未形成判例。值得关注的是，2025年的阶段性裁定已成为后续所有AI责任诉讼的模板。”张颖表示。

　　她回看杭州互联网法院的AI“幻觉”案，认为已确立基本框架：AI属于服务而非产品，适用过错责任原则。

　　用户如何维权？杨保全建议：AI对话记录，包括完整的截图或录屏，用户的提问和AI的完整回复，注意要保留时间戳，最好在事发后第一时间截取；服务协议和免责条款文本，平台的用户协议、隐私政策中关于免责的具体条款；损害事实证据，报警记录、医疗记录、财产损失凭证；因果关系证据，事发地点的定位信息与AI推荐路线的对应关系、完整的时间线、现场照片或视频；平台过错的补强证据，AI输出中明显错误的内容、其他用户类似遭遇的公开报道、平台在同类场景下是否有风险提示的对比截图；自身已尽注意义务的证据，如曾向AI追问路线安全性的对话记录、出发前做过准备工作的证据等。