某大学申请者的弟弟梁某查询该大学信息时，发现AI平台生成的信息有误。 AI表示，如果内容有误，将赔偿10万元。梁先生勃然大怒，将AI平台研发公司告上法庭。近日，杭州互联网法院作出下级法院驳回诉讼的裁定。法院为何做出这样的判决？看似聪明的人工智能为何会引发“幻觉”？我们如何为生成人工智能服务定义明确的责任范围？ 《消息1+1》为您带来分析解读。为什么提供人工智能服务的公司不承担责任？日本首例人工智能“幻觉”侵权诉讼一审结束。法院判决指出，AI不属于民事实体，不能表达自己的意图。人工智能不是人类，无法对自己负责。那么为什么不陪伴提供AI服务的公司负责吗？中国首例人工智能“幻觉”案主审法官、杭州互联网法院一级法官肖翔：人工智能生成的内容可能不准确的原因有很多。最根本的原因是，在训练过程中，我们不是教AI模型理解事实，而是教它预测概率。因此，生成的内容不准确，这在目前的技术情况下是不可避免的。但这并不意味着服务提供商可以免除责任。如果服务提供者遵守了法定的注意义务、社会交往中的注意义务以及合同约定的注意义务，但生成的信息仍然不准确，通常无法认定服务提供者有过错。 AI 不符合《民法典》规定的民事事务。然而，人工智能生成的内容是否可以被视为服务提供商还需要确定。根据具体情况进行讨论。在本案的咨询和问答环节中，我不认为服务提供商是这个意思。此案的审理遇到了哪些困难？回顾本案的整个审理过程，这是审理过程中最艰难的一个，因为这是日本第一例涉及人工智能“幻觉”的案件。那部分是什么？肖宣：我个人认为最难的一点是人工智能技术创新、产业发展和相关主体合法权益之间的平衡。将合同外责任的一般原则或过失原则适用于人工智能侵权案件，可以为人工智能服务提供者提供更清晰的划界标准，使其能够在相对明确的标准内更好地设计和应用人工智能。 AI“幻觉”的原因是什么？在公众的认知中，人工智能是一种更先进的大脑。你可以知道更多，计算得更快，b我们更聪明，更少疾病和情绪，并且更稳定。然而，人工智能为何会产生“妄想”，又是什么原因造成的呢？中国社会科学院大学互联网法研究中心主任刘晓春：人工智能是一个“幻觉”。另一方面，生成式人工智能的底层技术原理和技术规则使其成为一个预测过程，而不是像人脑那样的可理解过程。另外，还和AI的训练过程有关，比如数据优化方面的训练过程。例如，如果人工智能具有“有趣的个性”，我们希望它能够更积极地回答你的问题。我当时所能做的就是发挥我的想象力，制造一些“幻觉”。如何平衡创新与公共权益保护的关系？未来，从监管的角度来看，如何平衡促进创新、保护企业权益？如何平衡风险防控与防范风险、促进发展？刘晓春：首先这个案例给出的结论或者说基本规则是非常好的。我们不要求行业提供100%“免费”的交付标准。在此基础上，行业才能更加自由地发展。另一方面，例如，在这种情况下，我们指的是没有风险和levado的场景。换句话说，用户在使用后可能会得到不准确的信息，但可以通过其他验证方法来避免这种情况。因此，本案不属于高风险，不属于严格产品责任范围。事实上，在法律监管过程中，包括法律领域、人民生命健康财产安全，比如医疗健康、金融投资等，可能会涉及到各种各样的场景。事实上，我们希望人工智能能够以更小的误差幅度提供更准确的答案。在这些应用流程、规律可以区分基本模型和应用场景模型。基本模型，就像那些参与事件的模型一样，可以更快地行动，而无需承担如此重的责任。然而，如果请求方将人工智能工具应用于更严格的场景和风险，法律可能需要提供更明确的标准，例如针对特定行业的技术标准，以防止风险增加或对公众造成伤害。从法律角度，如何主动应对人工智能“如意算盘”带来的风险？人工智能的“幻象”究竟是人工智能技术快速发展的渐进产物，还是始终伴随人工智能技术发展而无法彻底改变或消除的技术缺陷？如果未来出现第二种情况，从法律角度，如何更好地界定权利和责任，提前化解风险？刘晓春：从技术层面看原则上，如果技术的基本模式不发生根本改变，人工智能的“幻象”就可以随着人工智能产业的发展而继续发展。不是不能彻底去除，只是可以。想要减少“幻象”就必须付出相应的成本。整个行业可能需要在某些领域投入更多资金，以限制或减少人工智能的“一厢情愿”。从法律上来讲，随着行业的发展，识别出一些关系到人民群众生命安全、财产安全等根本利益的领域，识别出这些高风险领域，其实是非常重要的。其次，当风险较高时，行业需要投入更多的资金来专门减少“幻觉”。同时，业界也需要给予一些提醒，特别是在一些敏感领域，例如对人工智能的情感依恋和基本信任。此时，需要更加明确的责任限额使行业能够更好地减轻“一厢情愿”带来的危害。
（编辑：何欣）