杭州宣判“AI幻觉”案：AI不是内容失实的“免责金牌”

中新网杭州2月3日电(郭其钰)一篇由AI自动生成的文章，将无关公司包装成知名企业的“重要子公司”，引发不正当竞争纠纷。博主却认为内容是AI写的，其不应该负责。

记者3日从杭州市滨江区人民法院了解到，该院审结了这起因传播AI幻觉内容引发的不正当竞争纠纷案，明确生成式人工智能的使用者必须扛起“内容审核”与“显著标识”的双重责任，为AI时代的内容创作与传播划定清晰的责任边界。

据了解，原告是在电商领域具有极高知名度的公司。被告李某是百度百家号某账号的运营者，该账号被认证为电商推广号，拥有数万粉丝，通过商业推广、带货等方式营利。

2023年12月30日，李某使用某AI平台生成一篇题为《某数字控股有限公司是真的吗》的文章，称某数字控股(深圳)有限公司是原告公司的重要子公司，是其在数字化转型过程中的重要布局。随后，李某自行添加带有原告公司标识的配图，并将文章发布在自己的百家号上。实际上，文中公司与原告公司没有任何关联。

原告公司认为文内含有严重失实信息，容易误导公众，损害其商业信誉与竞争利益，遂以不正当竞争为由，将李某诉至法院，要求其消除影响、赔偿损失。

法庭上，李某辩称，涉案文章完全由AI生成，自己未作修改，且在后台标注了“由某AI平台生成”，主观上没有侵权故意。

法院认为，生成式人工智能作为内容生产工具，“AI幻觉”现象在现阶段难以避免，但这恰恰要求使用者必须承担起最终的把关责任。特别是像李某这样拥有数万粉丝、通过商业推广营利的自媒体运营者，更不能以内容为AI生成作为推卸责任的理由。

法院最终认定，被告行为违背了诚信原则和商业道德，扰乱了公平的市场竞争秩序，损害了原告公司的商业信誉，构成不正当竞争行为。综合考虑原告知名度、被告过错、行为后果及维权成本等因素，判决被告在其账号内连续3日发布声明消除影响，并赔偿3万元。

“当前，生成式人工智能的‘幻觉’现象难以避免，它可能流畅地输出看似合理却并不真实的信息。但技术的局限，不应成为使用者规避责任的‘避风港’。法律所关注和规制的，始终是人的行为。”杭州市滨江区人民法院白马湖人民法庭(数据知识产权法庭)庭长倪晓花表示。

浙江大学光华法学院教授、博导张伟君认为，在当前难以完全避免“AI幻觉”现象的技术条件下，此案判决适时和恰当地确立了因人工智能生成内容存在信息错误而导致侵权损害的司法裁量标准，为自媒体内容提供者发布人工智能生成内容提供了清晰和准确的司法指引。