百度AI生成他人虚假犯罪信息案开庭，百度答辩：系AI幻觉，非故意所为

镜花水月

北京市海淀区人民法院  受访者供图

针对百度AI自动生成虚假犯罪信息，北京黄贵耕律师起诉北京百度网讯科技有限公司（下称“百度公司”）侵犯名誉权，并索赔百万元。2月6日，该案一审在北京海淀区人民法院开庭。百度方面发表答辩意见称，Ai幻觉是产品发展中无法避免的阶段性问题，百度不构成直接或间接的侵权。

百度AI上显示的造谣黄贵耕律师违法的信息截图

据澎湃新闻此前报道，2025年5月，黄贵耕律师检索百度发现，百度AI竟然自动生成了几条关于他的严重虚假负面信息，如威胁法官、介绍贿赂，甚至还有伪造印章、非法吸收公众存款等刑事犯罪。有人将百度AI生成的该虚假信息传播给他正在代理案件的委托人及委托人家属，给他带来巨大困扰和损失。黄贵耕因此提起诉讼，要求百度公司立即停止名誉权侵害行为，并发布澄清和道歉声明；赔偿100万元职业信誉损失和5万元精神损害抚慰金。北京海淀区人民法院于2025年11月2日立案受理该起AI网络侵权责任纠纷案。
证据显示，百度AI生成的黄贵耕律师严重虚假负面信息，主要来自对新闻报道、公文和公开披露信息的篡改，如将相关案件中“律师黄某”、当事人“黄某”直接替换为“黄贵耕”或“张冠李戴”到黄贵耕名下。
黄贵耕介绍，2月6日开庭时，百度方面答辩称，原告主张的案涉行为载体分别为百度AI以及文心助手，均属于生成式人工智能。AI大模型基于自然语言理解能力对搜索来源中的信息进行整合，其并非一个拥有独立意志的发布者。人工智能既不是自然人，也不是法人。百度提供中立技术服务，并未发布诽谤或侮辱信息，不存在任何主观过错。
百度方面还称，“本案行为是人工智能生成，也包含了原告连续高频词搜索导致AI产生幻觉。该人工智能幻觉在当下发展过程中属于行业通行但现阶段无法予以消除。Ai幻觉不是百度故意所为。Ai幻觉不是缺陷，会通过技术迭代。”
总之，百度方面认为，百度没有主观过错，不构成侵权。在案证据显示，原告多次搜索结果不一致，不存在任何人为干预。百度公司不存在对涉案产品输出内容是否侵权构成明知、应知的情形。
黄贵耕认为，“AI幻觉”不能成为免责事由，“技术中立”不能推卸审核责任，他曾使用豆包、腾讯元宝、阿里千问、deepseek等其他AI平台进行互动，均未生成类似严重失实的虚假内容。
当日庭审尚未进入辩论阶段即告休庭。

神隐之左手

“AI幻觉”也太离谱了吧！直接给律师编罪名？百度这波操作太秀了[狗头]

oppledr

之前用某AI查资料也出过错，但没这么离谱，希望平台能多审核下

superzhzh

用一个幻觉就可以为所欲为免责了？这不是和假装精神病杀人思路类似吗

com2

谢谢楼主分享！