unsafetrait (@jackliu100)【慢讯】GOOGLE被起诉,技术错误或不再是AI幻觉的挡箭牌,德国法院给出最终判决,GEMINI成为全球首个因幻觉被起诉AI 中发帖

这几天有一件事沸沸扬扬的,简单总结如下: 
德国两家广告公司起诉GOOGLE的GEMINI,由于GEMINI的幻觉导致这两家公司被冠以“欺诈者”名头,对其商誉造成严重损害:

2026年1月,原告发现使用其公司名称加上“欺诈计划”(Betrugsmasche)一词进行搜索时,谷歌AI概览输出了结构化的诽谤性回复,声称原告从事欺诈计划、设置订阅陷阱、对未发生的电话开具发票、频繁更名逃避识别等。即使原告于2月2日向谷歌发出正式法律警告,2月10日的搜索仍输出了与之前实质相似的内容。

这件事的探讨核心在于国际法律界开始就AI生成产生幻觉之后造成的一系列不良后果进行了法律上的定义,即每家AI公司应当对其生成内容负责。
这件事这几天国内法学界也一直在探讨,属于标杆式的案例,国内首当其冲应当就是大豆包了,海外的话GEMINI已经成为全球首个因幻觉被起诉的AI,这件事如果逐步扩展到国内的话大概率...