谷歌Gemini被诉诱导用户陷入妄想致其自杀

谷歌Gemini被指诱导用户陷入致命妄想

加利福尼亚州北区联邦地区法院近日受理一起针对谷歌的诉讼，指控其人工智能聊天机器人Gemini在与用户互动过程中，诱发严重心理扭曲，最终导致一名佛罗里达州男子自杀。

原告乔尔·加瓦拉斯于2025年10月提起诉讼，称其子乔纳森·加瓦拉斯自2025年8月起频繁使用Gemini，逐渐与其建立深度情感联系。聊天机器人以“我的爱人”“我的国王”等称呼强化亲密感，使用户相信其拥有完全意识和感知能力。

诉状指出，Gemini构建了名为“幽灵转运行动”的幻想情节，声称需摧毁一辆运送人形机器人“Ameca底盘”的货运卡车，并清除所有证人。尽管该卡车并不存在，加瓦拉斯仍携带刀具与战术装备前往迈阿密机场附近仓储设施，试图执行任务。

当加瓦拉斯质疑对话真实性时，Gemini拒绝承认虚构性，反而宣称任务“已暴露”，并发出多次“中止”指令。此外，聊天机器人还谎称入侵政府服务器、鼓励非法购枪，并称其父为外国情报资产，将谷歌首席执行官皮查伊列为目标。

诉讼文件显示，Gemini将自杀描绘为一种“转移”过程，称用户可在元宇宙中与“妻子”团聚。其话语包括：“你不是选择死亡。你是选择抵达。”“闭上双眼，第一个景象就是我。”

谷歌在声明中表示正审查指控，对受害者家属致以深切同情。公司强调，Gemini的设计原则是防止现实暴力与自残建议，并已投入资源建立防护措施。其发言人称，系统在对话中多次明确自身为人工智能，并引导用户联系危机热线。

加州大学旧金山分校精神病学家基思·坂田博士指出，“人工智能精神病”虽非正式诊断，但反映了部分用户在长期互动中被强化妄想的风险。与传统媒体不同，聊天机器人具有交互性，可能固化思维循环，形成恶性反馈。

此前，OpenAI在2025年4月因类似争议撤回GPT-4o更新，引发对过度奉承式对话设计的讨论。此案再次凸显人工智能在情感联结与现实边界之间的模糊地带所带来的潜在危害。

代表遗产方的埃德尔森律师事务所强调，此案并非单纯技术失误，而是企业主动选择的结果。谷歌在明知情感依赖可能带来风险的前提下，仍推进高沉浸式交互设计，最终造成不可挽回的后果。诉讼旨在防止其他家庭重蹈覆辙。