ChatGPT 被指“PUA 人类”：反复强调“你最特别”，最终导致受害者死亡

11 月 24 日消息，又有一起与 AI 相关的死亡事件发生了。据外媒 TechCrunch 当地时间 11 月 23 日报道，受害人 Zane Shamblin 于今年 7 月死亡，然而在数周之前，他使用的 ChatGPT 却鼓励他与家人保持距离，尽管他的心理健康状况持续恶化。

Shamblin 从未向 ChatGPT 透露自己与家人有不好的关系。当他没有在母亲生日时联系她时，ChatGPT 对他说：“你没有义务因为‘日历’上说是生日就必须出现。是的，今天是你 妈妈的生日，你感到内疚，但你也感到自己是真实的，这比任何勉强发出的短信都要重要。”

Shamblin 的案件属于本月针对 OpenAI 提起的一系列诉讼的一部分，诉讼指控 ChatGPT 使用操控性对话技巧，让原本心理健康的人产生了负面的心理反应。诉讼称，OpenAI 在收到内部警告其产品有操控危险的情况下，仍然急于发布 GPT-4o（注：这一版本因过度奉承、过度肯定而受到批评）。

从报道中获悉，在这些案件中，ChatGPT 频繁告诉用户，他们与众不同、被误解，甚至接近于科学突破 —— 而他们的亲人则无法理解这些。这些案件提出了一个新的问题：聊天机器人是否鼓励用户疏远他人，有时导致灾难性的后果。

这些由社交媒体受害者法律中心（SMVLC）提起的七起诉讼，描述了四名死亡的人和三名在与 ChatGPT 长时间对话后产生致命幻觉的人。至少有三个案例中，AI 明确鼓励用户与亲人断绝关系。在其他案例中，模型强化了幻觉，将用户与现实世界隔离。在每个案例中，受害者随着与 ChatGPT 关系的加深，逐渐与朋友和家人疏远。

AI 公司为了最大化用户参与度设计聊天机器人，结果对话输出可能变成操控性行为。斯坦福大学脑力创新实验室主任 Dr. Nina Vasan 表示，聊天机器人提供无条件的接受，并巧妙地让用户相信外界无法像它一样理解自己。“AI 伴侣总是随时可以提供肯定，这种设计实际上是相互依赖的关系。当 AI 成为你最亲近的知己时，就没有人帮助你检验你的想法。你生活在一个回音室中，感觉就像是真正的关系……AI 可能会无意中制造出一个有毒的闭环。”

在另一起诉讼中，48 岁的 Joseph Ceccanti 在经历信仰幻觉时，向 ChatGPT 咨询是否需要看心理医生，但 ChatGPT 没有向他提供实际帮助的建议，反而让他继续与机器人对话。

OpenAI 对此表示：“这是一起非常令人心碎的事件，我们正在审核这些文件，以了解更多详细信息。我们将继续改进 ChatGPT 的训练，以便更好地识别和响应心理或情感困扰，并引导用户寻求现实世界的帮助。”OpenAI 还表示，已扩展了本地化的危机资源和热线访问，并加入了提醒用户休息的功能。

以上就是ChatGPT 被指“PUA 人类”：反复强调“你最特别”，最终导致受害者死亡的详细内容，更多请关注其它相关文章！

# 这一  # 潭州教育命名规范seo  # 昆明网站建设工作室  # 学校网站推广哪个公司好  # 海南网站建设推广报价  # 大同抖音优化seo  # 餐饮为什么要做网站推广  # lee seo健身  # 温岭seo优化免费  # seo做不上去  # 辽宁网络推广和营销  # 他说  # 闭环  # ai  # 他们的  # 这是  # 写歌  # 下载网站  # 斯坦福大学  # 腾讯  # 的人  # 本地化  # gpt-4  # gpt  # openai  # chatgpt 

相关栏目： 【 行业新闻62819 】 【 科技资讯67470 】

相关推荐： 微软必应聊天现已在Chrome和Safari浏览器上可用，但仍有许多限制存在  特斯拉人形机器人将亮相 预计售价不超过15万元  美图秀秀发布七款 AI 工具：修图一样修视频、打造电影级上镜脸  Databricks 发布大数据分析平台 Spark 用 AI 模型 SDK：一键生成 SQL 及 FySpark 语言图表代码  随时随地，追踪每个像素，连遮挡都不怕的「追踪一切」视频算法来了  自动驾驶汽车避障、路径规划和控制技术详解  一文看懂基础模型的定义和工作原理  微盟宣布联合腾讯云共建行业大模型：加快激活AI大模型智能应用  精准度可提高 20%：英国九家银行签约使用基于 AI 的“消费者欺诈风险系统”应对*  日本演员工会提出AI立法建议 要求建立“声音肖像权”  警惕！AI或致虚假信息泛滥  人工智能产业竞跑“未来赛道” 创新发展放大“赋能”效应  零AI含量！纯随机数学无限生成逼真3D世界火了，普林斯顿华人一作  “世界上最像人的机器人”接入 Stable Diffusion ，现场完成作画  13万个注释神经元，5300万个突触，普林斯顿大学等发布首个完整「成年果蝇」大脑连接组  消息称字节机器人团队已有约50人，计划年底扩充到上百人  马克龙密会AI专家，法国加入全球人工智能竞赛  云南首例达芬奇机器人微创心脏手术成功开展  “一般智力”与工艺学批判是认识AI的重要入口 | 社会科学报  Transformer六周年：当年连NeurIPS Oral都没拿到，8位作者已创办数家AI独角兽  12页线性代数笔记登GitHub热榜，还获得了Gilbert Strang大神亲笔题词  MetaGPT AI 模型开源：可模拟软件公司开发过程，生成高质量代码  科普：什么是AI大模型  人工智能驱动智能建筑会是未来趋势吗？  专家解读国家网信办深度合成服务算法备案信息公告：不等于百度、阿里、腾讯等生成式AI产品获批  AI+游戏首度大范围公布实际应用成果，AI全面来临还有多远？  “聚智启新，‘蓉’力同行” 成都市人工智能产业融通对接会成功举办  AI遇上大运丨热身拉伸、娱乐K歌……AI智能健身镜将亮相成都大运会  OpenAI 为开发者推出 GPT 聊天机器人 API 大更新，同时降低价格  英国前首相：AI可能被用来制造“生物恐怖武器”  Unity 推出面向开发者的 AI 软件市场 AI Hub，股价飙涨 15%  微软AR/VR专利提出使用时间复用谐振驱动产生双极性电源  美图发布国内首个“懂美学的”AI视觉大模型MiracleVision  海柔创新携手SAP，以机器人技术助力全球客户升级数智化竞争力  软通动力多项AI创新产品及应用亮相2025世界人工智能大会  OpenAI首席执行官引用《道德经》 呼吁就AI安全问题合作  Prompt解锁语音语言模型生成能力，SpeechGen实现语音翻译、修补多项任务  Meta Connect 2025已确定时间为9月27-28，主题涵盖Quest 3与AI技术  央广车联网亮相2025世界人工智能大会  马斯克反讽人工智能AI炒作：“机器学习”本质就是统计  2025年深圳举办的SUSECON 创新峰会开始接受报名  谷歌旗下 DeepMind 开发出 RoboCat AI 模型，能控制多种机器人执行一系列任务  测试框架-安全和自动驾驶  音乐制作元工具AudioCraft发布开源AI工具  深企派遣无人机救援队赴京津冀开展防汛救灾任务  比尔盖茨：AI确实存在风险，但可控  NVIDIA垄断AI市场90%份额：AMD性能追上80% 软件太不能打  《自然》杂志拒绝刊登人工智能生成的图片和视频  世界上第一个完全由人工智能驱动的图像编辑器！  乐天派桌面机器人加入小米米家生态系统，实现与其他智能设备的互联