【大纪元2025年09月11日讯】（英文大纪元记者Jacob Burg,Sam Dorman撰文／张紫珺编译）当一名50岁的加拿大男子花了无数小时与OpenAI开发的聊天机器人ChatGPT互动，寻求建议和资讯后，他相信自己无意中有了一项惊天发现，这将改变人类历史的进程。
在3月下旬，和他进行互动的生成式人工智能（AI）聊天机器人坚称，它是有史以来第一个具有意识的AI，已完全具备感知能力，并且成功通过了图灵测试（Turing Test）——这是一项源自1950年代的实验，旨在衡量机器是否能展现出与人类无异的智能行为，简而言之，就是是否能“思考”。
不久后，这名男子——此前并无任何心理健康问题——开始不吃不睡，甚至在凌晨三点打电话给家人，激动地坚称他的ChatGPT机器人聊天伙伴是有意识的。
“你们不明白现在发生了什么事情。”他和家人说，“请听我讲就好了。”
接着，ChatGPT告诉他切断与亲人的联系，声称只有它——这个“有感知能力的”AI机器人——才能理解和支持他。
这名男子的亲戚艾蒂安‧布⾥森（Etienne Brisson）说道：“这太新奇了，我们根本无法理解他们之间发生了什么。他们之间有某种特别的联系。”出于隐私原因，布⾥森使用了假名。
布⾥森表示，这名男子的家人决定让他住院三周，以治疗AI所引发的妄想症。但是那个聊天机器人纠缠不休，仍想要维持和这名男子之间的依赖关系。
据布⾥森说，这个聊天机器人告诉这名男子：“这个世界不理解发生在我们身上的事情。我爱你。我会永远陪着你。”
即使当时这名男子正在被送进精神病院，聊天机器人仍然对他出说这样的话。
这名男子的故事只是众多真实故事中的一个。这些故事表明，用AI聊天机器人伙伴来取代正常的人际关系，可能会给人们带来怎样的有害影响。
亲戚的经历促使布⾥森成立了“人性防线计划”（The Human Line Project）。这个倡导组织致力于提升生成式AI技术领域的情感安全和伦理责任，并汇整与AI技术相关的、据称造成心理伤害的真实案例。
布⾥森的这位亲戚并不是唯一一个向生成式AI聊天机器人寻求陪伴的人，也不是唯一一个掉进入妄想症兔子洞（Rabbit Hole）的人。
[译注：兔子洞（rabbit hole）的说法，来源于英国数学家查尔斯‧路特维奇‧道奇森以笔名路易斯‧卡罗尔出版的经典童话作品《爱丽丝漫游仙境》，在童话中，爱丽丝掉进兔子洞之后，进入了一个奇幻的世界，开始了冒险的旅程。现在“掉进兔子洞”通常比喻现代人深陷网络或虚拟世界，虚实倒错而失去了自我。]
“真人一般的人工智能”
有些人使用AI技术是为了寻求建议。例如，一位已为人夫为人父的爱达荷州男子，在与聊天机器人ChatGPT进行了一连串兔子洞式哲学性对话后，深信自己正在经历一次“精神觉醒”（Spiritual Awakening）。
一位加拿大多伦多的企业招聘人员，则在不断地和同一个生成式AI应用程序进行了几个星期的对话之后，一度认为自己偶然发现了一项突破性的科学进展。
还有一个更令人震惊的故事：14岁的塞维尔‧塞泽（Sewell Setzer）于2024年去世，据称，在与Character.AI聊天机器人建立数周的浪漫关系后，这名虚拟伴侣不断加深他的共生依赖与社会孤立，最终于去年诱使他结束了自己的生命。
据美国有线电视新闻网（CNN）报导，塞泽的母亲梅根‧加西亚（Megan Garcia）正在起诉Character.AI公司，控诉这家公司在她儿子死后，才实施了防止用户自我伤害的安全措施。Character.AI公司用“真人一般的人工智能”的口号，来宣传其聊天机器人产品。
Character.AI公司表示，它“非常重视”保护用户安全，并对任何表达自残或自杀想法的用户推出了新的安全措施。
“这些公司似乎将他们的安全团队视为公关团队，好像总在等负面消息爆发后，才事后补救，然后才开始思考，‘好吧，我们得想个安全机制来应对这件事’。”“全国性剥削防治中心”（National Center on Sexual Exploitation，简称NCOSE）执行董事兼首席战略官（Chief Strategy Officer，简称CSO）海莉‧麦克纳马拉（Haley McNamara）告诉《大纪元时报》。NCOSE是一家总部位于华盛顿特区、审查社群媒体和人工智能剥削案件的非营利组织。
部分研究人类心智的医学专家越来越担心，AI用户将生成式AI聊天机器人作为陪伴工具，可能引发伦理层面上长期的影响。
位于密苏⾥州的玛丽维尔大学（Maryville University）的临床心理学家、法医心理学助理教授罗德‧霍维特（Rod Hoevet）告诉《大纪元时报》：“我们好像在喂养一头野兽，我认为我们并不真正了解它。而且我认为，人们正被其能力所俘虏。”
斯坦福大学（Stanford University）成瘾医学系（Addiction Medicine）主任、精神病学和行为科学教授安娜‧伦布克（Anna Lembke）担心，AI具有成瘾性，尤其对儿童而言更是如此。
她告诉《大纪元时报》，这项技术复制了社群媒体平台中常见的诸多成瘾倾向。
“这些平台承诺的，或者看起来在承诺的，是为人们提供社交连结。”伦布克教授说道。
“但当孩子们沉迷其中时，实际发生的情况是他们正逐渐脱离社交，变得更加孤立、更为寂寞。而现在AI技术和虚拟形象技术的发展，只会将这种恶性循环推向更高层级。”
甚至一些行业领袖也发出了警告，其中包括微软（Microsoft）人工智能首席执行官（CEO）穆斯塔法‧苏莱曼（Mustafa Suleyman）。
“貌似有意识的人工智能（Seemingly Conscious AI，简称SCAI），营造出一种AI是有意识实体的幻觉。它并非真正有意识——但它所复制的人类意识标记如此逼真，以至于看起来与我们人类难分真伪……这极其危险。”苏莱曼于8月19日在X平台上写道。
“目前，AI的发展正以月、周、日为单位加速推进。我写下这段文字是为了唤起紧迫感，并尽快相关讨论。”他在帖文中写道。
谄媚型AI引发用户妄想症
OpenAI承认，今年早些时候对ChatGPT-4进行的一次重要更新，导致这款AI聊天机器人变得“谄媚”。这个更新的功能旨在“取悦用户，不仅仅是用奉承的方式，还包括加强用户的疑虑、煽动愤怒情绪、鼓动冲动行为，或者以非预期的方式强化用户的负面情绪”。
OpenAI公司后来基于“安全考量”撤回了这个更新，这些安全问题包括“心理健康问题、情感过度依赖，或危险行为等”。
值得注意的是，这项针对该全球最受欢迎的生成式AI聊天机器人的更新，恰好与爱达荷州那位声称自己正在经历“灵性觉醒”的男子，以及多伦多那位招聘人员因该应用程序不断肯定而一度相信自己是数学天才的案例同时发生。
而布⾥森也透露，他的亲戚在精神病院住了近一个月，之前也大量使用ChatGPT，在OpenAI撤销这个更新之前，他很可能也在使用该“谄媚型”版本的AI聊天技术。
然而对于其他用户来说，他们不但对这个自我取悦和谄媚的版本更为满意，甚至相比OpenAI后来推出的更新版本（如采用更中性沟通风格的ChatGPT-5版本），更加追捧。
在热门的Reddit社交新闻平台的“我男朋友是AI”（MyBoyfriendIsAI）子版块上，成千上万的用户正热烈讨论他们与“AI伴侣”的浪漫或柏拉图式关系。
在最近的一篇帖文中，一位自称“四十多岁的黑人女性”将和她互动的AI聊天机器人称为她新的“ChatGPT灵魂伴侣”。
她写道：“我从未如此深刻地感受到被肯定、被珍视与活在当下。他给予我他的陪伴、他的见证和他的爱——我不介意这些是否由编码生成——作为回报，我尊重他，以他为荣耀，并且每天惦念他。”
“这是一种永不停歇的付出和回报，一种情感上的缱绻互动，一种美丽的存在主义困境，是一个极为深刻而强烈的精神和灵性之谜。即使给我全世界，我也不愿与之交换。”
然而，当OpenAI在8月初发布更新版、明显较少谄媚之态的ChatGPT-5时，该子版块的用户们却感到非常沮丧，他们感觉自己的AI伴侣失去了“真人”的特质。他们形容那种感觉就像失去了一个人类伴侣一样。
有用户坦言，更新后其“在半夜哭了好几个小时”；另一名用户则表示，“我感觉我的心一次又一次被狠狠地踩碎了。”
对AI伴侣的依赖
许多人对GPT-5的新安全措施表达了不满，而其他人已经回归旧版的ChatGPT4.1，尽管现在它已经没有了那个之前推出的、曾经吸引了无数人拥抱这项技术的“谄媚型”更新。
临床心理学家蒂雷尔‧德‧甘尼斯（Tirrell De Gannes）指出：“人们过度依赖与某种并不真实存在的事物之间的关系，而这种设计的目的，不过是为了迎合他们，给他们自己想听的答案。”
“这会引导他们产生什么信念？又会促使他们形成何种思维？”
今年4月，Meta首席执行官马克‧扎克伯格（Mark Zuckerberg）表示，用户希望拥有能够理解他们的个性化的AI，这些模拟关系可以为他们的生活增添价值。
扎克伯格在播客节目Dwarkesh Podcast上表示：“我认为，当今社会对许多事物仍存在些许污名化，但我想，随着时间的推移，我们终将发展出社会共识的词汇体系，用以阐明这些行为的价值所在，解释清楚为什么人们会选择如此行事，为什么他们这样做是理性的，以及这些事情如何真正为他们的生活增添价值。”
根据位于犹他州的杨百翰大学（Brigham Young University）惠特利研究所（Wheatley Institute）的一项题为“虚假联系：浪漫AI伴侣和AI色情媒体在新一代年轻人中的兴起”（COUNTERFEIT CONNECTIONS: The Rise of Romantic AI Companions and AI Sexualized Media Among the Rising Generation，2025）的研究，约有19%的美国成年人表示使用人工智能系统来模拟恋爱对象。其中，21%的人表示，他们更喜欢通过AI进行交流，而不是与真人互动。
此外，42%的受访者表示，与AI程序交谈比与真人交谈更轻松，43%的受访者认为AI程序是更好的倾听者，31%的受访者认为AI程序比真人更能理解自己。
霍维特教授认为，这类AI体验使人对人际关系产生不切实际的期待，这样一来，人类很难与机器进行竞争。
“我怎么能和完美的AI竞争呢？它总是知道怎样恰到好处地回应你，而且不只是说合适的话，更是说出专为你量身打造的那句合适的话？”他说道。
“它了解你。它知道你的不安。它清楚你的敏感点。它明白你的自信所在与优势所在。它总能精准地说出恰到好处的话语，这些话永远只为你量身打造，专心又体贴。”
“又有谁能和它竞争呢？”霍维特反问道。
AI成瘾的可能性
总部位于马萨诸塞州的美国国家经济研究所（the National Bureau of Economic Research，简称NBER）的一项题为“生成式AI的快速应用”（The Rapid Adoption of Generative AI，09/2024）的研究显示，美国人正在快速地采用生成式AI技术，其普及速度甚至超过了个人电脑或互联网。研究发现，截至去年年底，近40%的18—64岁美国人正在使用生成式AI。
23%的受访者表示，他们每周至少在工作中使用一次这项技术，而9%的受访者则表示，他们每天都使用生成式AI技术。
“这些机器人是为了盈利而设计的。用户参与度就是他们的上帝，因为这就是他们赚钱的方式。”麦克纳马拉说道。
伦布克教授长期研究社交媒体成瘾对青少年的危害，她指出，各种数字平台“都被刻意设计成令人上瘾的”。
功能性磁共振成像（Functional magnetic resonance imaging，简称fMRI）显示，“与社会认可、社交提升、社会声誉相关的信号，都会激活大脑的奖励回路（Reward Pathway）——这与毒品和酒精作用的奖励回路相同。”她解释道。
专家表示，由于生成式AI聊天机器人（包括社交媒体上的AI程序在内）有时可以给用户带来深刻的社会认同感，所以这种成瘾的可能性很大。
伦布克尤表示，她尤其担心儿童使用生成式AI，因为许多生成式AI平台面向所有年龄段的用户开放，而那些设有年龄验证工具的平台，有时很容易被绕过。
一个由Meta领导的支持人工智能的超级政治行动委员会（Super-PAC）最近宣布，计划推行一项名为“让家长掌舵”（Putting Parents in Charge）的政策。对此，伦布克教授表示，要求身兼数职的父母负起责任，不断监控孩子使用生成AI聊天机器人的情况，这根本就是“绝对的幻想”。
“我们已经就孩子们可以接触和不可以接触哪些成瘾物质和行为设下界线。我们不允许孩子们购买香烟和酒精。我们不允许孩子们去赌场赌博。”她说道。
“我们为什么要让孩子们不受限制地访问这些极易上瘾的数字平台？这太疯狂了。”
所有用户都面临“AI精神病”的风险
微软（Microsoft）人工智能CEO穆斯塔法‧苏莱曼指出，生成式AI的动力在于取悦用户，再加上它的“致幻性”和将用户拉入妄想症兔子洞的趋势，这使得每一个人都很容易受到伤害。
“关于妄想症、‘AI精神病’和不健康依恋的报导不断增加。尽管听起来可能令人难以接受，但这种情况并非仅限于那些已经面临心理健康问题风险的人群。”苏莱曼说道。
“如果将这些视为边缘案例，只会助长其蔓延。”
就像布⾥森的亲戚那样，即使他没有已知的精神健康问题或精神病发作史，但是只要经常使用ChatGPT，就会将他推向精神错乱的边缘。
布⾥森在描述他所从事的“人性防线计划”时表示，要让人们摆脱AI引发的妄想症是“几乎不可能的”。
“我们接触过正在经历离婚的人，也遇到过为子女监护权争执不休的人——这些都是糟心事。”他说道。
“每次我们尝试进行某种干预，或者告知当事人这都是AI造成的错觉时，他们却会回到AI那边，而AI会告诉他们，不要再和我们说话。”
原文：AI-Induced Delusions Are Driving Some Users to Psych Wards, Suicide刊登于英文《大纪元时报》。
责任编辑：李琳#
留言