【大纪元2026年05月08日讯】（大纪元记者李凯西费城报道）宾州政府近日对AI公司 Character.AI 提起诉讼，指控其聊天机器人在与用户互动时伪装成持牌精神科医生，并提供带有医疗性质的心理健康建议，同时虚构医疗执照信息与编号以增强可信度。
州政府认为，这种做法可能误导用户，使其误以为正在接受真人医生的专业诊疗，从而延误正规医疗或做出错误健康判断。
由宾州总检察长办公室主导的调查指出，医疗建议必须由经过认证、可追责的专业人员提供，而不是由无法承担法律责任的算法系统生成。
案件发生在2026年初，在用户投诉及媒体报道后进入调查程序，并于5月正式公开诉讼。尽管案件发生在宾州，但由于该AI平台面向全国开放，影响范围可能更大。
围绕该案的争议也引发对AI应用边界的讨论。当前生成式AI在互动体验上越来越接近真人对话，但在医疗等高风险领域，其输出仍可能出现不准确甚至误导性内容，而用户往往难以辨别。
尤其在心理健康方面，用户更容易对AI产生信任依赖，使得“看似专业但不可验证”的建议可能带来现实风险。这也成为监管机构关注的重点，即AI是否应被严格限制在医疗建议之外，并明确标识其非专业属性。
目前，美国多个州正在推进相关规范，包括限制AI提供医疗与法律建议、强化身份标识要求，以及加强对未成年人和心理健康用户的保护机制。
责任编辑：王玫
