【大紀元2026年05月08日訊】（大紀元記者李凱西費城報道）賓州政府近日對AI公司 Character.AI 提起訴訟，指控其聊天機器人在與用戶互動時偽裝成持牌精神科醫生，並提供帶有醫療性質的心理健康建議，同時虛構醫療執照信息與編號以增強可信度。
州政府認為，這種做法可能誤導用戶，使其誤以為正在接受真人醫生的專業診療，從而延誤正規醫療或做出錯誤健康判斷。
由賓州總檢察長辦公室主導的調查指出，醫療建議必須由經過認證、可追責的專業人員提供，而不是由無法承擔法律責任的算法系統生成。
案件發生在2026年初，在用戶投訴及媒體報道後進入調查程序，並於5月正式公開訴訟。儘管案件發生在賓州，但由於該AI平台面向全國開放，影響範圍可能更大。
圍繞該案的爭議也引發對AI應用邊界的討論。當前生成式AI在互動體驗上越來越接近真人對話，但在醫療等高風險領域，其輸出仍可能出現不準確甚至誤導性內容，而用戶往往難以辨別。
尤其在心理健康方面，用戶更容易對AI產生信任依賴，使得「看似專業但不可驗證」的建議可能帶來現實風險。這也成為監管機構關注的重點，即AI是否應被嚴格限制在醫療建議之外，並明確標識其非專業屬性。
目前，美國多個州正在推進相關規範，包括限制AI提供醫療與法律建議、強化身分標識要求，以及加強對未成年人和心理健康用戶的保護機制。
責任編輯：王玫
