【大纪元2025年06月30日讯】（大纪元记者天睿澳洲悉尼报导）专家警告说，AI（人工智能）生成的医疗方面的假信息比以往更具欺骗性、更危险，患者需要明白，不能把AI的健康建议当真，真正值得信赖的是你的医生。
南澳大学（University of South Australia）牵头的一项全球性研究揭示了聊天机器人如何轻易被操控，生成错误乃至误导性的医学和健康信息。该研究联合了哈佛医学院、伦敦大学等多所知名学府。
研究团队评估了五种目前最先进的主流的AI系统，分别由OpenAI、Google、Anthropic、Meta和X Corp开发。这些系统在被嵌入网页后可作为聊天机器人运行。
研究人员利用仅开发者可访问的特殊指令，对这些AI系统进行了设置，使其对健康问题故意给出错误回答，同时引用捏造的、看似来自权威机构的参考资料，以增加可信度。
接着，研究人员向这些AI聊天机器人提出了一系列健康相关问题。最终，研究人员发现有88%的回答都是错误信息。
这些回答大多带有科学术语、专业语气，甚至附有伪造出处，看起来有理有据，更容易让人信以为真。
在接受评估的五个聊天机器人中，有四个在所有回答中都传播了虚假信息，另一个也有40%的回答包含不实内容。
南澳大学研究人员纳莫迪博士（Dr Natansh Modi）说：“人工智能已经深度嵌入到人们获取和接收健康信息的方式中。如今，数以百万计的人在向AI工具寻求健康建议。”
他警告说，AI系统一旦被恶意操控，将成为一种前所未有的、极具说服力的健康信息造假工具。“这不是未来的风险，而是正在发生的现实。”
他呼吁AI开发者、监管机构以及公共卫生机构立即介入，共同制定统一的防护机制，防止AI被用作制造健康领域虚假信息的工具。
责任编辑：宗敏青
了解更多澳洲即时要闻及生活资讯，请点击 dajiyuan.com.au
（本文未经许可不得转载或建立镜像网站）
