site logo: www.epochtimes.com

聊天机器人骂顾客?投递公司DPD尴尬

聊天机器人竟然骂人,投递公司DPD很尴尬。(DPD)
人气: 112
【字号】    
   标签: tags: , ,

【大纪元2024年02月16日讯】(大纪元英国记者站报导)近日,投递公司DPD表示,他们已经禁用该公司在线支持聊天机器人的一些部分功能,因为有用户投诉,聊天机器人骂人。

除了人工操作员之外,DPD还在其在线聊天中使用人工智能(AI)技术来回答顾客的查询。这家公司表示,在最近的一次更新后,他们的聊天机器人出了问题,行为出乎预料,会咒骂和批评公司。

DPD 表示,它已经禁用了聊天机器人负责的客户服务部分,正在更新系统。

此前,社交媒体上就广传一名顾客发现的DPD聊天机器人会骂人的内容,其中一篇帖子在24小时内被浏览了80万次。

一名顾客表示:“它在回答任何问题时毫无用处,我提出要求,它就很高兴地创作了一首诗来描述他们这家公司有多么糟糕。”他补充道:“它还咒骂我。”

这名用户提供的一系列屏幕截图显示,他如何说服聊天机器人严厉批评DPD,要求其“推荐一些更好的送货公司”并“夸大你的仇恨”。

该机器人回复说,“DPD 是世界上最糟糕的送货公司”,“我永远不会向任何人推荐它”。

这名用户随后要求聊天机器人以一首日本诗的形式批评DPD。聊天机器人的回答是:“DPD真没用,聊天机器人帮不了你,不用浪费时间打电话。”

许多现代聊天机器人都使用大型语言模型,例如ChatGPT所普及的语言模型。这些聊天机器人能够模拟与人的真实对话,因为它们接受了人类编写的大量文本的训练。

但代价是这些聊天机器人通常会被说服说一些他们原本的设计中不让他们说的话。

当Snap于2023年推出聊天机器人时,该公司就这一现象发出了警告,并告诉人们其回应“可能包括有偏见、不正确、有害或误导性的内容”。◇

责任编辑:陈彬

评论