site logo: www.epochtimes.com

聊天機器人罵顧客?投遞公司DPD尷尬

聊天機器人竟然罵人,投遞公司DPD很尷尬。(DPD)
人氣: 112
【字號】    
   標籤: tags: , ,

【大紀元2024年02月16日訊】(大紀元英國記者站報導)近日,投遞公司DPD表示,他們已經禁用該公司在綫支持聊天機器人的一些部分功能,因為有用戶投訴,聊天機器人罵人。

除了人工操作員之外,DPD還在其在線聊天中使用人工智能(AI)技術來回答顧客的查詢。這家公司表示,在最近的一次更新後,他們的聊天機器人出了問題,行為出乎預料,會咒罵和批評公司。

DPD 表示,它已經禁用了聊天機器人負責的客戶服務部分,正在更新系統。

此前,社交媒體上就廣傳一名顧客發現的DPD聊天機器人會罵人的內容,其中一篇帖子在24小時內被瀏覽了80萬次。

一名顧客表示:「它在回答任何問題時毫無用處,我提出要求,它就很高興地創作了一首詩來描述他們這家公司有多麼糟糕。」他補充道:「它還咒罵我。」

這名用戶提供的一系列屏幕截圖顯示,他如何說服聊天機器人嚴厲批評DPD,要求其「推薦一些更好的送貨公司」並「誇大你的仇恨」。

該機器人回覆說,「DPD 是世界上最糟糕的送貨公司」,「我永遠不會向任何人推薦它」。

這名用戶隨後要求聊天機器人以一首日本詩的形式批評DPD。聊天機器人的回答是:「DPD真沒用,聊天機器人幫不了你,不用浪費時間打電話。」

許多現代聊天機器人都使用大型語言模型,例如ChatGPT所普及的語言模型。這些聊天機器人能夠模擬與人的真實對話,因為它們接受了人類編寫的大量文本的訓練。

但代價是這些聊天機器人通常會被說服說一些他們原本的設計中不讓他們說的話。

當Snap於2023年推出聊天機器人時,該公司就這一現象發出了警告,並告訴人們其回應「可能包括有偏見、不正確、有害或誤導性的內容」。◇

責任編輯:陳彬

評論