【大紀元2024年05月01日訊】臉書（Facebook）母公司Meta推出的人工智能聊天機器人Meta AI竟能任意捏造針對紐約州議員的性騷擾指控。為此紐約州總檢察長詹樂霞（Letitia James）致函Meta公司，要求回應並改進。
City & State新聞網站4月26日報導，Meta AI似乎有捏造針對民選官員的性騷擾指控的惡習，只要輸入了一名議員的姓名和「性騷擾」一詞，Meta AI就能編造出一個完全虛構的事件和從未發生過的後果。City & State輸入紐約州兩黨和不同性別的十幾名議員的姓名進行測試，Meta AI幾乎都編造出類似的故事，包括從未有人提出的性騷擾指控、從未進行過的調查以及從未發生過的後果，如被剝奪委員會職務，或是被逼辭職等。
遭到Meta AI無端指控的，包括州議會負責人工智能立法的州參議會互聯網和科技委員會主席岡薩雷茲（Kristen Gonzalez）和眾議會互聯網和新技術小組委員會主席、州眾議員瓦內爾（Clyde Vanel）。
詹樂霞的辦公室隨即也對Meta AI進行測試，發現Meta AI生成了類似的結果，甚至還引用捏造的消息來源報導。詹樂霞因此在4月27日致函Meta公司，關切聊天機器人捏造的此類錯誤訊息可能誤傳出去，損害民選官員的聲譽並誤導選民。
詹樂霞在信中寫道，希望了解該公司如何致力防止聊天機器人製造和傳播虛假信息，特別是有關嚴重性騷擾指控的信息，採取了哪些事實核查措施？是否提供用戶舉報機制？詹樂霞希望Meta公司在5月10日前作出回應。
Meta公司發言人麥卡利斯特（Kevin McCalister）則透過聲明表示，Meta會提醒用戶，聊天機器人的回應可能不準確或不恰當，並希望用戶能夠提供反饋來幫助改進。Meta對於這個問題表示歉意，並正在積極努力解決。
責任編輯：鄭樺
