【内幕】为什么现在就必须对AI进行监管?

人气 460

【大纪元2023年05月23日讯】(大纪元记者程雯综合报导)“我们和很多音乐家进行了交谈。他们担心使用人工智能(AI),那些AI会模仿他们的声音并使用他们歌曲的歌词,这些你可以在ChatGPT上得到”,美国国会共和党籍参议员玛莎‧布莱克本(Marsha Blackburn)说,“这意味着艺术家们赚不到钱了,AI剥夺了他们从他们的作品中获益的宪法权利”。

“它(AI)很有可能会让生活变得更好,我们会迎来一个富足的时代。它(AI)也有可能出错并毁灭人类。”美国科技奇才和科技巨富埃隆‧马斯克(Elon Musk)强调AI技术是一把“双刃剑”,并对AI的未来发展发出警告。

随着AI技术日益增长并渗透到人类日常生活的不同方面,不仅艺术家和内容创作者们对他们的知识产权产生越来越严重的担忧,而且人类的其它工作和就业机会也在面临其严重威胁。此外,AI衍生技术还导致前所未有的现象出现,如公司利用AI监控员工,罪犯利用AI进行诈骗等等。

AI对人类生存空间迅速而严重的冲击也已让美国国会议员们快速行动起来,以尽快制定立法限制AI发展,防止AI技术失控进而吞噬掉人类。

威胁到艺术家们的生计和其它工作机会

综合多方媒体报导,最近一段时间以来,新加坡籍华语乐坛著名女歌手孙燕姿的AI翻版在中国大陆的影音平台上火爆起来,“AI孙燕姿”翻唱歌曲时的音色仿真到“连换气声都能清晰听到,咬字尾音都非常像本人”的完美程度,这已引起人们对歌曲版权的关注。

这种现象在国际上已经不是个例,在美国也已成为国会关注的严重问题之一,来自田纳西州的布莱克本参议员5月16日在参议院司法小组委员会的第一场AI听证会上提出了这些问题,当时两党立法者们都向OpenAI的首席执行官山姆‧阿特曼(Sam Altman)就AI领域的快速发展提出了质疑。

布莱克本向阿特曼问道:“你能否承诺,就像你对消费者数据所做的那样,不在艺术家和词曲作者的版权作品上训练人工智能模型,或者不在未事先征得他们同意的情况下使用他们的声音和类似东西?”

阿特曼没有直接回答布莱克本参议员,而是淡化了OpenAI的自动点唱机Jukebox应用程序的影响力,这个应用程序使用AI来生成音乐。他说:“自动点唱机没有得到太多关注或使用。它只是为了展示什么是可能的。”

同时,阿特曼也表示考虑到这种全新的AI经济模式如何发展,他说:“我们认为内容创作者、内容所有者需要从这项技术中受益。这种经济模式到底是什么,我们仍在与艺术家和内容所有者们讨论他们想要什么。我认为有很多方法可以实现这一点。但是,很明显,无论法律是什么,做正确的事是为了确保人们从这项新技术中获得显著的好处。”

听证会后,布莱克本向福克斯新闻数字频道(Fox News Digital)表示,她对阿特曼的回答不满意。她说:“我认为他(阿特曼)表明他知道这些担忧,但是他没有答案,这将意味着国会需要介入并查看类似的情况。”

不只是艺术行业,人类的其它工作和就业机会也受到了威胁。IBM(国际商业机器公司)在5月1日透露,该公司将暂停招聘,因为未来几年大约7,800个工作岗位可能会被AI取代。

IBM首席执行官阿尔温德‧克里希纳(Arvind Krishna)告诉彭博社,公司人力资源等后台职能部门的人员招聘将被暂停或放缓,还有30%的非面向客户的工作角色可能会在五年内被AI和自动化所取代。

这个消息一公布,IBM的股票应声下跌,不过到5月11日跌至每股120.90美元的低点后又开始回升,到5月22日时已经回升到128.11美元,甚至还高于了5月1日的126.09美元,这似乎显示了市场对AI的无奈和复杂心情。

引发新型的诈骗和作弊手段 影响人类互信

来自康涅狄格州的民主党参议员理查德‧布卢门撒尔(Richard Blumenthal)在16日的听证会开始时,让AI生成的他的声音朗读他的部分开场白,这个实例让人鲜明地认识到AI仿声到了真假难辨的地步及其潜在风险。

参议院老龄问题特别委员会共和党参议员、印第安纳州的迈克‧布劳恩(Mike Braun)5月18日带头向联邦贸易委员会(FTC)发出两党联名信,要求FTC更新对AI诈骗的了解和对老年人的保护。

这封由该参议院委员会的所有两党成员签署的信函向FTC主席丽娜‧汉(Lina Khan)警告说,语音克隆和聊天机器人ChatGPT让诈骗者可以欺骗老年人,让老年人相信他们正在与自己的亲戚或密友交谈,这使他们很容易被骗失财。

在接受福克斯新闻数字频道采访时,布劳恩说,“冒名顶替”诈骗每年造成约26亿美元的损失,他表示,由于诈骗者可以使用AI语音克隆技术,这让老年人尤其容易受到威胁。

他说:“当你可以复制一个声音到我无法分辨那是参议员布卢门撒尔还是复制品的程度时——听起来和他一模一样——想像一下,这是骗子们从未有过的工具。”

苹果公司5月16日宣布,苹果iPhone很快就能用用户的声音说话。新的iPhone功能“Personal Voice”将为用户提供随机文本提示,以生成15分钟的音频。另一项功能“Live Speech”将允许用户保存常用短语,以便让手机在通话和面对面交谈时可以用用户的声音说话。预计“Personal Voice”将在今年年底前发布。已有批评人士表示,这可能会助长声音造假,在未来构成安全和隐私威胁。

不只是声音,AI技术对人类的其它行为的模仿也达到了以假乱真的地步。2022年9月,一位39岁的游戏设计师杰森‧艾伦(Jason M. Allen)通过在AI平台Midjourney上生成的一幅画《太空歌剧院》(Théâtre d’Opéra Spatial)参加科罗拉多州博览会的年度美术比赛,打败了真人画家的画作而赢得“数字艺术/数字操纵摄影”竞赛单元的大奖。这是AI生成图像首次获得人类艺术奖项。

艾伦被真人艺术家们强烈指责作弊,但是奖项评委们则表示,如果他们事前知道这是AI图像,他们也会授予艾伦最高奖项。

德州农工大学(Texas A&M University)商学院的一位教授贾里德‧穆姆(Jared Mumm)5月15日在本学期即将结束时,在给他的班级学生们发出的一封邮件中说,他发现学生们使用了聊天机器人ChatGPT完成论文作业,他打算给这些学生不及格。这引发了学生的抗议,并造成师生之间的不信任争议。

该大学后来不得不发声明表示,他们正在“制定政策来解决在课堂上使用或滥用AI技术的问题。”

好莱坞著名演员批评 六成美国人认为将威胁人类未来

美国好莱坞著名演员西恩‧佩恩(Sean Penn)5月19日在戛纳电影节上发表讲话时强烈支持好莱坞编剧大罢工,他狠批AI是“对人类的亵渎”。

美联社报导说,佩恩是在他的新片《黑蝇》(Black Flies)的新闻发布会上谈到了美国作家协会(WGA)正在进行的大罢工。这部新片由导演让-斯蒂芬‧萨瓦尔(Jean-Stéphane Sauvaire)执导,讲述了纽约急救人员的悲惨故事。当被问及WGA大罢工时,佩恩说:“很长一段时间以来,这个行业一直在颠覆编剧、演员和导演。”

“有很多新概念被抛出,包括AI的使用。我觉得这是一种对人类的亵渎,制片人需对此提出反对。”佩恩本人也是一名资深编剧兼导演。

5月2日,美国电影和电视编剧在与美国电影和电视制作人联盟(AMPTP)的谈判破裂后开始大罢工。WGA在为编剧们在寻求更高的薪酬、流媒体时代的新合同,以及防止使用AI剧本的保护措施。(见早期报导《【内幕】好莱坞编剧大罢工 美国娱乐业或遇拐点》)

与此同时,根据5月17日发布一项最新的路透社/益普索(Reuters/Ipsos)民调发现,大约十分之六的美国人将AI视为对人类文明的威胁。

该民调显示,61%的美国人认为AI是对人类未来的威胁,只有约22%的人表示不同意,另有17%的人表示不确定。

那些在2020年投票给前总统川普的选民更担心AI的威胁,大约70%的川普选民同意人工智能可能会威胁人类,拜登总统的选民中也有60%同意这个观点。

可用于公司密切监视员工的行踪 可能造成违法

负责在工作场所执行公民权利的美国机构负责人表示,AI技术驱动的“老板软件”(bossware)工具密切跟踪员工的行踪和工作效率,甚至敲击键盘的记录,这可能违反歧视法。

美国平等就业机会委员会(EEOC)在5月18日发布了最新的一套指南,内容涉及在雇用或晋升等就业决策中如何使用自动化系统。该指南特别解释了1964年《民权法案》(Civil Rights Act)的一项关键条款,即第七章,该条款禁止基于种族、肤色、国籍、宗教或性别的工作歧视。

EEOC主席夏洛特‧伯罗斯(Charlotte Burrows)告诉美联社,该联邦机构正在努力教育雇主和技术提供商,让他们了解如何使用这些监控工具以及如何使用简化评估就业前景工作的AI工具。

“在必要时,我并不羞于使用我们的执法权力。我们想与雇主合作,但民权法肯定不能豁免,因为你可能以某种高科技方式实施了歧视。”伯罗斯说。

EEOC的大部分工作涉及调查认为自己受到歧视的员工提出的投诉。虽然求职者很难知道有偏见的招聘工具是否会导致他们被剥夺工作机会,但伯罗斯表示,员工们“普遍更加了解了”越来越多地用于监控他们生产力的工具。

这些AI工具的范围从用无线电射频设备跟踪护士,到监控仓库工人和送货司机每分钟都受到严格控制的时间表,再到跟踪计算机键盘敲击或鼠标点击,因为许多办公室员工在新冠病毒大瘟疫期间开始在家工作。有些监控可能会违反民权法,具体取决于它们的使用方式。

伯罗斯指出,国家劳资关系委员会(NLRB)也在研究此类AI工具。NLRB去年发出了一份备忘录,警告过度干预的监督和管理工具可能会损害员工们相互沟通的权利。

他说:“我认为最好的方法——我并不是说不要使用AI工具,它本身并不违法——而是真正思考雇主希望衡量的是什么,也许直接衡量,如果你想看看工作是否完成,或许只要检查工作是否完成就行了。”

马斯克等AI先驱也提出警告

作为OpenAI的联合创始人,以及太空火箭公司SpaceX和电动汽车公司特斯拉(Tesla)的首席执行官,埃隆‧马斯克是AI技术的最早支持者,但也是最早呼吁暂停AI开发的AI先驱者之一,他警告说AI可能会让“社会和人类”处于危险之中。

马斯克在5月16日接受CNBC采访时说:“它(AI)很有可能会让生活变得更好,我们将迎来一个富足的时代。它(AI)也有可能出错并毁灭人类。

“希望这种机会很小,但不会是零。我认为我们要采取我们能想到的任何行动来尽量减少AI出错的可能性。”

马斯克称AI技术是一把“双刃剑”,他还强调很难预测新的AI工具接下来会出什么事。

另一位领先的AI先驱杰弗里‧辛顿(Geoffrey Hinton)5月早些时候离开了Alphabet公司,并对他帮助创造的AI技术的危险性发出了警告。他警告说AI可能对人类构成生存威胁,“我们应该认真担心我们如何阻止这些事情,让其在我们面前得到控制”。

微软首席经济学家迈克尔‧施瓦茨(Michael Schwarz)警告说,AI很可能“被坏人利用”,并可能“造成真正的损害”。

AI技术发展是如此之快,OpenAI在5月18日向美国的iPhone和iPad推出了ChatGPT免费应用程序。据悉,上架不到12小时,ChatGPT的智能手机应用就已经冲到苹果应用商店免费下载排行榜第二的位置。该公司表示,这款免费应用程序还将很快在其它国家和安卓手机系统上推出。

不过,OpenAI首席执行官阿特曼在5月16日的国会听证会上向立法者们表示,他并不是要让人们越来越多地使用ChatGPT,因为在被称为“图形处理单元”(GPU)的计算机芯片上训练和运行其AI模型的成本很高,他说:“事实上,我们的GPU非常短缺,使用我们产品的人越少越好。”

阿特曼也承认AI可能会对人类就业产生“重大影响”,并承诺与政府其它行业一起合作,尽量降低这种风险。他说:“我最担心的是我们——这个领域、技术、行业——对世界造成重大伤害。我认为这可以通过很多不同的方式发生。

“我认为如果这项技术出现问题,它可能会大错特错,我们希望对此直言不讳。我们希望与政府合作,防止这种情况发生。”

国会议员:需立法加以规范

参议院多数党(民主党)领袖查克‧舒默(Chuck Schumer)表示,国会“必须迅速采取行动”来规范AI,他还召集了一个由两党参议员组成的小组来制定立法。

舒默说,该小组在5月17日举行了会议,他的工作人员已经会见了近100名与AI技术打交道的首席执行官、科学家和学者。

在5月18日的参议院开场白中,舒默说:“我们不能行动得过快,以至于让立法存在缺陷,但也没有时间浪费、拖延或坐视不管。我们必须快速行动。”

舒默认为,国会需要快速行动,因为AI技术进步是如此之快。他还对共产中国自身监管AI的努力表示了担忧,认为这是“给全美国敲响的警钟”。

他说:“如果负责任地加以利用,AI有能力为公众利益做很多事情。它可以在医学、商业、国家安全、科学和许多其它生活领域开启难以想像的奇迹。但如果任其发展,AI有能力造成巨大、巨大的伤害。”◇

责任编辑:李琳#

相关新闻
【财经非常道】川普胜选带飞特斯拉 空头亏大了
美国10月通胀2.6% 符合预期
金价下跌至近2个月低点 现在还能投资吗
1099-DA表格上路 会计师解读IRS加密币新规
如果您有新闻线索或资料给大纪元,请进入安全投稿爆料平台
评论