AI难以驯服生成式人工智能挑战中共

图为人工智能概念图。（Shutterstock）

更新 2023-05-09 11:37 AM 人气 1667

【大纪元2023年05月05日讯】（大纪元记者吴馨综合报导）从计算机到互联网，再到生成式人工智能，中共担心的不是AI发展是否会危害到人类，而是担心这些工具是否会动摇中共的政权。所以中共用防火墙来让中国的互联网姓党，中共也要企图生成式AI姓党，但生成式机器人不是互联网，难以驯服，中共面临挑战。

4月11日，中共国家互联网信息办公室（CAC）公布了《生成式人工智能服务管理办法》（征求意见稿）（以下简称《办法》），其中规定：“利用生成式人工智能生成的内容应当体现社会主义核心价值观，不得含有颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情信息，虚假信息，以及可能扰乱经济秩序和社会秩序的内容。”

《经济学人》（The Economist）杂志近期发表文章认为，虽然中共的这些限制听起来很奇怪，但中共正是利用类似规则限制了中国的互联网，从而让中共得以压制一切不喜欢的言论。中共能让互联网姓党，但它也能让生成式人工智能姓党吗？

生成式人工智能非互联网

《经济学人》的文章认为，OpenAI公司于去年11月推出的ChatGPT，让一度遭受监管打压而销售低迷的中国科技公司再次看到希望，他们希望生成式人工智能能够创造巨大的新收入来源，类似于互联网或智能手机的出现曾带来的机遇。到4月中旬，中国的科技巨头已经推出了类似ChatGPT的中国产品，其中包括百度的“文心一言”，商汤科技的“商量”和阿里巴巴的“通义千问”。

ChatGPT是英文Chat Generative Pre-trained Transformer的缩写，中文的意思就是基于生成式预训练转换器聊天软件。在ChatGPT推出后，中国的科技巨头马不停蹄地推出类似的中文产品，中共也赶紧推出监管措施。那么生成式人工智能和计算机、互联网有什么根本的不同吗？

电子和计算机工程博士、自媒体《杰森视角》的主持人杰森博士在他的一期节目中介绍，他对于ChatGPT非常熟悉，他20年前的博士论文研究的就是机器学习（Machine Learning）。他表示ChatGPT最关键的就是转换器（Transformer），它是新一代人工智能模型共同的核心技术，是一个新型深度人工神经网络系统结构。

杰森博士介绍，2020年，OpenAI推出了深度人工神经网络模型GPT3，这是用4000亿个文章信息训练出来的一个复杂人工智能系统，仅参数就有1750亿个。他说：“人类至今无法理解人的大脑具体是如何工作的，而一般人的大脑平均有860亿个神经元，虽然人脑的神经元和人工智能系统的参数不是一个概念，但是，单从数量级上看，GPT3模型的复杂程度已经和人的大脑趋向一个数量级了。”

他表示，ChatGPT和传统计算机信息系统的概念非常不一样。传统的计算机系统，包括谷歌搜索，都是从存储的数据库中把数据原样取出，而不是形成新的数据。但ChatGPT的答案都是从它复杂的系统中临时生成出来的。他说：“所以，现代复杂的人工智能系统的本质决定，它不可能完全避免产生虚假信息。”

同样的，ChatGPT会如何回答被提出的问题，“就是能生成出什么，科学家也不知道。”

执行中共规定 AI发展将受阻

这种不可预测性，中共是不允许发生的。《经济学人》的文章也指出，难以想像一家中国公司在遵守中共政府规定的情况下，创造出像ChatGPT这样范围广泛且类似人类（即不可预测）的东西。

《经济学人》的文章认为，互联网出现后，西方世界一度以为互联网能帮助中国民主化。但是，中共建起了防火墙，进行网络审查，并围绕它培育了一个产业。人工智能在中国的发展会不会发生同样的事情？

杰森博士表示，中共的规定是一个巨大的科技难题。他介绍，即使用最新的GPT4训练半年，让它不要说中共认为的政治不正确的话，只要用一个叫破狱（jailbreak）的技巧，就能让它说出来。杰森博士说：“所以说，在我看来的话呢，这几乎就是中共给这些百度，阿里巴巴出了一个不可解的问题。就是基于现在这个生成式人工智能，这样的一个技术，你要完全让它都按党的意志说话，几乎是不可能的。”

《经济学人》的文章也指出，严格执行中共的规则几乎会阻止中国生成式人工智能的发展。

文章说，中国人工智能公司可能受阻的一种方式是限制可用于训练其人工智能模型的个人数据。中共管理着世界上最精密的大规模监控国家。去年，中共政府以非法收集和不当处理用户数据为由，对拼车公司滴滴出行处以相当于12亿美元的罚款。