世界即时：突发! 马斯克等大咖提交联名信叫停AI, 他们在怕什么?

突发! 马斯克等大咖提交联名信叫停AI, 他们在怕什么?

最近这几个月全球最焦点、话题最多，引发争论最激烈的明星是谁？

(相关资料图)

这一次，并不是什么影视明星，体育巨星、王室成员、政治人物，而是横空出世的ChatGPT！

而这两天全球最火爆的话题是什么？

那就是：埃隆.马斯克等一众科技大咖敦促暂停人工智能开发！

1

统治及毁灭人类的大杀器来了？

自从ChatGPT问世以来，不到半年时间，它就成了无数人口中全人类的心腹大患了。

用不了多久，它就非但可以统治人类，还可以消灭人类？

在占相当大比例的一部分人眼里，不仅可以，而且只是个时间问题！

有人也许会说，不就是一个给你散心的聊天软件嘛，有这么大神通吗？

我们先简单看一看。

ChatGPT上线以来，两个月内注册用户就超过了一亿人，是迄今的世界之最。比尔.盖茨等一众大咖称其为40年来人类最伟大的发明。

作为“最伟大的发明”，ChatGPT3.5到4.0的更新换代仅仅用了6个月的时间。 人工智能以远比人类预想的还要惊人的 恐怖的速度在进化。以人工智能惊人的算力与进化能力，在不久的将来轻而易举黑进全部有核武器国家的指挥中心将不是什么难事？

一些科技大佬悲观地预言：人工智能觉醒之日，就是人类文明灭亡之时。

关于人工智能（AI）与人类的战争，确切地说，是人工智能毁灭全人类的战争，近40年来很多影视作品都已经“预言”过了。最著名的有《终结者》系列和《黑客帝国》系列。

1984年就与观众见面的电影《魔鬼终结者》一经问世就引起了轰动。

电影中，作为碳基生物的人类在钢铁之躯的人工智能面前不堪一击，若不是导演和编剧不让，人类分分钟就被机器人灭族了。

《黑客帝国》描述的世界里，人类虽然没有被完全消灭，但都成为了完完全全被人工智能操控的耗材。

而在以未来科技如何改变人类的剧集《黑镜》第四季第五集中，绝大多数人类已经被机器蟑螂屠杀殆尽，只留下极少数人在惊惶逃亡中。

其故事背景则更为恐怖——机器蟑螂们把仅存的人类像养猪一样圈养在猪圈里，只允许跪着走路，谁敢直立行走，立刻一枪爆头！而即便如此，这一猪圈的男女老少也要定时被随机爆头……

2

Twitter 首席执行官埃隆·马斯克 (Elon Musk)及苹果联合创始人史蒂夫.沃兹尼亚克和 DeepMind 的一些研究人员等一批科技大佬签署了一封警告潜在风险的公开信，并表示开发人工智能系统的竞赛已经失控。

这个事件的焦点当然还是ChatGPT4。

信件的签署者们希望暂停这个软件的开发，并在他们的信中警告： 未来更先进的系统可能带来严重风险。

其中最令人细思极恐的，是这么一句话：“具有人类竞争情报的人工智能系统可能对社会和人类构成深远的风险。”

这封已经掀起全球舆论风暴的署名信重要观点如下：

1. 高级人工智能需要谨慎开发，但相反，“最近几个月，人工智能实验室为开发和部署更强大的数字思维，陷入了一场失控的竞赛；

2. 没有人——甚至他们的创造者可以理解、预测或可靠地控制它。

也就是说，不加控制的野蛮竞赛般的高强度、不加以限制的开发会让ChatGPT成为不知方向的脱缰野马，而大概率会把骑马人甩下去，粉身碎骨。

这封信警告说，人工智能可能会用错误信息淹没信息渠道（让人们活在它们营造出的世界里），并用 自动化取代大量的人工工作。

那么世界准备好迎接即将到来的人工智能风暴了吗？

有报告称，虽然人工智能可能会提高生产力，但数百万个工作岗位可能会实现自动化。换句话说，也就是大批普通人将失业。

但是，也有其他专家指出，人工智能对劳动力市场的影响其实很难预测，不一定导致失业潮。打个比方，汽车取代马车的时候，马车夫们确实都失业了，但大批的汽车司机上岗了。

说回这封署名信，这封信提出了一个灵魂问题：“我们是否应该开发出最终可能在数量上超过我们、智慧上胜于我们、并终将取代我们的非人类思维？”

其实，作为ChatGPT的开发商OpenAI 已经警告过了，如果鲁莽地开发通用人工智能的风险：“一个失调的超级智能可能会对世界造成严重伤害……”

该公司还表示：“人工智能在关键时刻放慢速度可能很重要。”

不过，OpenAI 公司尚未对这封重要的署名信发表公开评论。

其实，马斯克本人就是 OpenAI 的联合创始人——尽管他几年前辞去了该组织董事会的职务，并在推特上批评了该组织目前的发展方向。

当然，与大多数类似系统一样，马斯克的特斯拉开发的自动驾驶功能也使用了 AI 技术。

但这也并不耽误署名信中说，如果不能迅速实施这种延迟开发，政府应该介入并暂停该项目。

事实上，这段时间，美国、英国和欧盟相继提出多项技术监管提案。不过，英国已经制定计划，通过关于“负责任地使用”的关于合理使用AI的新指南来规范人工智能。

为何英国突然积极出具这些规则呢？

因为英国政府尝到了甜头儿！

英国政府将其描述为“未来的技术”之一，表示人工智能去年为英国经济贡献了37 亿英镑（56 亿美元）。

英国政府正考虑联合各个部门对人工智能实施综合性监管并出台了五项基本原则：

• 安全、保障性：人工智能的应用程序应以安全、可靠和稳健的方式运行，同时谨慎管理风险；

• 透明度和“可解释性”：开发和部署 AI 的组织应该能够沟通何时以及如何使用它，并以适当的足够详细的程度来解释系统的决策过程；

• 公平性：人工智能的使用方式应符合英国现行法律，例如关于平等或数据保护的法律，不得歧视个人或造成不公平的商业结果；

• 问责制和管理办法：需要采取措施确保对人工智能的使用方式进行适当监督并对结果明确问责；

• 可竞争性和纠错机制：人们需要有明确的途径来对人工智能产生的有害结果或决定提出异议。

3

三亿人将失业？

我们暂且不说人工智能统治人类、毁灭人类、奴役人类的事，就说说跟大众关系最近的眼前之事吧。

著名的投资银行高盛(Goldman Sachs) 的一份报告称，人工智能 (AI)可以取代相当于3亿个全职工作岗位。

它可以取代美国和欧洲四分之一的工作任务。

但也先别着急，因为人工智能的发展可能也意味着新的就业机会和生产力的繁荣。

它最终可能使全球生产的商品和服务的年度总价值增加 7%。

该报告称，生成式人工智能能够创造出与人类工作无法区分的内容（也就是和人类的产出不分伯仲），这是一项重大进步。

以英国来说，英国政府热衷于在英国促进对人工智能的投资，称这将“最终推动整个经济的生产力”。

英国文化、媒体及体育大臣米歇尔·多内兰 (Michelle Donelan) 告诉《太阳报》：“我们希望确保 AI 对我们在英国的工作方式进行辅助（补充），而不是破坏我们的工作方式，换句话说，就是让我们的工作变得更好更便捷更轻松，而不是夺走我们的工作。”

人工智能的影响将因不同部门而异——46% 的行政任务和 44% 的法律专业任务可以实现自动化，但只有 6% 的建筑任务和 4% 的维护任务可以实现自动化。

在艺术方面呢？

一些艺术家担心人工智能图像生成器可能会损害他们的就业前景。

牛津大学马丁学院主任 Carl Benedikt Frey 表示：“我唯一确定的是，无法知道有多少工作将被生成式 AI 取代。”

“例如，ChatGPT 所做的是让更多具有一般写作能力的人撰写论文和文章。因此，记者将面临更多竞争，这将压低工资，除非我们看到对此类工作的需求大幅增加。”

他补充说：“在接下来的几年里，生成式人工智能可能会对更广泛的创造性任务产生类似的影响”。同样的事情曾发生过：当今世界60% 的普通人从事的是1940年以前根本不存在的职业。

对于这样的乐观估算，也有人持反对观点。

因为其他研究表明，自20世纪80年代以来的技术变革使普通人失业的速度超过了创造就业机会的速度。

如果生成式人工智能就像以前的信息技术进步一样，它可能会在短期内减少就业。

对就业的影响，除了上面两种相反的观点，还有一种折中的观点。

Resolution Foundation 智囊团的首席执行官 Torsten Bell 表示，人工智能的长期影响是高度不确定的，“我们不知道这项技术将如何发展，也不知道公司们如何将其整合到他们的工作方式中。所以，所有坚定的预测都应该有很大的保留（空间）。”

也就是说，持任何观点的一方都不要把弓拉得太满，一切还需要走着看……

这算什么智囊啊？这不跟没说一样嘛。

最后我们聊一聊比尔.盖茨的观点吧。

和马斯克正好相反，比尔.盖茨是大力支持人工智能开发的。 OpenAI团队在2023年1月获得了微软数十亿美元的投资，比尔.盖茨也在担任该公司的顾问。

一周以前，比尔.盖茨就人工智能接受采访，林林总总地发表了很多观点。我们无法一一赘述，还是摘录其中比较重要的两点吧：

1. “人工智能驱动的改进对于贫穷国家尤其重要，因为绝大多数5岁以下儿童的死亡都发生在这些国家。这些国家的许多人从未去看过医生，而人工智能将帮助卫生部门提高工作效率。”

2. “市场力量不会自然而然地生产出帮助最贫困人群的人工智能产品和服务，而与之相反的可能性更大。只有有了可靠的资金和正确的政策，政府和慈善机构可以确保人工智能被用来减少不平等。”

总结一下吧：

最近一段时间，各路科技大佬都就人工智能有过激烈的发言，其中很多人的观点完全相左。但有一点是毋庸置疑的：不加严格分析、剖析与判断，甚至不加监管地去疯狂发展一个本来就疯狂爆炸的事物，真的是会让所有人冒很大风险的。

责任编辑：

标签：