马斯克等千人联名呼吁暂停研发更强大的AI 人工智能专家:一些说法“精神错乱”

来源:5G通信网时间:2023-04-04 08:21:53


(资料图片)

北京时间4月3日上午消息,据报道,四名人工智能专家的研究结果被一封公开信引用,公开信获得埃隆·马斯克联合签名并要求紧急暂停研究人工智能,专家们对此表示担忧。

截至当地时间上周五,这封日期为3月22日的公开信已获得超过1800个签名。信中呼吁,在开发比微软支持的人工智能研究公司OpenAI新GPT-4“更强大”的系统过程应中断6个月时间。GPT-4可以进行类似人类的对话、作曲并总结冗长的文件。

自从GPT-4的前身ChatGPT于去年发布以来,竞争对手也竞相推出类似产品。

公开信中说,具有“人类竞争智能”的人工智能系统对人类具有深远的风险,信中引用了专家的12项的研究结果,这些专家包括大学学者,以及OpenAI、谷歌及其子公司DeepMind的现任和前任员工。

此后,美国和欧盟的民间社会团体一直向立法者施压,要求约束OpenAI的研究。OpenAI没有立即回应记者的置评请求。

公开信由未来生命研究所发出,而该研究所主要马斯克基金会资助。批评人士指责研究所优先考虑想象中的世界末日场景,而忽略人工智能带来的更紧迫的担忧,比如编程到机器中的种族主义或性别歧视偏见。

信中引用的研究包括玛格丽特·米歇尔(Margaret Mitchell)合著的著名论文《论随机鹦鹉的危险》。她本人曾在谷歌负责人工智能伦理研究,现在是人工智能公司Hugging Face的首席伦理科学家。

但米歇尔本人批评了这封信,并表示目前还不清楚什么东西“比GPT4更强大”。“这封信将许多值得商榷的想法视为假定事实,信中提出了一系列有利于未来生命研究所支持者的人工智能优先事项和叙述”, 她说,“现在,我们没有特权忽视主动伤害。”

米歇尔的合著者蒂姆尼特·格布鲁(Timnit Gebru)和艾米丽·M·本德(Emily M. Bender)也在Twitter上批评了这封信,后者称信中一些说法“精神错乱”。

未来生命研究所总裁迈克斯·泰格马克(Max Tegmark)则表示,这一举动并不是为了试图阻碍OpenAI的企业优势。

“这太搞笑了。我看到有人说,‘埃隆·马斯克正试图减缓竞争,’”他说,并补充表示,马斯克没有参与起草这封信。“这件事关乎的不是一家公司。”

目前的风险

康涅狄格大学的助理教授施里·多里-哈科恩(Shiri Dori-Hacohen)也对信中提到她的研究提出了异议。去年她与他人合著了一篇研究论文,论文认为人工智能的广泛使用已经带来了严重的风险。

她的研究认为,今时今日人工智能系统的应用可能会对气候变化、核战争和其他威胁生存相关的决策产生影响。

她表示:“人工智能不需要达到人类水平就会加剧这些风险。”

“有些非生存风险也真的非常非常重要,但这些风险没有得到高度重视。”

当被问及如何评论这些批评意见时,未来生命研究所总裁泰格马克表示,应该认真对待人工智能的短期和长期风险。

“如果我们引用某人的话语,这只是意味着我们认为他们赞同这句话。这并不意味着他们认可这封信,或者我们认可他们的所有想法,”他说。

公开信中引用的另一个专家是总部位于加州的人工智能安全中心主任丹·亨德里克斯(Dan Hendrycks)。他支持信中内容,并表示,考虑黑天鹅事件是明智的。黑天鹅事件是指那些看起来不太可能发生,但会产生毁灭性后果的事件。

公开信还警告称,生成式人工智能工具可能被用来在互联网上充斥“宣传和谎言”。

多里-哈科恩表示,马斯克签署这份公开信“相当富有”,他援引民间社团组织Common Cause等机构记录的消息称,在马斯克收购Twitter平台后,Twitter上的错误信息有所增加。

Twitter将很快推出针对访问其研究数据的一种新的收费架构,这可能会阻碍对该主题的研究。

“这直接影响了我的实验室工作,以及其他研究错误和虚假信息的人的工作,” 多里-哈科恩说。“我们受到了束缚。”

马斯克和Twitter没有立即回应置评请求。

关键词:

相关阅读

推荐阅读

马斯克等千人联名呼吁暂停研发更强大的AI 人工智能专家:一些说法“精神错乱”

马斯克等千人联名呼吁暂停研发更强大的AI 人工智

北京时间4月3日上午消息,据报道,四名人工智能专家的研究结果被一封公开信引用,公开信获得埃隆·马斯克联合签名并要求紧急暂停研究人工智能更多

2023-04-04 08:21:53
广东移动全球通“谁是冠军”掼蛋电竞大赛开掼在即,广邀全省精英牌技对垒

广东移动全球通“谁是冠军”掼蛋电竞大赛开掼在即

广东移动全球通“谁是冠军”掼蛋电竞大赛由广东移动主办,咪咕承办,依托咪咕掼蛋产品,在全省范围内开展全民电竞赛事活动。以广州为轴心城市联动更多

2023-04-03 18:02:21
世界观天下!【中国联通积极推进成渝地区双城经济圈建设】系列报道之五:拥抱数字经济新蓝海 让5G应用“扬帆起航”

世界观天下!【中国联通积极推进成渝地区双城经济

几秒钟、几分钟可以做些什么?是浏览一则新闻资讯,还是观看一个短视频,亦或是阅读一篇深度文章。但是,在5G技术的加持下,几秒钟可以完成一更多

2023-04-03 17:15:13
当前热点-中国移动打造“AI内容智创”品牌,让内容更百变

当前热点-中国移动打造“AI内容智创”品牌,让内

2023年4月,中国移动智慧家庭运营中心(简称“智家中心”)联合江苏移动正式推出中国移动“AI内容智创”品牌。基于AIGC能力创新破解了大屏内容更多

2023-04-03 15:05:34
今日热议:山西联通工业互联网赋能企业数字化转型应用成果受关注

今日热议:山西联通工业互联网赋能企业数字化转型

在3月25日举行的2023年全国工业互联网平台赋能深度行暨太原工业互联网发展大会上,山西联通工业互联网赋能企业数字化转型应用成果吸引了业界广更多

2023-04-03 14:24:57
头条焦点:四把“火”点燃生态合作新模式 中国移动视频彩铃“燚”计划重磅发布

头条焦点:四把“火”点燃生态合作新模式 中国移

5G视频彩铃商用进入第5年,其内容生态的持续繁荣,为产业合作伙伴带来增收新模式、发展新机会。最新数据显示,视频彩铃年产值规模已突破100亿更多

2023-04-03 12:14:29
当前视讯!讲好数字里的文化故事 中国移动咪咕携手合作伙伴共探新业态

当前视讯!讲好数字里的文化故事 中国移动咪咕携

3月31日,在第十届中国网络视听大会期间,由中国移动咪咕承办的“未来场景中的文体新视界——视听新科技赋能文体发展论坛”正式召开。来自中国更多

2023-04-03 11:23:01
ChatGPT对手Bard将大幅度升级

ChatGPT对手Bard将大幅度升级

自谷歌发布其“实验性对话AI服务”Bard以来,人们并没有对它留下深刻印象。与OpenAI的ChatGPT和微软的必应聊天(也由OpenAI的GPT-4提供支持更多

2023-04-03 09:01:19
+ 点击查看更多精彩
字节跳动计划投资“大量资金”开发VR领域
    据 Protocol 报道,字节跳动正在认真考虑进入虚拟现实(VR)领域...
任天堂Switch曝光:合作伙伴招聘新游戏机开发工程师
    据外媒报道称,任天堂即将推新一代Switch,其中一个最有力的证据...
途牛发布纳斯达克股价不合规通知函
    4月18日,在途牛收到纳斯达克股价不合规通知函后,途牛方面发布声...
一加新机现身:搭载天玑8100处理器,主打快充和游戏
    今天,一款型号显示为PGKM10的一加新机现身GeekBench,这款新机搭...
紫光国微:预计2022年第一季度净利润同比增长69.9%
    紫光国微发布公告称,预计2022年第一季度归属于上市公司股东的净...
斯坦福大学建造小型太阳能电池板原型
    日前,斯坦福大学的研究人员已经建造了一个小型太阳能电池板原型...
    资讯播报