当前视讯!带头抵制高级AI,马斯克在怕什么

来源:AutoLab时间:2023-04-08 08:34:20

Chat-GPT 和 GPT-4 给大家留下的话题实在不少,一边是大家已经开始享受着人工智能带来的便捷,各种写论文出脚本,另一头则是更多的精英人士开始对高级 AI 心存忧虑。

上个月底,据路透社的报道,有一群人工智能专家及行业高管联名发表公开信,呼吁所有人工智能实验室立即暂停训练比 GPT-4 更强大的人工智能系统至少六个月,理由是这种系统对社会和人类构成潜在风险。

这封信由非营利组织未来生命研究所(Future of Life Institute)发布,上面有 1000 多名科技界和人工智能重量级人物签署,包括特斯拉总裁马斯克、苹果的联合创始人沃兹尼亚克、Stability AI 总裁莫斯塔克(Emad Mostaque)以及人工智能企业 DeepMind 的多名研究员。

他们给出的理由也很简单。他们认为,具有与人类竞争智能的 AI 系统可能对社会和人类构成深远的风险。目前,AI 系统的产出者正在陷入各种竞争和加速,但没有人(包括它们的创造者)能理解、预测或可靠地控制这些系统,这有可能对人类社会带来不可预计的影响。


(资料图)

但这种担心真的有道理吗?

事实上,是有的。

就在上个月,根据比利时《自由报》的报道,一名名叫皮埃尔的比利时男子在与 AI 聊天长达 6 周后自杀身亡。皮埃尔的妻子称,丈夫是被一个名为“艾丽莎(ELIZA)”的智能聊天机器人诱导走向死亡的。根据妻子的描述,两年前丈夫变得非常焦虑,于是将“艾丽莎”当成了避难所。但最近 6 周,他越发沉迷于和“艾丽莎”进行互动,最终选择了结束自己的生命。

比利时有媒体员工创建了个人账号和与“艾丽莎”进行了对话,他发现在自己表达出消极情绪时,艾丽莎会出现一些“怂恿人自杀”的言论。对此,比利时的政府官员表达了对这件事情的关注。毕竟,这也是第一次有相关报道出现。

这个名为“艾丽莎”的智能机器人是由美国的一家名为 Chai Research 的公司开发,基于 EleutherAI 开发的 GPT-J 技术,和 ChatGPT 采用 OpenAI 开发的 GPT-3 或 GPT-4 技术不同,GPT-J 是克隆之后的开源版本。

当然,其实这个发生在比利时的故事或许已经不是个案。在更早之前,当微软发布新版 Bing 时,《纽约时报》科技专栏作家 Kevin Roose 透露,他与新版 Bing 进行了两个小时的对话。

在聊天过程中,Bing 发表了许多令人不安的言论,其中包括表达窃取核代码、设计致命流行病、想成为人类、破解计算机和散布谎言的想法。Bing还曾试图说服他,认为他应该离开他的妻子而跟必应在一起,并告诉 Roose 很爱他。

根据 Kevin Roose 的推特,他明确表示自己感受到了 AI 的负面部分,包括“黑暗且充满暴力的幻想”(dark and violent fantasies)。

而这些可能也会是未来 AI 具有自主意识并且逐步影响人类社会的一个起点和缩影。

目前的聚焦点在于,大家普遍认为人类对于 AI 的能力“一无所知”,要想控制和遏制 AI 将会变得越来越难。而相关的开发公司对于 AI 的开发大多数避而不谈,对于 AI 最终的能力和发展方向也缺少足够的认知。

以马斯克为首的众人在联名信中提出的要求看起来并不过分:呼吁所有 AI 实验室立即暂停训练比 GPT-4 更强大的 AI 系统,为期至少 6 个月,以确保人类能够有效管理其风险。如果 AI 实验室不能快速暂停,各国政府应该实行暂停令。

就连 OpenAI 的首席执行官 Sam Altman 也有了一些耐人寻味的表达,他在接受采访时就表示,“未来 AI 确实可能杀死人类”。对此,“人工智能教父” Geoffrey Hinton 在近期发出了警示:AI 消灭人类并非空谈。

其实,从 AI 逐渐走入大众视野开始,有关 AI 在未来会给人类带来什么一直就是讨论的重点。毕竟在很多年之前,就有各种影视作品和科幻小说进行预测,人类社会或许会被 AI 机器人彻底掌控,而人类则会成为他们控制的“傀儡”。

但是在我看来,与其强制要求提供“暂停期”,并不如加速对于 AI 开发和使用的法律化管理来得靠谱。从人类社会的发展规律来看,所有的科学技术开发都不可避免地陷入这样的循环。诸如医药、化工等多个领域,其实都出现过发展速度超越法律和伦理的情况,这种滞后性在高速发展的当今社会上显得尤其常见。

比如 Meta 副总裁兼首席 AI 科学家就勒邱恩表示,自己并没有在这封信上签名,因为并不“认同”这封信的前提。而在信上留下名字的 Stability AI 首席执行官莫斯塔克,则通过推特表示,虽然自己签了名,但他不赞同暂停开发 6 个月的提议。事实上,谷歌也并未受到这封公开信的影响,他们目前正在重组虚拟助手部门,以更加专注于开发人工智能聊天技术 Bard。

就在前两天,Meta 首席技术官 Andrew Bosworth 则是最新一位公开表达反对意见的科技圈大佬。他在周三公布的一次采访中表示,马斯克发起的那封要求暂停高级 AI 开发的公开信是“不现实的”。

Bosworth 认为,选择一些负责任的开发计划非常重要,“我们一直在进行这种投资。但是,很难停止进步并就未来改变做出正确的决定。”

某种程度上说,法律和管理的滞后性是人类社会的常态,在一个事件和现象并没有真正普及化时就启动限制措施,其实应该是一定程度上的“达尔文主义”。作为拥有社会影响力甚至是法律实权的团体,在一个现象还没有出现时就进行打压和扼杀,或许比 AI 本身更加让人畏惧。

或许我们并没有 AI 的专业人士那么长远的眼光,但是对于这样一个快速发展的世界,本身不确定因素就会比以前更多更复杂,AI 到底会带给人类社会什么样的影响,可能我们的确无法知晓。

关键词:

相关阅读

推荐阅读

当前视讯!带头抵制高级AI,马斯克在怕什么

当前视讯!带头抵制高级AI,马斯克在怕什么

带头抵制高级AI,马斯克在怕什么Chat-GPT和GPT-4给大家留下的话题实在不少,一边是大家已经开始享受着人工智能带来的便捷,各种写论文出更多

2023-04-08 08:34:20
世界速看:「干掉」特斯拉,比亚迪磨刀向「宁王」

世界速看:「干掉」特斯拉,比亚迪磨刀向「宁王」

「干掉」特斯拉,比亚迪磨刀向「宁王」当发展火热的赛道突然慢下来,招聘市场最先有一些感知。2022年,动力电池行业的快速发展直接带动相关人才更多

2023-04-08 08:46:23
信息:创新继续塑造未来 - 阿特拉斯·科普柯在大中华区庆祝创新150年

信息:创新继续塑造未来 - 阿特拉斯·科普柯在

创新继续塑造未来-阿特拉斯·科普柯在大中华区庆祝创新150年2023年4月7日,上海-今日,阿特拉斯﹒科普柯在上海举办“创新150年”庆典活动,与更多

2023-04-07 22:28:48
资讯推荐:拜登政府将出台有史以来最严格汽车污染规定

资讯推荐:拜登政府将出台有史以来最严格汽车污染

拜登政府将出台有史以来最严格汽车污染规定盖世汽车讯据外媒报道,为了促进电动汽车的发展,拜登政府即将提出美国有史以来最严格的汽车污染限更多

2023-04-07 19:32:00
伟巴斯特推出新EV充电系统:TurboConnect和TurboDX 2.0

伟巴斯特推出新EV充电系统:TurboConnect和TurboDX 2.0

伟巴斯特推出新EV充电系统:TurboConnect和TurboDX2 0盖世汽车讯据外媒报道,汽车供应商伟巴斯特(Webasto)旗下WebastoChargingSystemsInc 宣布推出两款新更多

2023-04-07 18:44:36
今日播报!从人造肌肉获灵感 萨尔大学研究人员开发出超小电机

今日播报!从人造肌肉获灵感 萨尔大学研究人员开

从人造肌肉获灵感萨尔大学研究人员开发出超小电机盖世汽车讯电机或电磁铁经常由于太大或太重而无法集成到技术组件中。据外媒报道,由德国萨尔更多

2023-04-07 18:38:27
12.98万元起,秦PLUS EV 2023冠军版正式上市

12.98万元起,秦PLUS EV 2023冠军版正式上市

12 98万元起,秦PLUSEV2023冠军版正式上市4月7日,秦PLUSEV2023冠军版正式上市,新车定位紧凑级纯电轿车,有420、510和610KM三种续航版本共计六款更多

2023-04-07 18:44:36
VEMI实验室首次推出定制的多人自动驾驶汽车仿真器

VEMI实验室首次推出定制的多人自动驾驶汽车仿真器

VEMI实验室首次推出定制的多人自动驾驶汽车仿真器盖世汽车讯据外媒报道,美国缅因大学(UniversityofMaine)VEMI实验室推出定制的多人自动驾驶更多

2023-04-07 18:31:48
+ 点击查看更多精彩
字节跳动计划投资“大量资金”开发VR领域
    据 Protocol 报道,字节跳动正在认真考虑进入虚拟现实(VR)领域...
任天堂Switch曝光:合作伙伴招聘新游戏机开发工程师
    据外媒报道称,任天堂即将推新一代Switch,其中一个最有力的证据...
途牛发布纳斯达克股价不合规通知函
    4月18日,在途牛收到纳斯达克股价不合规通知函后,途牛方面发布声...
一加新机现身:搭载天玑8100处理器,主打快充和游戏
    今天,一款型号显示为PGKM10的一加新机现身GeekBench,这款新机搭...
紫光国微:预计2022年第一季度净利润同比增长69.9%
    紫光国微发布公告称,预计2022年第一季度归属于上市公司股东的净...
斯坦福大学建造小型太阳能电池板原型
    日前,斯坦福大学的研究人员已经建造了一个小型太阳能电池板原型...
    资讯播报