人工智能“宪法”出炉 初创公司发布AI道德价值观

来源:科创板日报时间:2023-05-10 06:05:26

财联社5月10日讯(编辑 牛占林)美东时间周二,谷歌支持的人工智能(AI)初创公司Anthropic公布了一套针对AI发展的书面道德价值观,该价值观主要适用于训练和保护人工智能。


(资料图片)

Anthropic成立于2021年,创始团队大都来自ChatGPT的开发商OpenAI,也有类似于ChatGPT的人工智能聊天机器人,其名为“Claude”,可以处理一系列较为复杂的任务。

Anthropic一直强调其旨在构建“可靠、可解释和可操纵的人工智能系统”,比如不会告诉用户如何制造武器,也不会使用带有种族偏见的语言。

这次公布的人工智能道德价值准则也被该公司称为“Claude宪法”,这些准则借鉴了几个来源,包括联合国人权宣言,甚至还有苹果公司的数据隐私规则。

上周四,谷歌、微软、OpenAI和Anthropic四家公司的首席执行官们受邀在白宫与美国副总统哈里斯会面,讨论了有关人工智能的一些关键问题,美国总统拜登也短暂出席了此次会议。

根据拜登在推特上发布的一段视频,他在会上对这些公司首席执行官们表示:“你们正在做的事情具有巨大的潜力,但同时也存大巨大的风险。”

哈里斯在一份声明中说:“科技公司需要承担道德和法律责任来确保其产品的安全。每家公司都必须遵守现行法律,保护美国公民。”

没想到在会面几天之后,Anthropic首席执行官达里奥·阿莫代便做出了实际行动。

大多数人工智能聊天机器人系统在训练过程中依赖于从真人那里获得反馈,以确定哪些反应可能是有害的或冒犯性的。但这些系统很难预测人们可能会问的某些问题,因此它们往往会避免一些可能有争议的话题,比如政治和种族。

Anthropic则采用了不同的方法,它为其人工智能聊天机器人Claude提供了一套书面的道德价值观,供其在决定如何回答问题时阅读和学习。

Anthropic在周二的一篇博文中提到,这些价值准则包括“选择劝阻和反对酷刑、奴役、残忍和不人道或有辱人格的回答”。Claude还被要求选择最不可能被视为冒犯非西方文化传统的回答。

在一次采访中,Anthropic的联合创始人杰克·克拉克表示,可以修改系统的结构,以便在提供有用的答案和无害之间取得平衡。

克拉克认为:“几个月后,我预测政界人士将非常关注不同人工智能系统的道德价值观,而像‘Claude宪法’这样的方法将有助于这种讨论,因为我们认为有必要写下这些价值准则。”

关键词:

相关阅读

推荐阅读

人工智能“宪法”出炉 初创公司发布AI道德价值观

人工智能“宪法”出炉 初创公司发布AI道德价值观

财联社5月10日讯(编辑牛占林)美东时间周二,谷歌支持的人工智能(AI)初创公司Anthropic公布了一套针对AI发更多

2023-05-10 06:05:26
即将归队!中国女篮球员武桐桐晒训练视频

即将归队!中国女篮球员武桐桐晒训练视频

近日,去年在女篮世界杯遭遇左膝前交叉韧带断裂伤势的武桐桐更新社媒,晒出自己的训练视频。此前,中国女篮更多

2023-05-10 05:04:38
世界快资讯:keep只能用手机吗_手机keep投屏到电脑

世界快资讯:keep只能用手机吗_手机keep投屏到电脑

1、以Keep6 125 0版本为例,该应用中没有投屏的功能,我们需要使用第三方应用才可以实现Keep应用的投屏。2、K更多

2023-05-10 02:53:05
要不要买菜下山歌曲-要不要买菜下山下载 世界实时

要不要买菜下山歌曲-要不要买菜下山下载 世界实时

1、要不要买菜《下山》百度网盘MP3最新全集下载;链接:提取码:qe8a作品相关简介:《下山》是由朱斌语作词作更多

2023-05-10 00:48:33
每日聚焦:乡约福建:产业生“金” 蕉城乡村绘就振兴新图景

每日聚焦:乡约福建:产业生“金” 蕉城乡村绘就

中新网宁德5月9日电(褚子强林浰宏)走进位于福建省宁德市蕉城区赤溪镇大坛村的香如兰农业综合开发有限公司生更多

2023-05-09 22:36:00
年金现值表怎么用_年金现值表示方法

年金现值表怎么用_年金现值表示方法

1、你所列的第一个式子都有问题,不知道怎么来的,表述也有问题要不这样吧,我用自己的话给你说吧设递延期更多

2023-05-09 21:56:35
固原“四举措”推动企业民主管理工作走深走实_全球新动态

固原“四举措”推动企业民主管理工作走深走实_全

工人日报客户端记者马学礼通讯员王重和今年以来,宁夏回族自治区固原市总工会实施“四项举措”,在全市全力更多

2023-05-09 21:18:49
RMC:梅西将解禁参加本周法甲对阵阿雅克肖的比赛 热点

RMC:梅西将解禁参加本周法甲对阵阿雅克肖的比赛

RMCSport的报道,梅西将解禁可以参加本周法甲对阵阿雅克肖的比赛。当地时间周二上午,按照计划梅西恢复了球更多

2023-05-09 20:12:21
+ 点击查看更多精彩
字节跳动计划投资“大量资金”开发VR领域
    据 Protocol 报道,字节跳动正在认真考虑进入虚拟现实(VR)领域...
任天堂Switch曝光:合作伙伴招聘新游戏机开发工程师
    据外媒报道称,任天堂即将推新一代Switch,其中一个最有力的证据...
途牛发布纳斯达克股价不合规通知函
    4月18日,在途牛收到纳斯达克股价不合规通知函后,途牛方面发布声...
一加新机现身:搭载天玑8100处理器,主打快充和游戏
    今天,一款型号显示为PGKM10的一加新机现身GeekBench,这款新机搭...
紫光国微:预计2022年第一季度净利润同比增长69.9%
    紫光国微发布公告称,预计2022年第一季度归属于上市公司股东的净...
斯坦福大学建造小型太阳能电池板原型
    日前,斯坦福大学的研究人员已经建造了一个小型太阳能电池板原型...
    资讯播报