世界聚焦:人工智能高歌猛进背后暗藏多重安全风险

来源:5G通信网时间:2022-10-12 09:08:48


(资料图片)

试想一下,有人将一张“贴纸”贴在面部,就可以使人脸识别门禁系统误认为是你,从而轻而易举打开大门;同样是这张“贴纸”,把它贴在眼镜上,就可以1秒解锁你的手机人脸识别,探取隐私如入无人之境。这并非科幻大片的想象,而是首届人工智能安全大赛颁奖典礼现场展示的真实攻防场景。

前不久,由国家工业信息安全发展研究中心、清华大学人工智能研究院和北京瑞莱智慧科技有限公司等单位联合主办的首届人工智能安全大赛落幕。大赛期间,有关人工智能安全风险引发讨论。与会专家表示,人工智能安全风险已非未来挑战,而是眼前威胁,要重视人工智能安全体系建设,加快促进人工智能安全领域关键技术研究与攻防实践。

人工智能和其他通用技术一样,在高歌猛进的同时,也带来了一定的风险和隐患。曾获“吴文俊人工智能优秀青年奖”的瑞莱智慧首席执行官田天认为,人工智能技术风险发生的范围,正随着应用场景的日趋广泛而逐步扩大,风险发生的可能性也随着其应用频次的增长而持续提高。在他看来,人工智能当前的安全风险主要可以从“人”与“系统”这两个视角来剖析。

从人的视角来评估人工智能的安全问题,首当其冲就是技术的两面性问题,存在人工智能滥用的问题。具体到人工智能的应用中来看,最为典型的代表就是深度伪造技术,它的负向应用风险持续加剧且已产生实质危害。

此次大赛的人脸识别破解演示,所揭示的正是系统的风险,它来自深度学习算法本身的脆弱性。以深度学习算法为核心的第二代人工智能是个“黑盒子”,具有不可解释性,意味着系统存在结构性的漏洞,可能受到不可预知的风险,典型的就比如现场演示的“神奇贴纸”,其实就是“对抗样本攻击”,通过在输入数据中添加扰动,使得系统作出错误判断。

这一漏洞在自动驾驶感知系统同样存在。正常情况下,在识别到路障、指示牌、行人等目标后,自动驾驶车辆就会立即停车,但在目标物体上添加干扰图案后,车辆的感知系统可能会出错,径直撞上去。

大赛期间,《人工智能算力基础设施安全发展白皮书》发布。其中提到,人工智能算力基础设施不同于传统的算力基础设施,既是“基础设施”又是“人工智能算力”也是“公共设施”,具有基建属性、技术属性、公共属性三重属性。相应地,推动人工智能算力基础设施安全发展应从强化自身安全、保障运行安全、助力安全合规三个方面发力。

统筹发展和安全,似乎是每项新技术发展过程中面临的必然问题,如何实现高水平发展和高水平安全的良性互动,也是当前人工智能产业发展最为重要的命题之一,现场多位专家就此话题展开讨论。

“人工智能对抗攻防包括对抗样本、神经网络后门、模型隐私问题等多方面技术。模型有错误,就需要进行及时的修复。”中国科学院信息安全国家重点实验室副主任陈恺提出“神经网络手术刀”的方法,通过定位引发错误的神经元,进行精准“微创”修复。

陈恺表示,不同于传统的模型修复工作需要重新训练模型,或者依赖于较大量的数据样本,这种方式类似于“微创手术”,只需极少量数据样本,能够大幅提升模型修复效果。

开放环境下的人工智能系统面临诸多安全挑战,如何解决通用人工智能算法全周期的安全保障问题成为重中之重。

北京航空航天大学软件开发环境国家重点实验室副主任刘祥龙表示,从技术上来看应形成从安全性测试到安全性分析与安全性加固的完整技术手段,最终形成标准化的测试流程。

他同时指出,未来的人工智能安全应该围绕从数据、算法到系统各个层次上的全面评测,同时配合一套从硬件到软件的安全可信计算环境。

工商银行金融研究院安全攻防实验室主管专家苏建明表示,人工智能安全治理需要广泛协作和开放创新,需加强政府、学术机构、企业等产业各参与方的互动合作,建立积极的生态规则。政策层面加快人工智能的立法进程,加强对人工智能服务水平、技术支撑能力等专项监督考核力度。学术层面,加大对人工智能安全研究的激励投入,通过产学研合作模式加快科研成果的转化与落地。企业层面,逐步推动人工智能技术由场景拓展向安全可信发展转变,通过参与标准制定,推出产品服务,持续探索人工智能安全实践及解决方案。

事实上,构建人工智能的安全生态,一方面需要技术的持续演进,一方面也需要专项技术人才的建设与培养。田天表示,由于人工智能安全研究目前仍属于新兴领域,专项人才较少,缺乏系统性的研究队伍,此次大赛通过实战演练的方式,验证和提升选手实战能力,为培育一批高水平、高层次的人工智能安全新型人才团队提供了“快速通道”。

专家们认为,从长远看,人工智能的安全问题,还需从算法模型的原理上突破,唯有持续加强基础研究,才能破解核心科学问题,同时他们强调,人工智能的未来发展需确保对整个社会、国家发展的有效性和正向促进性,需要政产学研用多方协同共进。

关键词: 人工智能 基础设施 高歌猛进

相关阅读

推荐阅读

世界聚焦:人工智能高歌猛进背后暗藏多重安全风险

世界聚焦:人工智能高歌猛进背后暗藏多重安全风险

试想一下,有人将一张“贴纸”贴在面部,就可以使人脸识别门禁系统误认为是你,从而轻而易举打开大门;同样是这张“贴纸”,把它贴在眼镜上,更多

2022-10-12 09:08:48
看热讯:小红书探路“语音社交”

看热讯:小红书探路“语音社交”

图文、视频、电商都有了的小红书,又瞄上了语音社交。10月11日,北京商报记者登录小红书发现,小红书正在内测新功能“语音现场”,主打音频社更多

2022-10-12 09:04:58
天天看热讯:工信部:9月新能源汽车产销再创历史新高 同比增长1.1倍和93.9%

天天看热讯:工信部:9月新能源汽车产销再创历史

飞象网讯(马秋月 文)昨日,工信部公布2022年9月汽车工业经济运行情况:2022年9月,我国汽车产销继续保持快速增长态势,分别完成267 2万辆和2更多

2022-10-12 08:58:29
【新要闻】常州移动部署5G AAU自动启停技术助力基站节能

【新要闻】常州移动部署5G AAU自动启停技术助力

自双碳目标提出以来,常州移动积极响应,持续探索节能降排新技术,应对5G网络大规模建设带来的能源挑战。近日,常州移动联合中兴通讯在本地20更多

2022-10-11 18:56:31
环球速讯:常州移动手机课堂助老人开启智慧生活

环球速讯:常州移动手机课堂助老人开启智慧生活

金秋十月,敬老情浓。常州移动联合本地“爱父母联盟”,为老年人组织开展了智能手机大课堂暨防诈骗公益活动,帮助更多的老年人快速融入数字生更多

2022-10-11 19:11:12
世界速看:延边移动联合中兴通讯落地SSB合并测量功能高效提升5G驻留比

世界速看:延边移动联合中兴通讯落地SSB合并测量

近日,延边移动携手中兴通讯完成SSB合并测量功能大规模落地商用,该方案能够提升终端5G测量电平值,从而有效降低5G回落到4G的概率,提升5G驻留更多

2022-10-11 18:09:07
全球简讯:广东移动汕尾公司携手中兴通讯实现全球首个异厂家SDH退网 监控透传方案试点转商用

全球简讯:广东移动汕尾公司携手中兴通讯实现全球

近日,广东移动汕尾公司携手中兴通讯实现全球首个异厂家SDH设备DCC(DataCommunicationChannels,数据通信通道)提取功能试点转商用,更多

2022-10-11 17:53:03
今头条!黑龙江移动启动全省小型通信局站高低压设备及线路维修集采:总预算1921万元

今头条!黑龙江移动启动全省小型通信局站高低压设

从中国移动官网获悉,黑龙江移动启动2022-2024年全省小型通信局站高低压设备及线路维修服务采购。据黑龙江移动发布的集采公告显示,本次将采购更多

2022-10-11 17:11:54
+ 点击查看更多精彩
字节跳动计划投资“大量资金”开发VR领域
    据 Protocol 报道,字节跳动正在认真考虑进入虚拟现实(VR)领域...
任天堂Switch曝光:合作伙伴招聘新游戏机开发工程师
    据外媒报道称,任天堂即将推新一代Switch,其中一个最有力的证据...
途牛发布纳斯达克股价不合规通知函
    4月18日,在途牛收到纳斯达克股价不合规通知函后,途牛方面发布声...
一加新机现身:搭载天玑8100处理器,主打快充和游戏
    今天,一款型号显示为PGKM10的一加新机现身GeekBench,这款新机搭...
紫光国微:预计2022年第一季度净利润同比增长69.9%
    紫光国微发布公告称,预计2022年第一季度归属于上市公司股东的净...
斯坦福大学建造小型太阳能电池板原型
    日前,斯坦福大学的研究人员已经建造了一个小型太阳能电池板原型...
    资讯播报