世界聚焦:人工智能高歌猛进背后暗藏多重安全风险
(资料图片)
试想一下,有人将一张“贴纸”贴在面部,就可以使人脸识别门禁系统误认为是你,从而轻而易举打开大门;同样是这张“贴纸”,把它贴在眼镜上,就可以1秒解锁你的手机人脸识别,探取隐私如入无人之境。这并非科幻大片的想象,而是首届人工智能安全大赛颁奖典礼现场展示的真实攻防场景。
前不久,由国家工业信息安全发展研究中心、清华大学人工智能研究院和北京瑞莱智慧科技有限公司等单位联合主办的首届人工智能安全大赛落幕。大赛期间,有关人工智能安全风险引发讨论。与会专家表示,人工智能安全风险已非未来挑战,而是眼前威胁,要重视人工智能安全体系建设,加快促进人工智能安全领域关键技术研究与攻防实践。
人工智能和其他通用技术一样,在高歌猛进的同时,也带来了一定的风险和隐患。曾获“吴文俊人工智能优秀青年奖”的瑞莱智慧首席执行官田天认为,人工智能技术风险发生的范围,正随着应用场景的日趋广泛而逐步扩大,风险发生的可能性也随着其应用频次的增长而持续提高。在他看来,人工智能当前的安全风险主要可以从“人”与“系统”这两个视角来剖析。
从人的视角来评估人工智能的安全问题,首当其冲就是技术的两面性问题,存在人工智能滥用的问题。具体到人工智能的应用中来看,最为典型的代表就是深度伪造技术,它的负向应用风险持续加剧且已产生实质危害。
此次大赛的人脸识别破解演示,所揭示的正是系统的风险,它来自深度学习算法本身的脆弱性。以深度学习算法为核心的第二代人工智能是个“黑盒子”,具有不可解释性,意味着系统存在结构性的漏洞,可能受到不可预知的风险,典型的就比如现场演示的“神奇贴纸”,其实就是“对抗样本攻击”,通过在输入数据中添加扰动,使得系统作出错误判断。
这一漏洞在自动驾驶感知系统同样存在。正常情况下,在识别到路障、指示牌、行人等目标后,自动驾驶车辆就会立即停车,但在目标物体上添加干扰图案后,车辆的感知系统可能会出错,径直撞上去。
大赛期间,《人工智能算力基础设施安全发展白皮书》发布。其中提到,人工智能算力基础设施不同于传统的算力基础设施,既是“基础设施”又是“人工智能算力”也是“公共设施”,具有基建属性、技术属性、公共属性三重属性。相应地,推动人工智能算力基础设施安全发展应从强化自身安全、保障运行安全、助力安全合规三个方面发力。
统筹发展和安全,似乎是每项新技术发展过程中面临的必然问题,如何实现高水平发展和高水平安全的良性互动,也是当前人工智能产业发展最为重要的命题之一,现场多位专家就此话题展开讨论。
“人工智能对抗攻防包括对抗样本、神经网络后门、模型隐私问题等多方面技术。模型有错误,就需要进行及时的修复。”中国科学院信息安全国家重点实验室副主任陈恺提出“神经网络手术刀”的方法,通过定位引发错误的神经元,进行精准“微创”修复。
陈恺表示,不同于传统的模型修复工作需要重新训练模型,或者依赖于较大量的数据样本,这种方式类似于“微创手术”,只需极少量数据样本,能够大幅提升模型修复效果。
开放环境下的人工智能系统面临诸多安全挑战,如何解决通用人工智能算法全周期的安全保障问题成为重中之重。
北京航空航天大学软件开发环境国家重点实验室副主任刘祥龙表示,从技术上来看应形成从安全性测试到安全性分析与安全性加固的完整技术手段,最终形成标准化的测试流程。
他同时指出,未来的人工智能安全应该围绕从数据、算法到系统各个层次上的全面评测,同时配合一套从硬件到软件的安全可信计算环境。
工商银行金融研究院安全攻防实验室主管专家苏建明表示,人工智能安全治理需要广泛协作和开放创新,需加强政府、学术机构、企业等产业各参与方的互动合作,建立积极的生态规则。政策层面加快人工智能的立法进程,加强对人工智能服务水平、技术支撑能力等专项监督考核力度。学术层面,加大对人工智能安全研究的激励投入,通过产学研合作模式加快科研成果的转化与落地。企业层面,逐步推动人工智能技术由场景拓展向安全可信发展转变,通过参与标准制定,推出产品服务,持续探索人工智能安全实践及解决方案。
事实上,构建人工智能的安全生态,一方面需要技术的持续演进,一方面也需要专项技术人才的建设与培养。田天表示,由于人工智能安全研究目前仍属于新兴领域,专项人才较少,缺乏系统性的研究队伍,此次大赛通过实战演练的方式,验证和提升选手实战能力,为培育一批高水平、高层次的人工智能安全新型人才团队提供了“快速通道”。
专家们认为,从长远看,人工智能的安全问题,还需从算法模型的原理上突破,唯有持续加强基础研究,才能破解核心科学问题,同时他们强调,人工智能的未来发展需确保对整个社会、国家发展的有效性和正向促进性,需要政产学研用多方协同共进。
相关阅读
-
10-12
-
10-12
-
10-11
推荐阅读
-
世界聚焦:人工智能高歌猛进背后暗藏多重安全风险
试想一下,有人将一张“贴纸”贴在面部,就可以使人脸识别门禁系统误认为是你,从而轻而易举打开大门;同样是这张“贴纸”,把它贴在眼镜上,更多
2022-10-12 09:08:48
-
看热讯:小红书探路“语音社交”
图文、视频、电商都有了的小红书,又瞄上了语音社交。10月11日,北京商报记者登录小红书发现,小红书正在内测新功能“语音现场”,主打音频社更多
2022-10-12 09:04:58
-
天天看热讯:工信部:9月新能源汽车产销再创历史
飞象网讯(马秋月 文)昨日,工信部公布2022年9月汽车工业经济运行情况:2022年9月,我国汽车产销继续保持快速增长态势,分别完成267 2万辆和2更多
2022-10-12 08:58:29
-
【新要闻】常州移动部署5G AAU自动启停技术助力
自双碳目标提出以来,常州移动积极响应,持续探索节能降排新技术,应对5G网络大规模建设带来的能源挑战。近日,常州移动联合中兴通讯在本地20更多
2022-10-11 18:56:31
-
环球速讯:常州移动手机课堂助老人开启智慧生活
金秋十月,敬老情浓。常州移动联合本地“爱父母联盟”,为老年人组织开展了智能手机大课堂暨防诈骗公益活动,帮助更多的老年人快速融入数字生更多
2022-10-11 19:11:12
-
世界速看:延边移动联合中兴通讯落地SSB合并测量
近日,延边移动携手中兴通讯完成SSB合并测量功能大规模落地商用,该方案能够提升终端5G测量电平值,从而有效降低5G回落到4G的概率,提升5G驻留更多
2022-10-11 18:09:07
-
全球简讯:广东移动汕尾公司携手中兴通讯实现全球
近日,广东移动汕尾公司携手中兴通讯实现全球首个异厂家SDH设备DCC(DataCommunicationChannels,数据通信通道)提取功能试点转商用,更多
2022-10-11 17:53:03
-
今头条!黑龙江移动启动全省小型通信局站高低压设
从中国移动官网获悉,黑龙江移动启动2022-2024年全省小型通信局站高低压设备及线路维修服务采购。据黑龙江移动发布的集采公告显示,本次将采购更多
2022-10-11 17:11:54
时尚热图
热门标签
京东科技首推双链联动...
全球首发!理想L8将提...
遭5次雷击后 美国将...
马斯克:年底前让特斯...
索尼将调整PS5价格 ...
微信PC版推送3.7.6版...
版权现在都是这么用的...
鸿海旗下斯洛伐克车用...
中国游戏厂商出海收入...
InternetExplorer正式退役
《原神》2.2版本大更...
LOL:他们几个很强,...
LOL手游值得练习的6个...
王者荣耀:孙行者上架...
雅典娜18888金币英雄...
《英雄联盟手游》正式...
《堡垒之夜》被苹果拉...
mazon Games宣布他们...
PowerA主题手柄:续航...
银行股终于有了起色 ...
-
今日必看
-
精彩话题
-
资讯播报
- 世界聚焦:人工智能高歌猛进背后暗藏多重安全风险
- 看热讯:小红书探路“语音社交”
- 天天看热讯:工信部:9月新能源汽车产销再创历史新高 同比增长1.1倍和93.9%
- 环球观焦点:比亚迪的一飞冲天,让自主车企完成了对合资车企的“超越”
- 世界最资讯丨长城汽车,品牌向上“困难”期过去了吗?
- 天天快讯:中国充电联盟:9月公共充电桩保有量为163.6万台
- 观点:纬湃科技电池管理获超20亿欧元订单
- 热议:纯电、插混,势不两立
- 最资讯丨现代IONIQ 6将于11月6日国内首发
- 环球最新:亿纬锂能:预计前三季净利同比增 10%-20%,新工厂、新产线进入量产阶段
- 【全球独家】上汽大通轻客家族再添新成员,16.48万元起售
- 环球速讯:常州移动手机课堂助老人开启智慧生活
- 【新要闻】常州移动部署5G AAU自动启停技术助力基站节能
- 世界速看:延边移动联合中兴通讯落地SSB合并测量功能高效提升5G驻留比
- 全球简讯:广东移动汕尾公司携手中兴通讯实现全球首个异厂家SDH退网 监控透传方案试点转商用
- 全球热头条丨再下一城!比亚迪将在印度推电动乘用车
- 全球要闻:打造新现代豪华体验,路虎品牌再获权威机构认可
- 世界今热点:Diodes推出汽车兼容精密运算放大器 实现宽动态范围和低噪声运行
- 今头条!黑龙江移动启动全省小型通信局站高低压设备及线路维修集采:总预算1921万元
- 【世界新要闻】湖南移动G655及混合光缆公开集采:总规模212皮长公里
- 世界短讯!NASA太空冷却技术 可将电动汽车充电时间缩短至五分钟
- 当前通讯!研究人员开发无钴正极 可提高电池的容量和寿命
- 新消息丨中国6最多的联通手机号流拍:1366万起步 无一人参与
- 全球播报:宿迁移动开展银发课堂进社区活动
- 焦点信息:宿迁移动智慧养老 暖心守护“银发族”
- 每日短讯:中国电信云数赋能“智慧管山”保护秦岭生态
- 天天要闻:用声音传递微笑,把真诚带给客户――记淄博联通客户服务部投诉处理调度室值班长丁菲菲
- 【环球快播报】9月新能源汽车销量再创历史新高,达到70.8万辆
- 全球新资讯:研发投入低、CEO年薪12亿,造车在哪儿“烧钱”?
- 环球要闻:雷诺将发布Twizy继任车型,提升续航、舒适度与速度
- 【全球快播报】何小鹏:明年上半年G9将在部分城市开启城市NGP
- 天天热推荐:陷入麻烦的小鹏,还在不断发力
- 每日动态!打通测试链最后一环 昆易全栈资源打造自主可控供应链
- 环球热点评!2022年三季度汽车投诉分析报告
- 世界今热点:【国际快讯】宝马第三季度销量微降0.9%;日产有意投资雷诺电动车业务;Rivian市值单日蒸发逾20亿美元
- 全球焦点!Stellantis与GME Resources签署镍与钴供应协议
- 每日观察!bZ4X正式上市,广汽丰田开启纯电新纪元
- 今热点:小鹏汽车注册资本增至300亿元
- 聚焦:国轩高科子公司拟在美国密歇根州投建工厂 总金额约23.64亿美元
- 全球快报:167.8亿元国补即将发放!比亚迪获17.56亿,新能源商用车企获补多少?
- 快播:经济日报:按下App“适老”改造加速键
- 环球热门:“空中写卡”的eSIM走红 SIM卡会被完全取代吗?
- 环球动态:抢占巴西5G市场 三星在该国推出25款5G手机
- 世界看热讯:售价19.98万元-28.78万元,广汽丰田bZ4X正式上市!
- 全球速递!慢慢的,要习惯特斯拉“不及预期”
- 天天消息!蔚来出口欧洲的“阳谋”:价值观输出,比卖车重要
- 即时看!印度车企:提议印度将英国汽车进口税降至30%
- 全球快资讯丨宝马集团前三季度在中国纯电动汽车销量同比增长65%
- 世界速看:宁德时代第三季度净利润超上半年总和
- 当前聚焦:官宣!“抖音第一主播”疯狂小杨哥代言东风风神全新奕炫马赫版
- 观焦点:中国移动、爱立信携手合作伙伴推动基于5G的全闭环自然灾害综合管控系统落地
- 天天通讯!或影响上千人:继Optus后新加坡电信又一澳洲业务遭遇数据泄露
- 天天速递!矿山无人化运输新技术和新趋势
- 全球速读:均胜电子前三季度净利预增超5倍
- 前沿资讯!福特三季度在华销量超13.3万辆,同比下降11.3%
- 全球球精选!中电信研究院无源5端口器件代工集采:阳光天成、亨鑫、长跃三家入围
- 当前视讯!现代汽车推出自动驾驶汽车制动故障响应系统
- 环球百事通!福特申请方向盘预处理系统专利
- 环球观天下!台湾二季度移动通信收入402.5亿新台币 连续五个季度增长
- 热门看点:湖北移动联合中兴通讯完成云专网SDN控制器现网测试
- 【世界速看料】中信科移动持续推进5G卫星标准制定工作
- 当前通讯!白城移动携手中兴通讯完成全国首个200G VC-OTN业务开通,全面打造吉林移动OTN政企精品网
- 世界热点评!河南移动700M美化天线集采:盛路通信、尚卓通信两家中标
- 世界动态:现代汽车9月全球销量同比增长24.4%
- 环球资讯:ZEEKR 009发布官方内饰图,将于11月1日正式上市
- 环球今日讯!200台共享无人车交付,极狐汽车 X 百度Apollo率先开启无人驾驶时代
- 全球新动态:创历史新高 9月新能源乘用车批发销量约66.4万辆
- 全球短讯!比亚迪拟扩建上海工厂,预计每年可处理新型锂电池7200万只
- 每日快看:AT&T正在开发基于卫星的通讯覆盖服务
- 快讯:北斗产业链公司积极发展 加速落地智能驾驶
- 微头条丨聚焦联通人的平凡之美|天津联通姜欢 用心做好客户的代言人
- 当前报道:阿里巴巴云谷园区启用 将采用光伏发电
- 焦点滚动:石家庄联通完成虚拟化核心设备替换工作
- 观速讯丨上汽大众L4自动驾驶研发之路
- 环球速递!2022年9月国内汽车投诉排行及分析报告
- 环球观热点:欧盟力推新法统一电子设备充电接口
- 环球讯息:蔚来出海为何只租不卖?
- 环球微头条丨重庆首个搭载5G基站的无人飞艇试飞成功 搭建应急通信新模式
- 环球关注:现代考虑加快美国电动车厂建设,或提前至2024年投产
- 环球观焦点:蔚来,卷向海外
- 全球观天下!在德国,比亚迪再获“10万张”订单
- 【焦点热闻】IPO后,中创新航欲跻身全球前三
- 【天天速看料】8月全球电动车销量:特斯拉Model Y重回榜首,五菱宏光MINI EV首次跌出前三
- 环球通讯!再创新记录 特斯拉上海超级工厂9月交付超过8.3万辆
- 全球头条:森萨塔科技全新的制动系统踏板力传感器,推动下一代汽车实现更安全的制动
- 环球热点评!英国电信与思科合作推出设备回收计划
- 全球即时看!肯尼亚电信所有权重归政府,结束20年私有控股
- 每日速讯:意法半导体推出新振动传感器 实现更安静的电动汽车座舱
- 全球新消息丨中国电信浙江公司、杭州亚组委及中兴通讯联合申报“基于千兆网络云计算的智慧观赛”项目斩获首届“光华杯”千兆光网应用创新大赛全国一等奖
- 全球视讯!德国研究所将激光雷达与雷达传感器集成至汽车前灯 可节省空间
- 世界微头条丨E周看点丨自游家NV售27.88万起;中创新航在港挂牌上市
- 当前最新:维宁尔与Arbe合作研发4D汽车环绕雷达 2023年中投入试量产
- 【世界快播报】自游家汽车23城44家零售中心同步开业
- 天天视点!腾势D9大定认购超3万,腾势APP将在10月10日上线
- 天天热文:现代Ioniq 6最新信息曝光 WLTP最大续航614公里
- 【报资讯】跃跃御市:哪吒率先破十万辆,新势力加速海外市场布局
- 消息称苹果一直积极准备2纳米芯片 最早2025年量产
- 截至9月底全国新能源汽车保有量1149万辆 占汽车保有量的3.65%
- 天天信息:智能驾驶如何成就商用车第二增长曲线?
- 世界报道:雷诺对减持日产股份持开放态度