百事通！GIV2022|北京大学软件与微电子学院院长陈钟：智能汽车的挑战与应对

2022年12月16日-17日，由安徽省发展和改革委员会作为指导单位，合肥市人民政府、中国电动汽车百人会联合主办的“2022全球智能汽车产业峰会”在安徽合肥召开。本届论坛围绕“全球新变局与智能汽车发展新战略”主题，共设置5个主题论坛和2场闭门会议，与行业机构、高校院所和领先企业代表共同探索我国智能汽车发展新路径。

其中，在12月16日举办的“科学家论坛”上，北京大学软件与微电子学院院长、北京大学网络与信息安全实验室主任陈钟发表精彩致辞。以下内容为现场演讲实录：

(相关资料图)

各位来宾大家好！非常荣幸应邀参加全球智能汽车产业峰会，参与跨界创新赋能智能汽车技术深度融合的交流，我带来的题目是《Safety&Security：智能汽车挑战与应对》，将从三个方面与大家分享。

第一，自动驾驶面临的老问题与新挑战。自动驾驶面临的老问题是Safety问题和人的生命财产相关的安全，在中国有时也翻译成“功能安全”。而Security则是和计算机密切相关的网络安全、信息安全的含义。道路交通安全是一个老问题，在汽车发明之前，以马车为主的时代，我们就有了相应的Safety概念。但是在汽车发明不久，我们看到在1865年，在英国出现经过英国议会通过了一部《机动车法案》，后来被人嘲笑为“红旗法案”，这个法案规定每辆在道路上行驶的机动车必须由三个人驾驶，其中一个必须在车前面50米以外做引导，还要用红旗不断摇动，为机动车开道。并且规定机动车速度不能超过4英里/小时，人走路的速度大约是6.4公里/小时的速度。汽车发明的时候让我们感受到和马车的不同，但是对它的认知确实也停留在一个恐惧的阶段。包括安全带在60年代才出现，这是在发展过程当中，Safety进一步升级的一个很重要的案例。直到今天，依然需要用道路上的双实线来规定现代的汽车应该遵守相应的规则，以避免安全问题。

当然，这个问题已经和治理密切相关，我们看到在西方往往划线就可以了，因为大家遵守相应的规则。而对于通常难以遵守规则的情况下，大量使用隔离墩这样的成本，但是治理的目标是一样的。挑战重点来自于，当计算机介入到驾驶过程当中，信息安全的问题也摆在面前，自动驾驶通常被认为是人工智能的问题，但是人工智能的五大威胁包含了软件漏洞、系统安全、网络安全、传感器欺骗、数据投毒。前三位和其它的信息系统是一样的，而传感器欺骗和数据投毒，则和人工智能、机器学习算法密切相关。我们看到人工智能系统不仅传统的威胁一样不少，还有很多独有的威胁。

随着物联网应用不断深入，这种Security带来的威胁也直接波及到Safety的问题。以加州大学伯克立分校Down Song教授团队几年前的研究为例，他们在一个汽车“停止”牌上面粘贴了几块胶条，对人看起来这不算什么，但是对于自动驾驶人工智能算法来看，它居然把停止牌误识别为时速45公里的限速牌，由此可见Security问题也已经摆在我们面前。

第二个问题，自动驾驶如何跨越致命的L4？这个问题不仅仅是技术问题，我们国家有了《汽车驾驶自动化分级》国家标准，GB/T40429，去年已经通过开始实施，0-6级分级基本和国际上的自动驾驶分级相似，个别地方有所不同。我们看到，从第三级开始，有条件自动驾驶，高度自动驾驶和完全自动驾驶不断升级，但是也带来相应的挑战。我们以国际自动级工程学会SAE分级标准为例，L3、L4、L5，当然完全自动化是我们追求的目标，系统要处理相应的问题，形成了一个人车之间的相互关系。致命的L4是一座山，要翻过这座山确实有很多难题。在L3的时候，人们可以短暂地手眼离开驾驶注意力，但是它随时准备切换接管自动驾驶，所以人的注意力是存在的。在L4、L5，特别在L4的时候，人们需要相信自动驾驶，一旦出现了问题，让人来接管的时候，这个反应时间非常之短，甚至无法完成，这就是致命的L4。

这是一座非常难翻过的山，国际上的自动驾驶大多退到L3的境界。即便我们翻过了这座山，自动驾驶L5成为我们的常态，我们还会遇到新的问题，难道交通事故不会出现吗？如果出现了会怎么样？这就是算法、决策、道德、伦理和法律法规的问题。在欧洲曾经做过世界各国人民评选出无人驾驶汽车饶命顺序，人们的想法把人的伦理传递给机器算法，让机器按照人的意志去执行。但是这点上，普世的一种价值观也很难建立，所以用投票的方式来完成这样一个无人驾驶汽车饶命的顺序。

第一个是婴儿车，后面是女孩，再后面是男孩，再后面是孕妇以及各种排列，狗排在罪犯的前面。但是我们会思考，即便是这样，道德伦理和法律的问题其实还是难以逾越的一座山，因此需要更重要的考虑把社会治理和算法治理结合在一起。

第三个问题，重塑数字信任是我们直面问题和挑战的重要方法论。人类社会进步从农业社会、工业社会走向信息社会，而数字化、网络化、智能化不断发展，引发工业革命之后第三次第四次进一步的革命。以区块链为例，我们看到Klaus Schwab评价区块链是第四次工业革命的核心成果，因为它在建立价值互联网和建立新的可信基础方面具有重要的潜力。信任理论早期是哲学和政治学领域作为道德和政治关系组成的一个研究，后来被推广到政府公共治理的实践和企业市场商业行为当中的大量应用，信任关系受到行为的主体、信息沟通的机制、社会依存关系和社会主要风险四个因素的影响。在进入信息社会，数字信任愈发重要。

在农业社会的农业文明，工业社会的工业文明，信息社会的数字文明，在主要信任模式、行为主体类型、信息沟通机制、社会依存关系、社会主要风险方面，都有巨大的不同。我们需要建立数字信任，基于数字技术在虚拟数字空间形成的信任关系，高度依赖于数字技术和数字应用。这中间也涉及到链接映射到数字空间的组织、人和物，信息沟通机制，更多依赖于互联网、移动设备，社会关系依存也非常之高，从农业社会的自然灾害社会动乱为主，跨越工业社会的工程灾害、环境污染为主，进入到网络安全、数据安全为主的数字文明新时代。

信息物理社会，心灵系统的融合需要从互联走向互信，就像远程手术既要建立手术机器人的信任，还需要远程5G通信等等信任的基础。自动驾驶无疑是把Security和Safety联系在一起，人、车、物、信息系统融合的一个载体。当自动驾驶成为新常态的时候，我们的Security挑战依然存在，我们如何能够去避免大规模社会化的秩序混乱，也需要在赛博空间解决的重要命题。

最后，我想说，赛博空间与赛博安全需要高度重视，因为它是连接现实空间、网络空间中间的一个真实存在的空间，传感、处理和控制，并且用人的规则联系在一起。Cybermatics赛博化的方法论当中更加强调算法治理、社会治理相融合，来构建新的数字信任。我们欣喜地看到，国标《信息安全技术机器学习算法安全评估规范》已经报批，陆续和自动驾驶相关的一些安全标准也不断出台，预期适应新技术的变革，在技术创新、工具性和治理性方面积极探索，形成人、系统、监管政策相融合的机制，来适应连接程度越来越高的社会。

我的报告就到这里，我们预计下一个十年是人机物赛博化融合创新的机遇期，在此我也愿中国智能汽车产业发展走在世界的前列。

谢谢大家！

（注：本文根据现场速记整理，未经演讲嘉宾审阅）

关键词：