大模型在自动驾驶业务场景应用与发展
谢谢各位。我今天的主题是大模型在自动驾驶业务上的应用与发展。因为我在英伟达的话主要是负责互联网行业,支持一些客户,所以说我对大模型其实有非常深的一个认识。
其实在三年前,我们就一直在跟客户讲,就是说大模型是未来的一个趋势。我们会需要用到更大的算力,去训练这模型的业务场景。当然,站在客户的角度上来想这个事情,大家都认为就是说我这边是为了卖更多的GPU卡,更高的营收。这方面的因素当然会有,但是其实更重要的一个场景,我们能看到在一些垂直领域, AI的整个能力其实是有一些比较好的效果,但是更多的,在一些行业的应用中其实并没有达到像人这样去思考的能力,所以说我们认为想要未来大模型做到更复杂的事情,就需要对它进行什么打磨。
这张图里,我们可以看到大模式的发展趋势,从2017年到2022年,在自然语言理解的应用领域内,从最早的BERT到Transformer Face的语言模型,可以看到在这5年里,模型的规模在不断地增加,然后AI在相应的一些应用场景里,它的理解能力或者它的效果有一个非常显著的变化。你可能会有一些印象,大概在三五年前,网上视频里能看到有个人坐在车里边,然后跟车去做一些交互,说导航到一个地方,他说了非常多遍,但根本就识别不到。而在今天,这种场景我相信都不会再存在了,因为我们有更强的AI模型,有更高的精度,能给人们带来更好的体验,这个只是在NLP就是自然语言理解的这个领域。在其他领域的话,它其实是一样的模式,一样的发展方向。比如说在CV领域,在某些特定的细分领域内,用限额算法是可以取得非常好的效果。但是随着领域的变化或者是数据的变化,其实整个效果的话可能就不会像原来在这个细分领域内的效果那么好,所以说我们需要用到大模型的一些方式,或者用更多的数据,来去做这样的事情。
(资料图)
想要做好大模型,我认为的话主要有个点。第一点是类似于Transformer的一些模型结构,能让模型变得更加复杂,从而它的有效智能可以带来更好的收益。然后这个是第一个。第二个的话是数据,数据是非常关键的,我们在跟客户的交流过程中,大家都提到过相同的问题,就是数据对于模型训练是至关重要的。我们需要用到更多的数据,或者是用一些多模态的数据,来去训练大模型的业务,才能实现更多的一些业务场景。第三点就是平台层面的规划,因为目前的业务最终要落在真实的业务场景里边。在训练端的话用集群的方式去构建一个分布式的系统,去做大模型的训练,才能有一个比较好的训练速度,更好地去迭代,让大模型的应用能有一个更好的效果。
这么大的一个模型在应用端去做应用,肯定成本会非常高。以NVIDIA的角度来考虑这个事情的话,其实我们也希望把大模型Inference的应用成本的话给它加上来。主要通过的手段可能第一,我们会针对大模型的业务产品持续去做Inference的优化,让相关的一些模型可以跑在更低的平台上去应用。然后第二点的话,因为GPU的类型很多,基于NVLink的GPU用于分布式训练,也可以基于一些PCIE类型的GPU承担大模型推理的一些业务场景,在大模型业务场景中达到一个非常好的性价比。
从总体上来看的话,我们认为大模型可能是未来的一个趋势。下面是我针对于自动驾驶这个行业说说跟AI相关的一些业务场景,然后从这些场景里边,我们可以看到哪些业务场景会应用到大模型,并取得一个比较好的一个效果。AI在自动驾驶这个场景里,或者跟汽车相关的场景主要分为这三类。第一个的话就是在工厂端,我们可以通过一些AI算法,进行质量检测,通过这种自动化的方式,来提升检测的效率,取得比较好的效果。第二个的话就是在一些车载娱乐系统里,像智能座舱。我们可以通过智能座舱,把人跟乘客以及外部互联起来,做更多的沟通,然后产生更多的价值。第三个的话就是今天所看到的自动驾驶这个业务场景,它也是我们最早在汽车领域去做的一个方向。整个自动驾驶其实是一个闭环,同时的话它是一个不断迭代,不断循环的过程。从前期的数据采集到数据打标,包括地图的信息,包括把所有收集到的数据,放进GPU的集群里面去做训练,到后端一些自动驾驶相关的业务场景里,比如成像、自动泊车、智能交互。这就意味着我们需要根据用户包括我们自己的反馈,不断去迭代,不断去进化。以这整个过程来说是需要非常强大的算力的,而且非常需要持续投入、持续开发。
刚才提到智能驾驶是一个非常复杂的场景,所以各部分因素都要被考虑进我们的自动驾驶业务中,每一个业务产品就代表了一个 AI算法。那么未来的话我们是不是可以把一些业务通过一个通用的模型,把它们融合在一块,给车提供更多的智能服务。这个当然的话也是在探索中,但现在来看的话,每一个业务层面或者是说每几类的业务,都需要一个不同的AI模型来去做这样的事情。
这个是智能座舱,刚才提到就是说智能座舱是自动驾驶以外,另一个对AI需求比较高的业务方向,且目前来看是与大模型结合的最多的,因为智能座舱工作的时候,我们可以通过云端的资源,来提供相关的一些服务。因为现在车端大模型业务的模型非常大,很难在车上去运用,而智能座舱的业务层面对实时性要求不是那么高,可以通过这种云端提供服务,然后去更好地利用大模型项目的一些技术,更好地给乘客提供相关的 AI服务,有更好的体验。
另外,除了刚才所提到的两个业务场景的话,其实在汽车领域的话还有非常多的业务场景跟AI是相关的,或者是说我们可以通过AI的方式去做的一些事情。包括前面说的,客户的体验就是跟智能座舱相关的,另外的话就是车跟人以及传感器的这种互联也可以通过AI的方式来进行。第三个是关于工厂的。大概两年前,我们发布了Omniverse模式,通过Omniverse模式做工厂数字化,然后通过数字化的工厂的来提升工厂的生产效率,包括一些规范。第四个的话涉及一些汽车设计,这个更多的是跟SPC相关。现在的SPC的一些应用也跟AI做了非常多的融合,这样的话我们可以通过 AI的方式,更快速地去设计汽车。最后两个的是辅助应用,比如说在一些金融、源头市场,可以通过AI的方式提供更多、更好的服务。
这张大概总结了一下,目前在自动驾驶里应用到大模型相关的一些业务场景。这些业务场景的话主要还是LLM即自然语言理解的一些业务场景,包括客户的一些体验。数据显示,订阅价值为1,0000美元的AD的客户数量达上百万,路上有多达5亿辆车链接了车内交互服务。然后是一些服务类的场景,像刚才提到就是说通过大模型的方式取代人来提供客服的服务,这个其实现在来看的话是一个非常成熟的业务场景,有比较好的效果。然后还有Chat Bot,就是通过一些智能语音的方式控制车辆。以及Knowledge Base等,就是在工作中的话我们可以通过大模型提升工作效率。
汽车大模型的话刚才提到就是说除了应用端,很多客户关心怎么真正地去应用,或者是说我原来没有一个基础的话,怎么才能快速地在我的业务产品里应用大模型。NVIDIA对于GPU市场提供了丰富的开发环境,包括一些工具可以帮助客户拥有快速的构建大模型的能力,包括从数据的准备起整个的AI开发过程。我们有一整套完善的工具链,可以非常方便高效地帮助客户快速构建数据集。我们在NGC上也提供一些预训练模型,客户可以基于相关的模型使用自有数据集信息进行训练,支持特定垂直领域的业务场景。
针对券商我们有相关的一些模型框架,可以更好地去提供服务给客户。因为其实在大模型出来之前,或者说在去年,其实只有非常少的客户有分布式集群的经验,来去做大模型训练。绝大部分的客户并不具备分布式训练的能力。NVIDIA在两三年前其实就已经开始做相关的研究,包括优化,所以可以提供很多与分布式集群相关的技术,客户可以直接拿过来用,不用关心底层,包括框架层面的一些优化,就能取得非常好的效果。
然后第三个的话就是当你从头开始训练一个模型,可能需要刚才提到的非常多的一些数据集,需要构建一个非常大的集群,还需要各种各样的投入来去管理集群。我们可以提供给客户一些优化好的模型,而客户可以基于这个模型做一些翻退。在Inference端,我们也提供各种各样的工具,让客户在端上去运行Inference的应用。最后是部署,总的来说NVIDIA能提供从最初的数据收集到最后端到端的部署这种整合方案给客户,帮助客户快速具备大模型的能力。除了这个刚才提到的软件层面的服务,NVIDIA从最底层的硬件到最上层的业务系统,每一个层面的都能提供相关的一些技术支持,或者是免费的软件套件,能帮助客户快速地构建自己的AI能力。
最后的话我就是想借用Jensen的一句话做一个总结——“未来的生成式AI、大模型以及推荐系统式是现代经济的一个引擎”。现在各个行业都在探索大模型,因为大家都认识到大模型的能力,觉得它会像人一样,或者是说人类研发AI的一个主要目的,就是我们希望设计一个算法,并使它能像人一样去思考。ChatGPT出来以后,人们看到这个方向是可以走得通的,所以现在各个行业都在做一些这种探索,希望把AI的方式部署到行业的应用上,提升整个行业或者是应用的效率,取得比较好的效果。
谢谢各位。
关键词:
相关阅读
-
08-05
-
08-05
-
08-05
-
08-05
-
08-05
推荐阅读
-
大模型在自动驾驶业务场景应用与发展
大模型在自动驾驶业务场景应用与发展谢谢各位。我今天的主题是大模型在更多
2023-08-05 11:46:37
-
流通协会:二手车市小幅回暖 预计7月交易157万辆
流通协会:二手车市小幅回暖预计7月交易157万辆在日前召开的月度形势分更多
2023-08-05 09:41:58
-
外观细节调整 新款宝马M4路试谍照曝光
外观细节调整新款宝马M4路试谍照曝光日前,有海外媒体拍摄到了一组新款更多
2023-08-05 08:33:11
-
东风标致新款508L将11日上市 科技座舱很带感
东风标致新款508L将11日上市科技座舱很带感日前,网易汽车从相关渠道获更多
2023-08-05 08:33:25
-
福特Ranger首发版 标配前后锁+AT胎+涉水喉
福特Ranger首发版标配前后锁+AT胎+涉水喉福特新皮卡带多项原厂改装,越更多
2023-08-05 08:36:58
-
将于今年年底投产 宝马iX2最新谍照曝光
将于今年年底投产宝马iX2最新谍照曝光近日,车质网从外媒获取了一组宝更多
2023-08-05 08:44:17
-
外观设计调整 新款日产逍客路试谍照曝光
外观设计调整新款日产逍客路试谍照曝光日前,车质网从相关渠道获取到了更多
2023-08-05 08:38:41
-
6月全球车市:17国销量齐涨,日本反超印度
6月全球车市:17国销量齐涨,日本反超印度回顾2022年6月,芯片持续短缺更多
2023-08-05 07:38:51
时尚热图
-
今日必看
-
精彩话题
-
资讯播报
- 大模型在自动驾驶业务场景应用与发展
- 上海土拍新规则:竞买价“触顶”后,增设竞“高品质建设”引导性指标
- 华为MateBook D 14 SE版限时优惠370元
- 热问|如何判定购房人是否“跳单”违约?
- 胰岛素治疗有哪些细节需要注意
- yoord手机怎么开机 yoord
- 北京地铁朝阳门站出入口完成改造 晚高峰进站时间缩短六分半
- 外汇局:上半年 来华证券投资更加积极
- 图解国海证券中报:第二季度单季净利润同比减13.33%
- 流通协会:二手车市小幅回暖 预计7月交易157万辆
- 借款人和担保公司一起期骗担保人签字贷款。现在银行找担保人催债
- 快速行动!乐昌政协组团考察湖南牛蛙产业!附8月5日牛蛙收购价格
- 最佳Soundbar黑色星期五优惠2019
- 将于今年年底投产 宝马iX2最新谍照曝光
- 外观设计调整 新款日产逍客路试谍照曝光
- 福特Ranger首发版 标配前后锁+AT胎+涉水喉
- 东风标致新款508L将11日上市 科技座舱很带感
- 外观细节调整 新款宝马M4路试谍照曝光
- 论坚持“一国两制”和推进祖国统一
- 忏悔不到两个月就全盘否认,黄子佼是觉得互联网没有记忆?
- (成都大运会)中国队游泳赛场一晚夺3金 “蛙王”“蝶后”双双夺冠
- 新款特斯拉Model 3被曝10月交付 20万左右
- 或将成都车展上市 全新蔚来EC6实车曝光
- 6月全球车市:17国销量齐涨,日本反超印度
- 采用渐变蓝色车漆 迈凯伦750S特别版官图
- 衡山路上90多岁的“小天使”第一次转身,开放共享让上海充满绿意
- 长安逸达畅享版将于8月8日正式上市
- 农商银行成功止损20万
- 周末两天沈阳多云天气为主 气温回落户外体感舒适
- 津门虎回津球迷热情接站 伤病潮来袭最让人头疼
- 阿根廷将使用卡塔尔提供的贷款向国际货币基金组织偿还到期外债利息
- 最新召回!涉及特斯拉、上汽大众等品牌
- 8月4日基金净值:东方红策略精选混合A最新净值1.4193,涨0.18%
- 东宝床垫电商荣获“2018最具实力运营团队”
- 朱泾耶稣堂(对于朱泾耶稣堂简单介绍)
- 新大正:拟推145.5万股限制性股票激励计划 授予价格为8.75元/股
- 法媒:巴黎仍未放弃凯恩,他们愿意开出比拜仁更高的报价
- 十三届全国政协原常委沈德咏一审获刑15年!有重大立功表现但不足以从轻处罚
- 光大理财首批认股权项目在北京股权交易中心成功登记
- 鸿蒙引入盘古,华为领先苹果的一大步?
- 棉被聚酯纤维中空是什么意思 被芯聚酯纤维中空
- 《塞尔达传说》在 1.5 个月内售出近 1900 万份
- 易通讯集团(08031.HK)中期收入3809.7万港元 同比减少约9.8%
- 非农数据创下32个月新低!但美联储不想看到的信号又出现
- 潮人新知|为什么海拔3000米以上,就吃不到口感丝滑的冰淇淋了?
- 同仁堂:上半年归母净利润9.87亿元 同比增长32.7%
- 龙将斩千三国志好玩吗 龙将斩千三国志玩法简介
- 永嘉集团(03322)发盈警 预计中期取得除税后亏损约1.6亿港元 同比盈转亏
- 绿谷别墅 绿谷别墅属于哪个街道
- Indie与SILC合作提供新FMCW激光雷达解决方案
- 子牙河水系洪峰将进入天津,全市转移安置80085人
- DIC开发出MEGAFACE™ EFS系列环保型表面活性剂
- 加州大学圣地亚哥分校和芝加哥大学领导开发出新薄膜固态电解质 改善锂金属电池
- 计划中的意外之人《艾迪姆神话》(9)
- 悬挑脚手架斜拉钢丝绳要求 悬挑脚手架悬拉钢丝绳有什么要求
- 【朱苏】 重拾旧爱 第七篇
- 新车刚提就要大修 宝马多款车传动轴异响遭投诉
- 早稻田大学和山梨大学合成新型质子传导膜 可用于汽车燃料电池
- MINI COUNTRYMAN :留白是一种手法,也是一种个性
- 永川莲藕畅销西南片区
- 中国联通启动5G网络设备集采:规模达到69万站 金额超过400亿元
- 3000元收购游戏账号?杭州反诈民警解析最近三类电诈新“花样”
- 高达uc系列观看顺序_高达uc
- 伟世通第二季度销售额同比增长18%,上半年赢得40亿美元新业务
- 增资12亿元,纬湃科技深化在津战略布局
- 芯钛科技完成新一轮融资,推动高性能车规MCU产品量产
- 上市40天,深蓝S7破万
- 上海2023年专科艺体类批次院校(类别)投档分数线公布
- 千万别接!警方提醒:关闭手机这个功能
- 三安光电:上半年净利润同比下降81.76%
- 商丘市人大调研组到永城调研国民经济和社会发展计划执行情况暨重点项目建设工作
- 华为开发者大会2023 (HDC.Together)今日召开,鸿蒙生态引领全场景时代
- 智通港股52周新高、新低统计|8月4日
- 河南省科协党组书记王新会赴开封市宣讲《河南省科学技术协会条例》并调研基层科协组织建设
- 钻石不香了?年轻人转追黄金
- 华为发布新一代近距离无线连接技术——星闪(NearLink),为鸿蒙生态带来革新体验
- 1969年属鸡人是什么命女 1969年属鸡人是什么命
- 兰花科创:上半年净利13.62亿元 同比下降31.43%
- 中国联通携手产业合作伙伴完成全球首次RedCap端网兼容性现网测试
- 南方电网:南方区域新能源装机首次突破1亿千瓦
- 深圳:到2025年全市新能源汽车年产量超200万辆
- VinFast宣布取消参加慕尼黑车展
- 中图网创始人黄平将在淘宝开播
- Waymo前任CEO John Krafcik加入Rivian董事会
- 芯至科技完成近亿元天使轮融资,近期曾与比亚迪达成业务合作
- 坏消息暴露!徐杰被球迷怒批,两点原因解释!
- Nikola增资扩股提案获股东批准
- 余承东:华为手机走在回归道路上,2023二季度国内高端市场份额第二
- B站商业化解题,谁在入场淘金?
- 超导磁体系统中标结果公告
- 美原油最新价格走势(2023年8月4日)
- 北京文化董秘回复:封神第二部、第三部已拍摄完成,目前在后期制作中,影视项目进展情况请关注公司最近一期定期报告
- 博格华纳将提供高压冷却液加热器 可用于电动汽车平台
- 加州大学洛杉矶分校首次揭示锂的真实形状
- 麻省理工开发新方法 可以简化复杂材料的构建过程
- 投资超10亿元!丰田与小马智行成立Robotaxi合资公司
- 天纳克FERODO®扩展其零铜制动材料产品组合 可用于商用车领域
- 中国移动应急通信无人机在北京昌平起飞
- 来济南大观园,沉浸式体验奇异世界
- 中国电信5000万于江苏新设算力数据子公司