gtc 2021开发者大会于4月12日晚11336030开始，中国专场于4月13日北京时间9:00开始。虽然开发者大会与桌面显卡无关，但我们也可以了解到很多行业内难以企及的前沿信息。这次开发者大会的主题不是cpu或者显卡，而是“我是ai”。
i am ai
如今的英伟达是一家怎样的公司和芯片厂商？软件公司？还是人工智能计算领域的先驱。就像马斯克在发射火箭，在研究脑机接口；英伟达正在各个领域布局ai计算产品，就像老黄的思维一样：在新的技术思维模式下，汽车不再只是一个可销售的产品，而是数百万或上亿个可安装软件的基础平台。
01确定进入cpu领域：宽限
nvidia创始人兼首席执行官黄仁勋（记住这个厨房 结尾有彩蛋）
还是熟悉的厨房，还是熟悉的皮衣，但是再抬头看，黄仁勋老师的长发真的看起来更像一个为ai疯狂的科学家。首先我们看一下nvidia对cpu的介绍，全媒体都在讨论。
grace hopper
在gtc科技大会上，黄仁勋发布了nvidia首款数据中心cpu——grace。这是以计算机科学家格蕾丝赫柏和美国的少将的名字命名的。正是在20世纪50年代，她开始计算机编程，并发明了世界上第一个编译器。她被称为“计算机软件工程第一夫人”。
grace是一款高度专业化的处理器，采用高效节能的arm内核，为系统训练巨型人工智能模型提供10倍性能飞跃，主要面向大型数据密集型hpc和ai应用。新一代nlp模型的训练将有超过一万亿个参数。
grace cpu
grace可以满足世界上最先进的应用程序的计算需求，包括自然语言处理、推荐系统和人工智能超级计算。这些应用需要超快的计算性能和大内存中的庞大数据集。
基于grace的系统与nvidia gpu紧密结合，性能将比最先进的nvidia dgx系统(运行在x86 cpu上)高10倍。其基本性能采用第四代nvidia nvlink互联技术，在cpu和gpu图形处理单元之间提供900gb/s的连接速度，从cpu到cpu的速度超过600gb/s，使得总带宽比目前领先的服务器高出30倍。黄仁勋说，这也是世界上第一个为tb级计算设计的cpu。
应用客户
作为首批客户，瑞士国家超级计算中心(cscs)将建造一台名为alps的超级计算机，它将使用grace和nvidia的下一代gpu。美国能源部下属的洛斯阿拉莫斯国家实验室也将在2023年推出基于grace的超级计算机。
grace的推出表明了nvidia在cpu领域的决心，也将抢占英特尔最赚钱的市场领域。
0维迪亚bluefield-3dpu数据处理器
nvidia bluefield-3 dpu在黄仁勋的发布将进一步加快超大规模数据中心、工作站和超级计算机建设所需的基础设施。
这款新一代数据处理器将提供最强大的软件定义网络、存储和网络安全加速功能。
bluefield-3
据黄仁勋介绍，与蓝田-2相比，蓝田-3实现了10倍的性能飞跃。bluefield-3内置220亿个晶体管，第一个400gb/s网络芯片，16个arm cpu芯片。它还提高了安全级别，保护，卸载和加速网络流量。
bluefield-4已经列上日程了
以两年迭代的频率，2024年的bluefield-4将实现800gb/s的网络速率，bluefield-3的性能将再次提升10倍。3年内(bluefield-2刚刚使用)，性能提升了100倍，而这正好符合市场需求。
3 nvidia dgx，总带宽为02.2 eb/s
dgx是英伟达推出的一款面向人工智能的电脑。黄仁勋宣布升级英伟达面向工作组的“便携式ai数据中心”——英伟达dgx站和英伟达面向密集ai研发的ai数据中心产品3354英伟达dgx superpod。
nvidia dgx station
全新dgx站320g通过320gb超快hbm2e连接四个nvidia a100 gpu，内存带宽达到每秒8tb。目前至少需要40台cpu服务器才能达到这么高的视频带宽。然而，最令人惊讶的是，这款便携式dgx站可以像普通电脑一样插在普通的墙上插座上，功耗仅为1,500 w，液冷，运行声音为37db。
。目前，达到这种性能的cpu集群成本约为100万美元，而dgx station仅需14.9万（看到这里我飘了，竟然觉得还挺便宜）美元。
新款的dgx superpod目前是世界上首台原生超级计算机，使用全新 80gb nvidia a100，将其 hbm2e 内存提升至 90tb，实现2.2eb/s的总带宽。同理，若要实现如此高的带宽，需要11000台cpu服务器，相当于250个机柜数据中心，比dgx superpod多15倍。
dgx superpod（左）、dgx a100（中）、dgx station a100（右）
目前它已经升级至采用 nvidia bluefield-2，如此性能的计算机已经是绝大多数个人和公司承担不起的费用了，dgx superpod支持多租户共享，并可实现完全隔离和裸机性能。且 nvidia 如今还为该产品提供配套的 nvidia base command dgx 管理和编排工具。
当然dgx superpod依然可以单独售卖，它的起步价格为700万美元，6000万美元可扩展至完整系统。
04 强大的数据推理 nvidia megatron
随后黄仁勋还发布了用于训练transformers的超大语言模型的nvidia megatron triton推理服务器。transformers已帮助开发者在自然语言处理领域取得了突破性进展，能够生成文档摘要、将电子邮件中的短语补充完整、甚至让ai根据用户的期望自己编写代码。
nvidia megatron triton是超大型语言模型训练与推理服务器，庞大的transformer模型推理是重大的计算机科学挑战，传统双cpu服务器需要花费1分钟才能响应1项查询。
nvidia megatron
而megatron能够训练transformer模型，可对模型进行划分和匹配，实现gpu和多节点推理并行，megatron triton inference server通过分布式计算，使使用megatron triton的dgx，能在1秒内实现16项查询。
超级计算机的作用除了我们日常看到想到的领域，在很多需要大量推演的领域都有卓越的表现，如量子计算、医疗制药等，新药的研发往往需要耗时10年以上，而失败率高达90%。nvidia dgx superpod可利用深度学习，大幅提高药物研发速度。
05 nvidia ai布局
“ai”我们听起来遥远，但却时刻发生在我们身边。黄仁勋表示，ai是当代最强大的技术力量，并认为ai的发展浪潮会有四轮。
第一轮为重塑计算机用于开发软件的新方式，这是我们所有人切身参与的第一轮革新，迄今已有近10年的历史。
第二轮，也就是第一批ai技术采用者大都来自互联网公司，他们拥有出色的计算机科学家、大型计算基础设施，以及收集大量训练数据的能力。
第三轮将会是企业和产业边缘计算，ai可以彻底改变全球大型企业，包括制造业、物流业、农业、医疗健康、金融服务以及运输业。而完整的产业链要实现ai，5g将是解决连接问题的关键。
第四轮则是自动驾驶系统，这里的ai自动驾驶不仅仅是自动驾驶汽车，它只是一个目前实现ai非常好的例子，而最终形态黄仁勋表示，所有能移动的系统最终都将实现自主化。
ai这个曾经只在电影中出现的名词，如今正潜移默化的改变着我们的生活。黄仁勋说到，我们必须让ai更方便更易用，将ai从计算机科学领域的名词转化为计算机产品。
nvidia ai领域
从目前来看，nvidia已经创建了tensor core gpu、nvlink、dgx、cudnn、rapids、nccl、gpu dirext、doca等众多技术，所有的这些底层技术，统称为nvidia ai。而nvidia ai已集成到所有业内流行的工具和工作流程中，并且可在搭载nvidia gpu的任何系统上运行，包括pc、笔记本电脑、工作站、超级计算机、云平台等。现在缺少的就是5g技术的连接，我们日常所使用的消费级5g技术只是锦上添花，专用5g技术将为ai技术带来革命性的变化。
06 构建强大虚拟世界 nvidia omniverse
人类与 ai 和机器人共存的虚拟实时 3d 世界不再只是科幻小说中的故事情节。
黄仁勋解释说，nvidia omniverse 是一个云原生平台，其特点包括：可以扩展至多个 gpu、具有高物理精度、能够充分运用rtx实时路径追踪和 dlss、可以使用 nvidia mdl 模拟材料、可以使用 nvidia physx 模拟物理学并且与 nvidia ai 完全集成。
他还表示：“omniverse 旨在创建共享虚拟 3d 世界，就像尼尔·斯蒂芬森在 1990 年代早期的小说《雪崩》中所描述的科幻虚拟空间那样。”
bmw ai工厂
随后为了展示omniverse的应用领域，黄仁勋与bmw共同展示了一套逼真的ai工厂，nedeljković表示：“这些创新将帮助我们缩短规划时间、提高灵活性和精度，最终使规划效率提高 30%。
07 nvidia jarvis 运用ai的语音翻译有何不同
nvidia jarvis是一款先进的对话式ai，它可以被定制，并应用于任何领域，用于语音识别、语言、理解、翻译的深度学习的ai。
nvidia jarvis
jarvis可在约100毫秒内进行交互，聆听、理解和相应。nvidia目前已经对jarvis使用数百万gpu小时、超10亿页文本，以及6万小时的不同语言、口音、环境和术语的语音对jarvis进行了训练。根据nvidia的说法，目前这款产品可达到90%的识别精度。
目前jarvis支持5种语言：英语、日语、西班牙语、德语、法语和俄语，未来将会有更多语言加入其中，这使得国际会议将会变得更轻松。
专业术语的翻译
语气调节
同时jarvis还可以针对特定领域术语进行定制训练，如针对科技和医疗场景，在现场黄仁勋还为我们演示了一段语音翻译，即便他自己并不理解自己说的是什么意思，但jarvis完全识别出来。不同于其他翻译软件，jarvis还能根据用户需求来调节朗读的语气，做到真正如ai交互一样。
08 nvidia maxine 可纠正目光接触的会议软件
nvidia maxine同样是一套ai技术软件，它可以大幅改善视频会议体验，在与nvidia jarvis结合使用时，可以实现非常准确的语音转文字。
右侧自动将目光调整为直视镜头
maxine内置目光接触功能，很多时候我们在视频会议中眼神并没有看向摄像头，而打开这一功能maxine会自动纠正与会人的注视位置。
ai面部解码器开
ai面部解码器关
在视频会议中最常见的问题就是带宽不足时，视频质量会严重下降，而maxine可以通过ai面部解码器，有效改善视频质量。
09 nvidia drive 集ai之大成者
自动驾驶汽车领域是 “机器学习和机器人技术所面对的最严峻的挑战之一，同时也是最棘手、影响最大的挑战之一。”
黄仁勋表示，将于2022年投产的 nvidia 自动驾驶汽车计算系统级芯片 —— nvidia drive orin，它也是今后汽车的中央电脑。
nvidia drive orin
orin将处理集群、信息娱乐、乘客交互ai，以及非常重要的信息视图或感知世界模型。信息视图是汽车对周围环境的实际感知，并将其构建成一个3d环绕模型，而黄仁勋也大胆预测通过ai计算，最终后视镜将被环绕3d感知所取代。
随后黄仁勋还宣布推出nvidia第8代hyperion汽车平台，该平台包括参考传感器、av和中央计算机、3d真值、数据记录器、网络和一些必备软件。
hyperion 8场景模拟
与此同时，nvidia新一代车载系统级芯片nvidia drive atlan也一同被推出，它可以为汽车带来真正的数据中心。
nvidia drive atlan
drive atlan可以达到每秒超过1000万亿次（tops）运算次数，致力于应用到2025年的车型。
简单来说atlan集nvidia在ai、汽车、机器人、安全和bluefield安全数据中心领域的所有技术于一体，堪称一项技术奇迹。
10 结语：nvidia只是一个工具
纵观此次gtc 2021大会，我们见到了nvidia对于ai领域的全线布局，我们发现不管是软件上的omniverse、maxine、jarvis还是megatron、dgx、grace、bluefield等，都是为了nvidia ai生态而构建。
单独看他们只是作为nvidia产品中的一环或者是底层技术，但黄仁勋在gtc上的演讲后我们会发现它们将服务于今后的nvidia ai网络，对于ai的投资和布局我们很难在一代产品中看出多大效果，往往需要几代产品的规划。
正如drive atlan一样，它集众多ai技术于一身，相互脱离但又结合紧密，nvidia也正将ai从计算机科学领域的名词转化为计算机产品。
回顾本次大会内容
至于大家都很关心的cpu，我们可以大胆预测一下，虽然目前grace仅用于专业计算领域，但它采用了更高效节能的arm内核，与苹果的m1芯片相同。arm是32位精简指令集（risc）处理器架构，单从性能来讲，x86结构的电脑无论如何都比arm结构的系统在性能方面要快得多、强得多。
但arm的优势不在于性能强大而在于效率，arm采用risc流水线指令集，在完成综合性工作方面根本就处于劣势，而在一些任务相对固定的应用场合其优势就能发挥得淋漓尽致。
目前arm系统几乎都采用linux的操作系统，而且几乎所有的硬件系统都要单独构建自己的系统，与其他系统不能兼容，这也导致其应用软件不能方便移植，这一点一直严重制约了arm系统的发展和应用。
一转身厨房全部由虚拟场景合成
grace的推出在训练巨型人工智能模型的系统上，提供了10倍的性能飞跃。而在nvidia megatron的推理和训练下，并借助dgx和bluefield的帮助，arm生态几乎唾手可得，所以消费级cpu的出现似乎只是时间问题。
最后，对于nvidia ai生态，我们套用黄仁勋最后的演讲，“20年前，这一切仿佛科幻小说；10年前，这是个梦想；今天，我们正在实现这个梦想”。归根结底，nvidia只是一个工具，一个助力您成就毕生事业的工具。
(7663037)