NVIDIA CEO：“我们创造了为生成式 AI 时代而生的处理器”

天生式 AI 有望彻底转变它所涉及的每个行业 —— 控制手艺是驱逐挑衅的关头。

NVIDIA 创始人兼首席执行官黄仁勋宣布了全新的 Blackwell 计较平台，并概述了计较才能的晋升可为软件、办事、手艺、医疗手艺等各个方面带来的庞大前进。

“加快计较已抵达临界点，通用计较已落空能源，”黄仁勋在硅谷伟大的 SAP 中央体育馆对其主题演讲观众说道。GTC 现场聚集了跨越 11,000 名与会者，在线观众数以万计。

“咱们需求一种全新的计较体式格局 —— 由此咱们才能够连续扩大，连续下降计较本钱，并在保障可持续性的同时连续举行越来越多的计较。与通用计较相比，加快计较使每一个行业都可以大幅提速。”

黄仁勋站在网球场巨细的 40 英尺高 8K 屏幕前，向挤满了首席执行官、开发者、AI 爱好者和企业家的人群揭晓演讲。

为了推进天下 AI 根底办法完成大规模进级的目的，黄仁勋宣布了 NVIDIA Blackwell 平台，该平台拥有对万亿参数大言语模子举行及时天生的才能。

黄仁勋先容了 NVIDIA 推理微办事，即 NVIDIA NIM。这是一种全新的软件打包和托付体式格局，可以或许将开发者与数亿个 GPU 连贯起来，以安排种种定制 AI。

黄仁勋还先容了 Omniverse Cloud API，它能够供应进步前辈的模仿才能，将 AI 引入物理天下。

演讲的序幕，黄仁勋进行了精美演示，讲解了与一些大型企业的分工火伴瓜葛生态，还细致先容了跨越二十项宣布来论述其愿景，以此为 GTC 2024 的重磅宣布画上了完美的句号。

GTC 大会曾经开展了 15 年，从最后在一个当地酒店宴客堂举行，到现在进展成为了环球最首要的 AI 大会。本次大会是近五年来初次复原线下。

往年的大会包括跨越 900 场集会，此中包孕由黄仁勋掌管的无关 Transformer 的专家讨论会，时期将与首批开辟该手艺的八位前驱们对话。另外，另有跨越 300 个展示和 20 多个手艺研讨会。

GTC 是一个简直触及所有畛域的 AI 嘉会。在收场致辞中，环球当先的 AI 艺术家 Refik Anadol 带来了惊艳的演出，展示了一座伟大的及时 AI 数据雕塑，屏幕上显现着绿色、蓝色、黄色和赤色的动摇状漩涡，翻滚，交错和散落。

黄仁勋在演讲开始时说明说，多模态 AI 的突起——可以或许处来由分歧模子担任的多样化数据范例——赋与了 AI 更大的适应性和才能。经由过程增添参数，这些模子能够处置更庞杂的阐发使命。

但这也意味着对计较才能的需要显著回升。跟着这些合作、多模态体系变得加倍庞杂（参数多达万亿），对进步前辈计较根底办法的需要也随之增添。

“咱们需求更大的模子，”黄仁勋暗示，“咱们将应用多模态数据来锻炼它，而不但仅是互联网上的文本。咱们将应用文本和图象、图形和图表来锻炼它，就像咱们从电视中进修同样，它也需要从海量视频中进修。”

新一代加快计较

黄仁勋说：“咱们需求更大的 GPU”。 Blackwell 平台便是为了应答这一挑衅而构建的。他从口袋里取出一块 Blackwell 芯片，将它与 Hopper 芯片并排举起，后者显得小了一些。

新架构以一名加州大学伯克利分校的数学家 David Harold Blackwell 而定名。他特地研讨博弈论和统计学，也是第一位当选美国国度科学院的黑人学者。新架构逾越了两年前推出的 NVIDIA Hopper 架构。

Blackwell 在单芯片锻炼方面的 FP8 功能是其上一代架构的 2.5 倍，在推理方面的 FP4 功能是其上一代架构的 5 倍。它拥有第五代 NVLink 互连，速率是 Hopper 的两倍，而且可扩大至 576 个 GPU。

NVIDIA GB200 Grace Blackwell 超等芯片经由过程 900GB/s 超低功耗的 NVLink 芯片间互连，将两个 Blackwell NVIDIA B200 Tensor Core GPU 连接到 NVIDIA Grace CPU。

黄仁勋举起一块带有体系的电路板说道：“这台计算机是同类计算机中的第一台，可以或许在这么小的空间包容云云多的计较量。因为它的内存是联贯的，觉得就像一个幸运的小家庭一路开辟一个使用步伐。”

为了取得最高的 AI 功能，基于 GB200 的体系能够与本日宣布的 NVIDIA Quantum-X800 InfiniBand 和 Spectrum-X800 以太网平台连贯，这些平台可提供速率高达 800Gb/s 的高等网络。

“如许咱们能够大量地节减动力、网络带宽量和时候。”黄仁勋暗示，“将来将是可天生的，这便是为何这是一个全新的行业。咱们的计较体式格局有本色差别，以是 NVIDIA 为天生式 AI 时期打造了一款全新。”

为了扩充 Blackwell 的范围，NVIDIA 构建了一款名为 NVLink Switch 的新芯片。每一个芯片能够以每秒 1.8 TB 的速率连贯四个 NVLink，并经由过程缩小网络内流量来排除流量拥塞。

NVIDIA Switch 和 GB200 是黄仁勋所称的 “一个巨型 GPU” ，也是 NVIDIA GB200 NVL72 的关头组件。NVIDIA GB200 NVL72 是一种多节点、液冷、机架级体系，应用 Blackwell 为万亿参数模子供应强力计较，在单个机架中可完成 720 petaflops 的 AI 锻炼功能和 1.4 exaflops 的 AI 推理功能。

该机械包括 600,000 个整机，重 3,000 磅。黄仁勋在先容此台机械时说道：“此时现在，地球上或许惟独三台百亿亿次浮点运算机械。而这是一个繁多机架中的1个百亿亿次浮点运算 AI 体系。”

另外，NVIDIA 还推出了更壮大的新一代 AI 超等计算机 —— 由 NVIDIA GB200 Grace Blackwell 超等芯片供应支撑的 NVIDIA DGX SuperPOD，可用于处置万亿参数模子，并拥有继续的失常运转时候，以完成超大范围天生式 AI 锻炼和推理事情负载。

全新 DGX SuperPOD 接纳新型高效液冷机架范围架构，接纳 NVIDIA DG GB200 体系构建，可在 FP4 精度下供应 11.5 exaflops 的 AI 超等计较才能和 240 TB 的倏地内存，并可经由过程额定的机架举行扩大。

“将来，数据中央将成为 AI 工场”，黄仁勋说，“AI 工场的任务是制造支出，同时也制造智能。”

Blackwell 曾经受到了各行各业的接待，并取得多个行业领导者的支撑，此中包孕Alphabet 及 谷歌的首席执行官 Sundar Pichai，Amazon 首席执行官 Andy Jassy，Dell 首席执行官 Michael Dell, 谷歌 DeepMind 首席执行官 Demis Hassabis，Meta 首席执行官 Mark Zuckerberg，Microsoft 首席执行官 Satya Nadella，OpenAI 首席执行官 Sam Altman，Oracle 董事长 Larry Ellison和Tesla和xAI 首席执行官Elon Musk。

Blackwell 正在被环球各大办事提供商当先的 AI 公司体系和服务器供应商，以及天下各地地区办事提供商和电信公司接纳全部行业都在为 Blackwell 做准备暗示。

NVIDIA NIM 软件包依据 NVIDIA加快计较天生式 AI模子构建将来咱们若何构建软件？你不太大概重新开端编写，也不太可能写一大堆 Python 代码近似货色极可能你只需要组建一支 AI 团队就够了。”

这些办事支撑行业规范 API，易于连贯，可在 NVIDIA重大的 CUDA装置基础上事情，针对新 GPU举行从新优化不息扫描平安缝隙要挟暗示，客户能够应用现成的 NIM办事或许 NVIDIA认为之构建专属的AI 和 AI 助手，为特定公司所需模子业余技艺供应特地锻炼，以助力建立珍贵办事。

“企业IT行业正坐在一座‘金矿’上，”黄仁勋说道， “他们领有多年来建立的所有这些使人齰舌对象（和数据假如他们能把这个‘金矿酿成 AI 助手，就能给用户供应更多大概当先的科技公司曾经开端行径细致先容了 NVIDIA若何赞助 Cohesity、NetApp、SAP、ServiceNow 和 Snowflake 构建 AI 助手虚构助理。各行各业纷纭到场队列。

在电信畛域发布推出 NVIDIA 6G研讨云，这是一个由 AI 和 Omniverse支撑天生平台，旨在推进下一个通讯时期进展接纳 NVIDIA 的 Sionna 神经无线电框架、NVIDIA Aerial CUDA加快无线电接入网络和 NVIDIA Aerial Omniverse Digital Twin for 6G 构建。

在半导体设想创造畛域发布，NVIDIA 正在与 TSMC 和 Synopsys分工，将其突破性计较光刻平台 cuLitho 投入出产。该平台将把半导体创造计较麋集事情负载加快 40-60发布了 NVIDIA 地球气象数字孪生。该云平台现已推出完成交互式高分辨率模仿加快气象气象预告暗示，AI 的最大影响将体现在医疗畛域，NVIDIA曾经涉足成像体系、基因测序仪器，并与当先的手术机器人公司分工。

NVIDIA 正在推出一种新型生物学软件。 NVIDIA本日宣布了二十多个办事环球医疗企业可以或许在任处所、任何应用天生式 AI 的最新发展。这些办事可提供进步前辈的成像天然语言和语音辨认，以及数字生物学天生展望模仿性能。

Omniverse 将 AI 引入物理天下

下一波 AI海潮将是 AI 对物理天下进修，黄仁勋说道暗示咱们需求一个模仿引擎，来以数字体式格局为机器人显现天下如许机器人就有了一个进修若何成为机器人的‘健身房咱们称这个虚构天下为 Omniverse是以，NVIDIA发布将以 API方式供应 NVIDIA Omniverse Cloud，从而将环球当先的工业数字孪生使用和工作流建立平台遮盖局限扩展到全部软件制造商生态体系。

借助五个全新 Omniverse Cloud使用编程接口（API），开发者可以或许轻松地将 Omniverse焦点手艺间接集成到现有的数字孪生设想与自动化软件使用中，或是集成到用于测试考证机器人主动驾驶汽车自立机械的仿真工作流中。

为了展示事情道理，黄仁勋分享了一个机器人堆栈的演示应用多摄像头感知和追踪，看顾工人谐和机器人叉车全部机器人客栈运转的情况下，这些叉车可以或许完成主动驾驶发布，NVIDIA 将把 Omniverse 引入 Apple Vision Pro经由过程新的 Omniverse Cloud API，开发者能够将交互式工业数字孪生流式传输到 VR 头显中。

一些环球大型工业软件制造商正在接纳 Omniverse Cloud API包孕 Ansys、Cadence体系旗下 3DEXCITE 品牌、Hexagon、微软、罗克韦尔自动化、西门子和 Trimble 等。

机器人手艺

为了赞助机器人更好地感知所处环境宣布了 Isaac Perceptor 软件开辟工具包，该工具包拥有进步前辈的多摄像头视觉里程计、3D 重建和占用舆图，以及深度感知性能。

为了机器臂更具适应性，NVIDIA发布推出 Isaac Manipulator —— 一个进步前辈机器臂感知门路计划和运动学操纵最初发布了 Project GR00T，这是一个为人形机器人设想的通用根底模子，旨在进一步推进 NVIDIA 在机器人手艺和具身智能方面的突破性事情。

为了支撑这一起劲，黄仁勋推出了一款用于人形机器人的新型计算机 Jetson Thor，它基于 NVIDIA Thor体系级芯片，并对 NVIDIA Isaac 机器人平台进行了庞大进级。

演讲靠近序幕之时，黄仁勋展示了来自迪士尼研究院的一对由 NVIDIA 驱动的小型暗示：“计算机图形学、物理学和AI 是 NVIDIA魂魄地点天生式 AI时期统统转变都有大概产生。”