黄仁勋:我们正处在计算领域重大转变的最前沿

6月3日消息,近日,英伟达创始人兼CEO黄仁勋在台北电脑展大会开幕前发表了主题演讲。他表示,AI 正在重塑行业,并为创新和增长带来新机遇。

他认为,目前我们正处在计算领域重大转变的最前沿。“人工智能和加速计算的交汇将重新定义未来。”

黄仁勋表示,NVIDIA 加速平台已经全面投入生产,不仅通过搭载 NVIDIA RTX 技术的 AI PC和消费级设备为游戏玩家和创作者带来全新体验,还支持企业利用 NVIDIA 全栈计算平台构建和部署的 AI 工厂。


“加速计算是计算行业的未来,”黄仁勋表示,“凭借 NVIDIA 在 AI 和加速计算领域的创新,我们正在创造更多可能,推动新一轮技术进步。”

黄仁勋分享了新半导体技术路线图,该路线图将每年更新。 他首次宣布了Rubin 平台,它将配备新 GPU、基于 Arm 的新 CPU — Vera,以及采用 NVLink 6、CX9 SuperNIC 和 X1600、并融合 InfiniBand/以太网交换机的高级网络平台。Rubin 将作为 Blackwell 的下一代平台。

“我们公司的更新节奏是以年为单位。我们的基本理念非常简单:打造数据中心规模,以每年的节奏分步骤实现、并向客户交付产品,在各个领域实现技术突破,”黄仁勋解释道。

NVIDIA 创意团队使用 NVIDIA Inception 初创计划成员提供的 AI 工具来创作 COMPUTEX 主题演讲,该工具基于 NVIDIA NIM 和 NVIDIA 加速计算。本次演讲演示了各种 demo,重点介绍了上述创新工具以及 NVIDIA 技术带来的变革性影响。

黄仁勋在演讲开始时表示,NVIDIA 正在降低将数据转化为智能的成本。

他强调:“加速计算能够实现可持续增长。” 他同时介绍了 GPU 和 CPU 组合如何实现高达100倍的加速计算,同时功耗仅增加三倍,每瓦性能比单独使用 CPU 提高25倍。买的越多,省的越多。” 他强调了这种方法可显著节约成本和能源。

计算机制造商已经纷纷开始采用 NVIDIA GPU 和网络解决方案。永擎电子(ASRock Rack)、华硕(ASUS)、技嘉科技(GIGABYTE)、鸿佰科技(Ingrasys)、英业达(Inventec)、和硕(Pegatron)、云达科技(QCT)、超微(Supermicro)、纬创(Wistron)和纬颖科技(Wiwynn)等企业正在打造基于NVIDIA技术的云、专用系统和边缘AI系统。

NVIDIA MGX™ 模块化参考设计平台加入了对Blackwell产品的支持,包括GB200 NVL2平台,该平台专为大语言模型推理、检索增强生成和数据处理提供卓越的性能而打造。

AMD 和英特尔均支持MGX架构,并首次计划推出基于他们自己CPU主机处理器的模块设计。任何服务器系统制造商都可以使用这些参考设计节省开发时间,并确保设计和性能的一致性。

为了满足AI对高性能以太网网络平台日益增长的需求,黄仁勋宣布了每年推出新的 Spectrum-X产品的计划。

NVIDIA Spectrum-X 是全球首款专为 AI 打造的以太网网络平台,可将网络性能较传统以太网网络平台提升1.6倍。Spectrum-X 能够加快 AI 工作负载的处理、分析和执行速度,进而加快 AI 解决方案的开发和部署速度。

率先采用 Spectrum-X 的 AI 云服务提供商包括 CoreWeave、GMO Internet Group、Lambda、Scaleway、STPX Global 和 Yotta等,他们的 AI 基础设施因此而获得了超强的网络性能。

现在,全球2800万开发者都可以借助 NVIDIA NIM 轻松地创建生成式 AI 应用。NIM 是一种推理微服务,通过以经过优化的容器的形式提供模型,以部署在云、数据中心或工作站上。

NIM 还能帮助企业实现基础设施投资的效果最大化。例如,与未使用 NIM 的情况相比,在 NIM 中运行 Meta Llama 3-8B 所能生成的加速基础设施 AI token 可以提升3倍。

Cadence、Cloudera、Cohesity、DataStax、NetApp、Scale AI 和新思科技等近200家技术合作伙伴正将 NIM 集成到他们的平台中,加快生成式 AI 部署到特定领域应用中的速度,例如copilots、代码助手、数字人虚拟形象等。从 Meta Llama 3开始,在 Hugging Face上现已开始提供 NIM。

“今天我们在 Hugging Face上发布了全面优化的 Llama 3,”黄仁勋表示。“您可以在任何云中运行它。下载该容器,并将其存入数据中心,然后就可以托管,并提供给客户使用。”

搭载 RTX 技术的 NVIDIA RTX AI PC 将通过200多款 RTX AI 笔记本电脑和500多款采用 AI 技术的应用和游戏彻底改变消费者的体验。

RTX 套件和为NVIDIA ACE 数字人平台最新推出的基于 PC 的 NIM 推理微服务,将进一步提高 AI 的可访问性。

另外,NVIDIA 还发布了搭载 RTX 的 AI 助手技术演示 G-Assist 项目,展示了针对 PC 游戏和应用的上下文感知辅助功能。

Microsoft 和 NVIDIA 正在一起帮助开发者将新的生成式 AI 功能加入到他们的 Windows 原生和 Web 应用程序中,使开发者能够通过 API 轻松访问由 RTX 加速的 SLM,作为 Windows Copilot Runtime 的一部分实现在设备上运行的 RAG 功能。

黄仁勋展示了 Foxconn 如何利用 NVIDIA Omniverse、Isaac 和 Metropolis 创建数字孪生,通过结合视觉 AI 与机器人开发工具来实现增强的机器人设施。

“AI 的新一波浪潮是物理 AI。AI 能够理解物理定律,并与人类并肩作战,”黄仁勋表示,他强调了机器人和人工智能在未来发展中的重要性。

NVIDIA Isaac 平台为开发者构建 AI 机器人提供强大的套件,包括由 AI 模型以及Jetson Orin、Thor 等超级计算机驱动的 AMR、工业机械臂和人形机器人。

“机器人和物理 AI 正在成为现实,而不仅是出现在科幻小说。这真的令人兴奋,”黄仁勋补充道。

全球电子行业领导企业正在将 NVIDIA 自主机器人技术集成到他们的工厂中,利用 Omniverse 中的模拟功能来测试和验证物理世界的新一代 AI。全球500多万台预编程机器人也在此行列中。

“机器人将遍布所有工厂。工厂将实现对机器人的统筹,而这些机器人将制造新的机器人产品,”黄仁勋解释道。

黄仁勋强调了 NVIDIA Isaac 在提高工厂和仓库效率方面的作用,比亚迪电子、西门子、泰瑞达、Intrinsic 等全球领先企业都在使用 NVIDIA Isaac 的高级程序库和 AI 模型。

IGX 平台上的 NVIDIA AI Enterprise与凌华科技(ADLINK)、研华科技(Advantech)、ONYX 等合作伙伴共同打造符合严格监管标准的边缘 AI 解决方案,以满足医疗技术等行业的关键需求。(崔玉贤)

极客网企业会员

免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。

2024-06-03
黄仁勋:我们正处在计算领域重大转变的最前沿
“人工智能和加速计算的交汇将重新定义未来。”

长按扫码 阅读全文