极客网·芯片8月25日 GPU市场需求旺盛，导致英伟达 H100 GPU供不应求。根据《金融时报》最近的报道，英伟达预计其最新的H100 GPU今年在全球的销量达到55万块。
对GPU的需求显然来自生成式AI的开发热潮，但高性能计算市场也在尽力抢购。目前尚不清楚这个数字是否包括中国专用的A800和H800 GPU。
另据行业KOL透露，英伟达制造一块H100 GPU的成本为3320美元，而平均零售价约为3万美元，利润高达9倍。
英伟达GPU大部分流向美国公司，中东也在抢购
报道指出，虽然大部分GPU流向美国科技公司，但沙特阿拉伯已经购买了3000多块，阿联酋也购买了数千块。
阿联酋已经在阿布扎比马斯达尔城的国有技术创新研究所开发了自己的开源大型语言模型，这个名为Falcon模型使用了384块A100 GPU。
沙特阿卜杜拉国王科技大学正在建造自己的基于GPU的超级计算机Shaheen III，它采用了700个Grace Hopper芯片，结合了Grace CPU和H100 Tensor Core GPU。这些GPU被用来创建一个LLM。
H100 GPU是英伟达的旗舰产品，具有14592个CUDA内核、80GB HBM3容量、5120位内存总线，平均售价高达3万美元。黄仁勋曾声称，这是公司第一款为生成式AI设计的芯片。
据报道，2023年上半年与2022年全年相比，生成式AI初创企业的投资增长了5倍以上。自从2022年第三季度以来，生成式AI基础设施类别的投资增长已经超过70%。
3320美元成本卖30000，英伟达GPU利润惊人
Nvidia H100 GPU的成本取决于其封装方式以及用户购买的数量。目前(2023年8月)H100 PCIe GPU的零售价约为3万美元(交货时间也可能有所不同)。
粗略估计，到2023年，全球GPU市场支出将达到165亿美元，其中很大一部分资金将流向英伟达。
据《巴伦周刊》资深作家Tae Kim在最近发布的一篇社交媒体帖子中估计，英伟达制造一块H100 GPU的成本为3320美元，而根据其零售价格，这意味获得将近9倍的利润。
有媒体报道，英伟达的合作伙伴台积电的产能，已几乎无法满足GPU的市场需求。GPU需要采用更复杂的CoWoS制造工艺(台积电的一种“2.5D”封装技术，其中多个有源硅芯片，通常是GPU和HBM堆栈，集成在无源硅中间层上) 。使用CoWoS增加了一个复杂的多步骤、高精度的工艺过程，减慢了GPU的生产速度。
英伟达DGX系统副总裁兼总经理Charlie Boyle证实了这一点。Boyle表示，生产的延迟并不是由于台积电的需求计算错误或晶圆产量问题，而是受到芯片封装CoWoS技术的限制。
此外由于可用性降低、大量采购和价格上涨，GPU的供不应求已经开始影响HPC（高性能计算）市场的发展。
- 蜜度索骥：以跨模态检索技术助力“企宣”向上生长
- 64亿美元！又一家巨头获得美国芯片资助，将建4座芯片工厂
- 印度加快芯片产业布局，去年Q4引入的全球能力中心有30%为芯片类
- 英特尔公布：2023年芯片代工业务亏损70亿美元
- 一年估值增长超10倍：芯旺微电子加速进阶车规芯片高端市场
- 建设高端半导体装备，SRII赋能新一代集成电路制造
- 美国政府加大芯片制造激励，英特尔获85亿美元拨款及110亿美元贷款
- ARM开始提供汽车芯片设计方案，不想太过依赖智能手机市场
- 阿里玄铁处理器出货量超40亿颗：RISC-V加速取代X86与ARM？
- 玄铁处理器出货量超40亿颗！2024玄铁RISC-V生态大会在深圳举办
- 达摩院院长张建锋：RISC-V迎来蝶变，进入应用爆发期
免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。
