GPU需求增长但费用高昂,微云服务成为企业新宠

极客网·云计算5月15日 GPU的需求如今呈现出极大的增长,它们对于运行和训练生成式人工智能(GenAI)模型来说至关重要。微云(microclouds)提供的GPU服务可能成为一种可行的替代方案。微云市场规模正在快速增长。CoreWeave、Lambda Labs、Voltage Park和Together AI等企业处于微云市场的最前沿。CoreWeave最初是一家加密货币挖矿企业,如今成功转型成为GPU基础设施的主要提供商。

GPU需求增长但费用高昂,微云服务成为企业新宠.jpg

这种转变揭示了一个更广泛的趋势——企业正日益依赖于云托管的GPU服务。这一转变的驱动因素主要包括安装和维护硬件的高昂成本以及复杂的技术要求。由于公有云提供商通常不会对这些计算服务提供更多的折扣,微云为许多企业提供了更加灵活、经济高效的解决途径。

为什么一些企业不再坚持使用AWS、谷歌云和微软Azure提供的传统云服务?而这些服务也提供了一系列GPU资源。其答案是“成本”。对于需要采用GPU的AI项目来说,微云通常是更具成本效益的一种解决方案。与Azure或谷歌云相比,企业在CoreWeave或其他微云平台上租用主流的GPU(例如Nvidia A100 40GB)可以显著降低成本。

企业采用微云仍需谨慎

尽管微云行业发展充满活力,但其未来前景仍然存在一定的不确定性。微云供应商保持业务增长取决于能否确保GPU的持续供应以及维持具有竞争力的价格。此外,随着全球主要云计算提供商投资于定制的AI处理硬件,市场竞争压力可能会进一步加剧,大型云计算提供商将通过降低价格和提升服务质量以保持竞争力。

此外,虽然GPU目前更适合生成式AI任务,因为它们的运行速度和同时处理许多事情的能力,但并非所有AI工作负载都需要采用GPU。大多数GenAI工作负载并不需要如此强大的GPU性能。如今,它们往往更像是一种身份象征,而非必需品。

CPU仍然在处理对时间要求不太严格的任务中发挥着重要作用,这些任务通常可以容忍较低的处理速度。芯片厂商正在积极研发一些具有发展前景的新型GPU,它们可能将以更低的成本为生GenAI提供更加高效的处理能力。

使用任何资源(包括处理器)的核心目标都是“少花钱,多办事”。对于大多数AI用例来说,其高昂的成本将使许多企业从AI的炒作中回归现实。

微云的美好未来

对于那些可能被炒作蒙蔽双眼的企业来说,这是一个值得警惕的消息。从微云的近期发展来看,其市场呈现出乐观的态势。分析人士预计,新兴的GenAI领域将继续推动对微云的需求,这为更多以GPU为中心的AI云初创公司提供强大的发展动力。

对于需要GPU支持的项目,企业应该优先考虑能够充分利用GPU的解决方案,因为成本不是这些架构选择的主要决定因素。

微云提供商可能会对传统云计算提供商带来显著的竞争压力,特别是对于那些寻求采用更新、更经济的技术来管理其多云环境的客户而言。许多企业正在面临云计算成本高昂的挑战,这些成本往往超出了他们的预算。因此,更为经济实惠的替代品在市场上更受欢迎。

大约20年前,主要参与者开始在云计算市场崭露头角。在2012年到2016年期间,随着云计算市场的逐步成熟和规范,原本数十家云计算提供商最终只剩下几家具有显著竞争优势的云巨头。

任何新兴的云计算提供商都有很多顾虑。他们可能会面临资金短缺和市场竞争的压力,或者经历无法预见的挑战和灾难。这些公司在未来很可能被更大的云计算提供商收购,虽然在收购和整合过程可能会带来一些困扰和挑战,但大多数公司都能实现更大的发展。因此,微云的未来前景依然光明,将会发挥更加重要的作用。

极客网企业会员

免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。

2024-05-15
GPU需求增长但费用高昂,微云服务成为企业新宠
GPU的需求如今呈现出极大的增长,它们对于运行和训练生成式人工智能(GenAI)模型来说至关重要。微云(microclouds)提供的GPU服务可能成为一种可行的替代方案。微云市场规模正在快速增长。

长按扫码 阅读全文