昆仑万维旗下Opera全新AI服务器集群落地大模型推理速度提高30倍

据昆仑万维消息,近日,昆仑万维旗下海外信息分发及元宇宙平台Opera宣布,公司在冰岛凯夫拉维克部署了一套全新的、完全由绿色能源驱动的人工智能(AI)服务器集群。该集群能够为Opera提供先进的AI超级计算能力,并有效简化生产级AI应用的开发和部署过程,为Opera未来更多生成式AI服务打下基础。与上一代GPU相比,搭载NVIDIAH100TensorCoreGPU的方案能让AI训练速度提高4倍,大语言模型推理速度提高30倍。

本站内容来源于网络或网友发布,如有侵权请点此联系

(0)

相关推荐

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注