壁仞科技张文:如何再降低大模型成本?

在第四届BEYOND国际科技创新博览会上,壁仞科技创始人张文分享了自己对AI大模型的看法。张文表示,AI大模型的成本降低可以从三个方面,包括芯片、系统、集群能力三个维度,“芯片层面,过去训练一个AI大模型可能需要几个月时间,现在随着芯片算力增大,包括带宽增加,可能缩短到几个星期。系统维度,可能我们将来把CPU、GPU和DPU架构融合起来,可以提高系统集群能力,现在集群做的越来越好,算力的效率也大幅提升。”(新浪科技)

本站内容来源于网络或网友发布,如有侵权请点此联系

(0)

相关推荐

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注