腾讯高管称GPU够训练未来几代模型,GPU更大的需求来自推理

同花顺
同花顺|2025年05月14日 14:49
腾讯高管表示,腾讯有足够的高端芯片来继续训练模型,(芯片)对于未来几代模型而言是足够的。目前腾讯看到对GPU更大的需求是在推理侧,用户推理需求在逐渐增长,推理token(词元)的需求比之前预计的更多。如果做出更先进的模型,推理需求相比目前的需求还会更多,将消耗更多token。目前AI的需求非常高,需求已经超过GPU资源(能提供的算力)。(第一财经)
+4
曾提及
分享至:

脉络

热门快讯

APP下载

X

Telegram

Facebook

Reddit

复制链接

热门阅读