10万tokens

AI芯片系列B300和GB300发布，算力相比前代提升50%，显存从192GB增加到288GB，并且包含多个GB300的计算单元被评价为解决推理大模型内存限制的问题。