学术

Token化一切！北大、谷歌等提出TokenFormer，Transformer从未这么灵活过

作者

TokenFormer 是一种新的网络结构，通过在注意力机制中引入参数化键值对，实现了模型的灵活扩展和性能提升。它展示了在语言建模和视觉建模上的卓越能力，并提出了专家混合、参数高效微调、端云协同和增强可解释性等未来研究方向。

创业一年半，胖了30斤，AI大佬感叹：还是回谷歌好

作者

Yi Tay 是一名从谷歌离职的 AI 科学家，他在文章中分享了自己参与创办 Reka 并担任首席科学家的经历以及创业过程中的艰辛。他提到创业给他带来的健康方面的影响，并在回到谷歌从事研究工作的决定上也表示了对文化问题的看法。

100P普惠算力、全周期贴身服务，青岛人工智能计算中心邀您共启智算新纪元！

作者

青岛人工智能计算中心提供超大规模算力集群，支持PUE<1.1的全液冷AI计算集群、融合架构及多种模型微调与推理服务。通过灵活的服务模式和一站式技术支持，助力企业加速创新。