顶尖科学家Rob Fergus重掌FAIR,15万引用学者回归Meta,战略转向AGI
Meta FAIR新负责人Rob Fergus回归,并接替离职的前一任负责人Joelle Pineau。FAIR的新目标是高级机器智能(AGI)。Rob Fergus是一位多产学者,曾在谷歌DeepMind和Facebook AI Research实验室工作。
Meta FAIR新负责人Rob Fergus回归,并接替离职的前一任负责人Joelle Pineau。FAIR的新目标是高级机器智能(AGI)。Rob Fergus是一位多产学者,曾在谷歌DeepMind和Facebook AI Research实验室工作。
Meta FAIR团队提出多token注意力机制(MTA),利用键-查询卷积和头混合卷积,显著提升Transformer模型的性能。通过结合不同查询和键信息,实现精准的信息处理,解决传统注意力机制在复杂信息检索中的不足。