超长上下文

Anthropic CEO预测几年内将出现月费10万美元的AI模型，支持1亿词上下文窗口。Google Research论文解释了如何实现这一目标：通过「临时便签」机制在不改变权重的情况下学习超长上下文。