Transformer

编码器是神经网络模型的一部分，用于将输入数据映射到更紧凑的特征空间。它们通常是任务驱动的模块，由多个神经网络组件组成。

Transformer的编码器负责将人类可识别的数据转换为大模型可以处理的形式，并进行特征提取；解码器则用于重建模式，生成新的数据。其架构包括自注意力机制等多重数据处理步骤。