注明：报告内容归原作者所有，如有侵权联删，AIoT库作为内容整理方，仅作为学习使用，否则后果自负。

Transformer大模型在自动驾驶中应用趋势明确。Transformer基于Attention机制，凭借优秀的长序列处理能力和更高的并行计算效率，2021年由特斯拉引入自动驾驶领域。Transformer与CNN相比最大的优势在于其泛化性更强。CNN只能对标注过的物体进行相似度的比对，通过不断学习完成对该物体识别的任务；而Transformer 可以通过注意力层的结构找到更基本的元素与元素间之间多个维度的相关信息进而找到一种更泛化的相似规律，进而提高自动驾驶的泛化能力。