transformer在底层视觉应用上的发展综述
屠红艳1
管其杰2
1.上海电力大学 上海 2013062.华东送变电工程有限公司 上海 201803
摘要：transformer,一种基于自注意机制的序列网络,首次被引入到自然语言处理范畴.由于其强大的长距离特征表示能力以及高性能和对视觉特定感应偏差的需求减少,基于transformer的模型被广泛应用于计算机视觉任务.在各种视觉基准测试中,基于transformer模型性能类似于或优于其他类型的网络,如卷积神经网络和递归神经网络.首先讨论基于transformer的不同底层视觉任务;然后分析了它们的优缺点;最后,总结了视觉transformer存在的问题,并提供了进一步的研究方向.
关键词：transformer计算机视觉深度学习图像生成
论文发表日期：2024-02-28
在线出版日期：2026-05-22（本平台首次上网日期，不代表文献的发表时间）
页数：6( 47-51,57 )