Python从0到100（九十七）：VisionTransformer（ViT）在时间序列行为识别中的应用

Ne0inhk

20 Mar 2026 — 3 min read

前言：零基础学Python：Python从0到100最新最全教程。想做这件事情很久了，这次我更新了自己所写过的所有博客，汇集成了Python从0到100，共一百节课，帮助大家一个月时间里从零基础到学习Python基础语法、Python爬虫、Web开发、计算机视觉、机器学习、神经网络以及人工智能相关知识，成为学业升学和工作就业的先行者！
【优惠信息】 • 新专栏订阅前500名享9.9元优惠 • 订阅量破500后价格上涨至19.9元 • 订阅本专栏可免费加入粉丝福利群，享受：
- 所有问题解答
-专属福利领取

欢迎大家订阅专栏：零基础学Python：Python从0到100最新最全教程！

VisionTransformer（ViT） 是一种基于Transformer架构的创新模型，近年来在计算机视觉领域掀起了不小的波澜。它通过引入多头自注意力机制（Multi Self-Attention），抛弃了传统卷积神经网络（CNN）的局部特征提取方式，转而以全局视角处理图像数据。

一、VisionTransformer的基础原理

1. 传统卷积的瓶颈与挑战

传统卷积神经网络（CNN）在图像处理中长期占据主导地位，但随着任务复杂度和数据规模的增加，它的局限性逐渐显现：

计算效率低下：卷积操作需要对每个通道进行全局交互，参数量和计算量随着通道数的增加呈爆炸式增长，特别是在深层网络中，这会导致训练和推理耗时严重，GPU显存占用高。
局部感知限制：CNN通过局部感受野提取特征，虽然高效，但难以直接捕捉图像中的长距离依赖关系或全局信息。
灵活性不足：CNN的结构设计通常针对特定任务优化，迁移到其他任务或数据类型时，往往需要大幅调整。

这些问题促使研究者寻找新的解决方案，而VisionTransformer正是这一背景下诞生的产物。