PyTorch 2.0 深度学习入门与实战指南

PyTorch 的核心是 Tensor，支持 GPU 加速。Autograd 模块自动计算梯度。

x = torch.tensor([1.0, 2.0], requires_grad=True)
y = x * 2 + 3
loss = y.sum()
loss.backward()
print(x.grad) # 输出梯度

3.2 MNIST 手写体分类

MNIST 数据集包含 0-9 的手写数字图像，是经典的入门任务。

3.2.1 数据加载

from torchvision import datasets, transforms
from torch.utils.data import DataLoader

transform = transforms.Compose([transforms.ToTensor(), transforms.Normalize((0.5,), (0.5,))])
train_dataset = datasets.MNIST(root='./data', train=True, download=True, transform=transform)
train_loader = DataLoader(train_dataset, batch_size=64, shuffle=True)

3.2.2 模型定义

使用多层感知机 (MLP) 或卷积神经网络 (CNN)。

import torch.nn as nn

class Net(nn.Module):
    def __init__(self):
        super(Net, self).__init__()
        self.conv1 = nn.Conv2d(1, 32, 3, 1)
        self.conv2 = nn.Conv2d(32, 64, 3, 1)
        self.dropout1 = nn.Dropout(0.25)
        self.dropout2 = nn.Dropout(0.5)
        self.fc1 = nn.Linear(9216, 128)
        self.fc2 = nn.Linear(128, 10)

    def forward(self, x):
        x = self.conv1(x)
        x = nn.functional.relu(x)
        x = self.conv2(x)
        x = nn.functional.relu(x)
        x = nn.functional.max_pool2d(x, 2)
        x = self.dropout1(x)
        x = torch.flatten(x, 1)
        x = self.fc1(x)
        x = nn.functional.relu(x)
        x = self.dropout2(x)
        x = self.fc2(x)
        return x

3.2.3 训练循环

model = Net()
optimizer = torch.optim.Adam(model.parameters(), lr=0.001)

for epoch in range(5):
    for data, target in train_loader:
        optimizer.zero_grad()
        output = model(data)
        loss = nn.functional.cross_entropy(output, target)
        loss.backward()
        optimizer.step()

4. 进阶模型与可视化

4.1 ResNet 残差网络

ResNet 通过引入跳跃连接解决了深层网络退化问题。PyTorch 提供了预训练的 ResNet 模型。

from torchvision.models import resnet18
model = resnet18(weights='DEFAULT')

4.2 模型可视化

使用 Netron 或 TensorBoard 查看模型结构及训练过程。

pip install tensorboardX

记录训练指标：

from torch.utils.tensorboard import SummaryWriter
writer = SummaryWriter('logs/runs')
writer.add_scalar('Loss/train', loss.item(), epoch)
writer.close()

5. 自然语言处理 (NLP)

5.1 Word Embedding

词向量将单词映射为稠密向量，捕捉语义信息。常用方法包括 Word2Vec、FastText。

5.2 循环神经网络 (RNN)

RNN 及其变体 LSTM、GRU 适合处理序列数据，如情感分析。

import torch.nn as nn

class RNNClassifier(nn.Module):
    def __init__(self, vocab_size, embed_dim, hidden_dim, num_layers):
        super().__init__()
        self.embedding = nn.Embedding(vocab_size, embed_dim)
        self.lstm = nn.LSTM(embed_dim, hidden_dim, num_layers, batch_first=True)
        self.fc = nn.Linear(hidden_dim, 2)

    def forward(self, x):
        embed = self.embedding(x)
        out, _ = self.lstm(embed)
        out = self.fc(out[:, -1, :])
        return out

5.3 BERT 预训练模型

BERT 基于 Transformer 架构，通过掩码语言建模进行预训练。

from transformers import BertTokenizer, BertModel

tokenizer = BertTokenizer.from_pretrained('bert-base-chinese')
model = BertModel.from_pretrained('bert-base-chinese')
inputs = tokenizer("深度学习很有趣", return_tensors="pt")
outputs = model(**inputs)

6. 强化学习与语音识别

6.1 强化学习 (RL)

强化学习通过与环境交互来最大化累积奖励。PPO (Proximal Policy Optimization) 是常用的稳定算法。

6.2 语音唤醒

基于 MFCC (梅尔频率倒谱系数) 特征提取声音信号，结合 CNN 进行分类。

6.3 人脸识别

使用 Siamese Network (孪生网络) 计算两张人脸图片的相似度，配合 Contrastive Loss 进行训练。

7. 总结

PyTorch 2.0 为开发者提供了高效、灵活的深度学习工具链。从环境搭建到模型部署，掌握其核心概念与实践技巧是进入 AI 领域的关键。建议结合官方文档与开源项目持续练习，深入理解反向传播、优化器选择及超参数调优等细节。

注：本文内容基于 PyTorch 通用技术体系整理，旨在提供系统化的学习路径参考。