dataset介紹：

CIFAR-10數(shù)據(jù)介紹

CIFAR-10^3是一個常用的彩色圖片數(shù)據(jù)集，它有10個類別: 'airplane', 'automobile', 'bird', 'cat', 'deer', 'dog', 'frog', 'horse', 'ship', 'truck'。每張圖片都是 3×32×32 ，也即3-通道彩色圖片，分辨率為 32×32 。

下面我們來嘗試實現(xiàn)對CIFAR-10數(shù)據(jù)集的分類，步驟如下:

1、使用torchvision加載并預處理CIFAR-10數(shù)據(jù)集

2、定義網(wǎng)絡

3、定義損失函數(shù)和優(yōu)化器

4、訓練網(wǎng)絡并更新網(wǎng)絡參數(shù)

5、測試網(wǎng)絡

CIFAR-10數(shù)據(jù)加載及預處理

import torchvision as tv

import torchvision.transforms as transforms

from torchvision.transforms import ToPILImage

show = ToPILImage() # 可以把Tensor轉成Image，方便可視化

# 第一次運行程序torchvision會自動下載CIFAR-10數(shù)據(jù)集，

# 大約100M，需花費一定的時間，

# 如果已經(jīng)下載有CIFAR-10，可通過root參數(shù)指定

# 定義對數(shù)據(jù)的預處理

transform = transforms.Compose([

        transforms.ToTensor(), # 轉為Tensor

        transforms.Normalize((0.5, 0.5, 0.5), (0.5, 0.5, 0.5)), # 歸一化

                            ])

# 訓練集

trainset = tv.datasets.CIFAR10(

                    root='/home/自己數(shù)據(jù)集的地址',

                    train=True,

                    download=True,

                    transform=transform)

trainloader = t.utils.data.DataLoader(

                    trainset,

                    batch_size=4,

                    shuffle=True,

                    num_workers=2)

# 測試集

testset = tv.datasets.CIFAR10(

                    '/home/自己數(shù)據(jù)集的地址',

                    train=False,

                    download=True,

                    transform=transform)

testloader = t.utils.data.DataLoader(

                    testset,

                    batch_size=4,

                    shuffle=False,

                    num_workers=2)

classes = ('plane', 'car', 'bird', 'cat',

          'deer', 'dog', 'frog', 'horse', 'ship', 'truck')

定義網(wǎng)絡

拷貝上面的LeNet網(wǎng)絡，修改self.conv1第一個參數(shù)為3通道，因CIFAR-10是3通道彩圖。

import torch.nn as nn

import torch.nn.functional as F

class Net(nn.Module):

    def __init__(self):

        super(Net, self).__init__()

        self.conv1 = nn.Conv2d(3, 6, 5)

        self.conv2 = nn.Conv2d(6, 16, 5) 

        self.fc1  = nn.Linear(16*5*5, 120) 

        self.fc2  = nn.Linear(120, 84)

        self.fc3  = nn.Linear(84, 10)

    def forward(self, x):

        x = F.max_pool2d(F.relu(self.conv1(x)), (2, 2))

        x = F.max_pool2d(F.relu(self.conv2(x)), 2)

        x = x.view(x.size()[0], -1)

        x = F.relu(self.fc1(x))

        x = F.relu(self.fc2(x))

        x = self.fc3(x)       

        return x

net = Net()

print(net)

上邊我們定義的網(wǎng)絡結果

image

定義損失函數(shù)和優(yōu)化器(loss和optimizer）

from torch import optim

criterion = nn.CrossEntropyLoss() # 交叉熵損失函數(shù)

optimizer = optim.SGD(net.parameters(), lr=0.001, momentum=0.9)

訓練網(wǎng)絡

所有網(wǎng)絡的訓練流程都是類似的，不斷地執(zhí)行如下流程：

輸入數(shù)據(jù)

前向傳播+反向傳播

更新參數(shù)

t.set_num_threads(8)

for epoch in range(4): 

    running_loss = 0.0

    for i, data in enumerate(trainloader, 0):

        # 輸入數(shù)據(jù)

        inputs, labels = data

        inputs, labels = Variable(inputs), Variable(labels)

        # 梯度清零

        optimizer.zero_grad()

        # forward + backward

        outputs = net(inputs)

        loss = criterion(outputs, labels)

        loss.backward() 

        # 更新參數(shù)

        optimizer.step()

        # 打印log信息

        running_loss += loss.item()

        if i % 2000 == 1999: # 每2000個batch打印一下訓練狀態(tài)

            print('[%d, %5d] loss: %.3f' \

                  % (epoch+1, i+1, running_loss / 2000))

            running_loss = 0.0

print('Finished Training')

image

image

以上結果對比，我們可以看到增加迭代的輪數(shù)是有利于網(wǎng)絡的訓練，直到loss值趨于一個平緩的值，訓練完成。

來看看網(wǎng)絡有沒有效果。將測試圖片輸入到網(wǎng)絡中，計算它的label，然后與實際的label進行比較。

dataiter = iter(testloader)

images, labels = dataiter.next() # 一個batch返回4張圖片

print('實際的label: ', ' '.join(\

            '%08s'%classes[labels[j]] for j in range(4)))

show(tv.utils.make_grid(images / 2 - 0.5)).resize((400,100))

image

接著計算網(wǎng)絡預測的label：

# 計算圖片在每個類別上的分數(shù)

outputs = net(Variable(images))

# 得分最高的那個類

_, predicted = t.max(outputs.data, 1)

print('預測結果: ', ' '.join('%5s'\

            % classes[predicted[j]] for j in range(4)))···

預測結果: cat ship ship ship

已經(jīng)可以看出效果，準確率50%，但這只是一部分的圖片，再來看看在整個測試集上的效果。

···correct = 0 # 預測正確的圖片數(shù)

total = 0 # 總共的圖片數(shù)

for data in testloader:

    images, labels = data

    outputs = net(Variable(images))

    _, predicted = t.max(outputs.data, 1)

    total += labels.size(0)

    correct += (predicted == labels).sum()

print('10000張測試集中的準確率為: %d %%' % (100 * correct / total))

預測結果:'cat car car plane'

已經(jīng)可以看出效果，準確率50%，但這只是一部分的圖片，再來看看在整個測試集上的效果

correct = 0 # 預測正確的圖片數(shù)

total = 0 # 總共的圖片數(shù)

for data in testloader:

    images, labels = data

    outputs = net(Variable(images))

    _, predicted = t.max(outputs.data, 1)

    total += labels.size(0)

    correct += (predicted == labels).sum()

print('10000張測試集中的準確率為: %d %%' % (100 * correct / total))

image

訓練的準確率遠比隨機猜測(準確率10%)要好很多，所以該網(wǎng)絡還是學到了一些東西。

參考書籍：深度學習框架 pytorch入門與實踐 陳云