本文将一步步建立和训练一个深度学习模型,以达到分类猫和狗的目的。阅读者只要有一些高中数学基础和python编程经验就足够了!

1.安装程序

为了简单起见,我们将在云GPU(什么是GPU)上运行模型。可以通过以下链接了解GPU在深度学习中的重要性:https://towardsdatascience.com/what-is-a-gpu-and-do-you-need-one-in-deep-learning-718b9597aa0d 。

有很多服务提供免费和付费的云GPU实例。我们将使用Gradient,它提供免费的GPU和CPU实例层。我们也将使用fast.ai的vision库来创建模型。

  1. 首先点击这里创建一个Gradient帐户:https://console.paperspace.com/signup?gradient=true ;
  2. 登录你的帐户并选择“Gradient”;
  3. 单击“Notebook”;
  4. 为实例命名(可选);
  5. 选择Paperspace + Fast.AI基本容器;

打开网易新闻 查看精彩图片

  1. 选择任意一个免费的GPU实例;

打开网易新闻 查看精彩图片

  1. 单击“Create Notebook”;

打开网易新闻 查看精彩图片

你的Notebook 将从挂起→设置→运行!

  1. 单击“OPEN V1(CLASSIC)”按钮;

对于这个模型,我们将从Bing和DuckDuckGo上获取图像,它们将作为数据集。我们将安装Joe Dockrill编写的jmd_imagescraper库,这将为我们完成任务。

  1. 单击 New →Terminal。

打开网易新闻 查看精彩图片

键入并单击enter:

!pipinstall-qjmd_imagescraper

有关库的更多信息,请访问其官方页面:https://joedockrill.github.io/blog/2020/09/18/jmd-imagescraper-library/

这把我们带到了设置的最后。关闭终端,再次打开Notebook。编码时间到了!

Jupyter Notebook

Jupyter Notebook是一个web应用程序,允许你创建包含实时代码、公式和文本的文档。你可以做任何事情,从编写代码到发布,以及使用Voilá构建独立的web应用程序!我们将在Gradient提供的Jupyter Notebook上编写和执行代码。

Jupyter Notebook由许多单元组成,可以通过确定执行单元格的顺序来控制工作流。

单击New→Python3打开一个新的Notebook。

打开网易新闻 查看精彩图片

你可以编写文本(在标记单元格中)或编写python代码(在代码单元格中)并按如下方式执行:

打开网易新闻 查看精彩图片

使用Run和add cells选项分别执行代码和添加更多单元格。

2.代码

可以把每个代码块复制到不同的单元上,然后运行它们。

我们先导入fast.ai的vision库和jmd_imagescraper。

!pipinstall-Uqqfastbookimportfastbook#导入fast.ai库fromfastbookimport*#别担心,它被设计成与import*一起工作fastbook.setup_book()fromfastai.vision.widgetsimport*#导入图片爬取器,website:https://joedockrill.github.io/blog/2020/09/18/jmd-imagescraper-library/fromjmd_imagescraper.coreimport*frompathlibimportPathfromjmd_imagescraper.imagecleanerimport*

因为我们的目标是对猫和狗的图像进行分类,所以可以建立一个名为“animals”的文件夹,我们可以下载并保存图像。

最后一行将path变量设置为当前工作目录中的“animals”文件夹。

animals=['cat','dog']path=Path().cwd()/"animals"#指定当前工作目录的路径

从jmd_imagescraper库调用duckduckgo_search()函数,该函数接受以下内容作为输入:

  1. 下载目录(上面指定的路径变量);
  2. 文件夹名称(cat);
  3. 搜索DuckDuckGo(“猫”)的关键字;
  4. 要下载的图像数(100)。

duckduckgo_search(path,"cat","cats",max_results=100)#下载100张“猫”图片并保存到path/cat中

等到它搜索图像,下载并直接保存到“animals”中名为“cat”的文件夹中。结果应该如下所示:

打开网易新闻 查看精彩图片

现在让我们对狗的图像做同样的处理。

duckduckgo_search(path,"dog","dogs",max_results=100)#下载100张“狗”图片并保存到path/dog中

通常会有一些不相关的图像,这会妨碍训练,所以我们删除个别文件。Jupyter提供了一个删除无关图像的交互式GUI。

display_image_cleaner(path)

打开网易新闻 查看精彩图片

在文件夹之间切换并删除不相关的图像。我发现一些像这样的图片偷偷地进入了猫和狗的系列。

打开网易新闻 查看精彩图片

fns=get_image_files(path)fns

查找失败的下载并从文件夹中取消链接。

failed=verify_images(fns)#寻找非图像文件failed

failed.map(Path.unlink);#从文件夹中取消失败文件的链接

现在让我们创建一个Datablock对象,它将图像发送到DataLoaders类。DataLoaders类将给定的数据转换为学习者可以解释的信息。

直觉上,学习者是一个观察所有给定图像并找到模式的人。如果遇到复杂的关键字,不要担心,一旦你运行模型,一切都会变得有意义。

animals=DataBlock(blocks=(ImageBlock,CategoryBlock),get_items=get_image_files,splitter=RandomSplitter(valid_pct=0.2,seed=42),#将数据集拆分为训练集和验证集get_y=parent_label,item_tfms=RandomResizedCrop(224,min_scale=0.5),batch_tfms=aug_transforms())

需要注意的是在第4行中,我们保留了20%的数据,以便在每个称为epoch训练结束时检查模型。

创建一个名为dls的DataLoaders对象。

dls=animals.dataloaders(path)

看看dls对象中单个批处理中的几个图像。

dls.valid.show_batch(max_n=4,nrows=1)

打开网易新闻 查看精彩图片

要求一个学习者在4个不同的训练迭代或时期中根据输入图像进行学习。这需要一些时间,这取决于你的网络速度。

learn=cnn_learner(dls,resnet18,metrics=error_rate)#训练我们的模型learn.fine_tune(4)

打开网易新闻 查看精彩图片

你可能不会看到与图像中相同的结果,但是错误率应该小于0.05。

现在我们为验证集绘制一个混淆矩阵。混淆矩阵告诉我们验证集中有多少图像被正确或错误地分类。

interp=ClassificationInterpretation.from_learner(learn)interp.plot_confusion_matrix()#绘制混淆矩阵

打开网易新闻 查看精彩图片

混淆矩阵说明我们的分类器有多好。深蓝色对角线上显示的数字告诉我们正确预测图像的数量。因此分类器做得很好!

我们将在下一行代码中看到两幅错误预测的图片。

interp.plot_top_losses(5,nrows=1)

打开网易新闻 查看精彩图片

现在让我们对模型进行真正的测试,好吗?下载你选择的猫或狗图像并保存在本地。

learn.export()path=Path()path.ls(file_exts='.pkl')learn_inf=load_learner(path/'export.pkl')btn_upload=widgets.FileUpload()#显示可用于从系统上传图像的小部件btn_upload

这将在你的Jupyter Notebook中创建一个小部件,如下所示:

打开网易新闻 查看精彩图片

点击上传并选择你的图片。

现在我们调整图像大小,以便模型可以预测。最后一行显示调整大小的图像。

img=PILImage.create(btn_upload.data[-1])out_pl=widgets.Output()out_pl.clear_output()without_pl:display(img.to_thumb(128,128))#调整图像的大小out_pl

打开网易新闻 查看精彩图片

下面的代码预测图像中的动物,并以我们可以理解的格式显示它。