Theano层的功能和特征提取 - 基于nolear建立的ConvNet体系结构并用它去训练一个特征提取器

现在可以创建theano编译的函数了，它将前馈输入数据输送到结构体系中，甚至是你感兴趣的某一层中。接着，我会得到输出层的函数和输出层前面的稠密层函数。
dense_layer = layers.get_output(net1.layers_['dense'], deterministic=True)
output_layer = layers.get_output(net1.layers_['output'], deterministic=True)
input_var = net1.layers_['input'].input_var
f_output = theano.function([input_var], output_layer)
f_dense = theano.function([input_var], dense_layer)

如你所视，我们现在有两个theano函数，分别是f_output和f_dense（用于输出层和稠密层）。请注意，在这里为了得到这些层，我们使用了一个额外的叫做“deterministic”的参数，这是为了避免dropout层影响我们的前馈操作。

现在，我们可以把实例转换为输入格式，然后输入到theano函数输出层中：
instance = X_test[0][None, :, :]
%timeit -n 500 f_output(instance)
500 loops, best of 3: 858 µs per loop

如你所视，f_output函数平均需要858µs。我们同样可以为这个实例绘制输出层激活值结果：
pred = f_output(instance)
N = pred.shape[1]
plt.bar(range(N), pred.ravel())

上面的代码将绘制出下面的图：

 

正如你所看到的，数字被认为是7。事实是为任何网络层创建theano函数都是非常有用的，因为你可以创建一个函数（像我们以前一样）得到稠密层（输出层前一个）的激活值，然后你可以使用这些激活值作为特征，并且使用你的神经网络作为特征提取器而不是分类器。现在，让我们为稠密层绘制256个激活单元：
pred = f_dense(instance)
N = pred.shape[1]
plt.bar(range(N), pred.ravel())

上面的代码将绘制下面的图：

现在，你可以使用输出的这256个激活值作为线性分类器如Logistic回归或支持向量机的特征了。

最后，我希望你会喜欢这个教程。

作者简介：Christian S.Peron，遗传算法框架Pyevolve（基于Python编写的）的作者，现任惠普软件设计师。可通过christian dot perone at gmail dot com 联系。

关于译者： 刘帝伟，中南大学软件学院在读研究生，关注机器学习、数据挖掘及生物信息领域。