当前位置：首页 > news >正文

Matconvnet关于simplenn 转dagnn的一些小的总结

news 来源：原创 2024/5/16 5:42:35

simplenn就是很简单的链式cnn 它里面的一些变量，输入输出都没有名字！
dagnn是一个复杂的CNN，通过dagnn.DagNN.fromSimpleNN可以将simplenn转换为Dagnn。

switch lower(opts.networkType) % 选择网络结构
    case 'simplenn'
        % done
    case 'dagnn'
        net = dagnn.DagNN.fromSimpleNN(net, 'canonicalNames', true);
        net.addLayer('top1err', dagnn.loss('loss', 'classerror'), ...
            {'prediction', 'label'}, 'error');
        net.addLayer('top5err', dagnn.loss('loss', 'topkerror', ...
            'opts', {'topk', 5}), {'prediction', 'label'}, 'top5error');
    otherwise
        assert(false);
end

这里的net = dagnn.DagNN.fromSimpleNN(net, 'canonicalNames', true)作用其实就是为了方便Dagnn训练改了一些输入输出的名字：

case {'softmaxloss'}
    block = loss('loss', 'softmaxlog');
    % The loss has two inputs
    input{2} = getNewVarName(obj, 'label');

if opts.canonicalNames
    for l =1:numel(obj.layers)
        if l==1
            obj.renameVar(obj.layers(l).inputs{l}, 'input');
        end
        if isa(obj.layers(l).block, 'dagnn.softMax') % 如果是softmax就把这一层输入的名字改为prediction,输出的名字改为prob
            obj.renameVar(obj.layers(l).outputs{l}, getNewVarName(obj, 'prob'));
            obj.renameVar(obj.layers(l).inputs{l}, getNewVarName(obj, 'prediction'))
        end
        if isa(obj.layers(l).block, 'dagnn.Loss') % 如果是Loss就把输出的名字改成objection就告诉那个dag_train这层是loss function层，从这里开始往回传梯度
            obj.renameVar(obj.layers(l).outputs{l}, 'objective');
            if isempty(regexp(obj.layers().input{l}, '^prob.*'))
                obj.renameVar(obj.layers(l).input{l}, ...
                    getNewVarName(obj, 'prediction'))
            end
        end
    end
end

为什么要改名字，就是为了方便训练在cnn_train_dag可以看到这么一行代码：

opts.derOutputs = {'objective', 1};

改成叫objective才能知道这一层是loss function从这一层开始反传梯度

具体看一下区别：

可以看到net_dag.layer中的名字都是这样的

然后如果利用

net = dagnn.DagNN.fromSimpleNN(net, 'canonicalNames', true) ;
可以看到名字换了

在这一层之后可以添加一些层什么error了 error_5了这些层的参数是不调整的，不参与训练只是用来输出一个错误率而已

然后呢之所以要把他的输入叫做prediction 其实是为了test的时候好做

net.eval({'input', im_});
scores = net.vars(net.getVarIndex('prediction')).value;
scores = squeeze(gather(scores));

[bestscore, best] = max(scores);
figure(1); clf; imagesc(im);
title(sprintf('%s (%d), score %.3f', net.meta.classes.description{best}, best, bestscore));

完结啦