我想知道为什么在 Tensorflow 1.5.0 及更高版本中,softmax_cross_entropy_with_logits_v2默认反向传播到标签和逻辑。您希望在哪些应用程序/场景中反向传播到标签中?
我看到下面的 github 问题提出了同样的问题,你可能想关注它以获取未来的更新。
https://github.com/tensorflow/minigo/issues/37
我不代表做出这个决定的开发人员,但我猜测他们会默认这样做,因为它确实经常使用,并且对于大多数不反向传播到标签的应用程序,标签是一个常量无论如何,不会受到不利影响。
反向传播到标签的两个常见用例是:
有一个完整的研究领域围绕着构建欺骗神经网络的对抗性例子。用于这样做的许多方法都涉及训练网络,然后保持网络固定并反向传播到标签(原始图像)中以对其进行调整(通常在某些约束下)以产生欺骗网络对图像进行错误分类的结果。
我还建议人们观看 youtube 上的 deepviz 工具包视频,您将了解大量有关神经网络学习的内部表示的知识。
https://www.youtube.com/watch?v=AgkfIQ4IGaM
如果您继续深入研究并找到原始论文,您会发现它们也会反向传播到标签中以生成图像,这些图像会高度激活网络中的某些过滤器以理解它们。
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)