随变雪糕真好吃 2022-07-16 翻了一下论文，感觉有几个点没解释的很清楚，我提一些问题哈 1 在离散情况下，有一个采样的操作，它是如何使采样可导的？还是说它根本没有做采样，真的就是让t->0？如果是后者的话这是怎么实现的呢... 2 文章提到离散变量的梯度估计比连续变量方差大，这个怎么理解 3 argmin是有可导近似函数的吧...为啥不直接用相应的可导近似函数套进去算一下呢[笑哭] ♥ 4 ↩ 1
随变雪糕真好吃 2022-07-16 关于KNN分类器，在CVPR22还是ICCV21上我看过一篇，也是用了KNN分类器，但是它是直接用类似MOCO的思想来实现的。直接就不做梯度估计了，只对自己算梯度，同时也解决了库太大的问题。 这篇文章不提怎么解决索引库太大的问题，因为它是对patchs计算的。但是通常来讲不会这么考虑...肯定是对整体的representation算，这样就不得不维护一个庞大的特征图了。甚至都没法找一个mini-batch的无偏估计...因为KNN要用全部的节点... ♥ 3 ↩ 3
Comments
翻了一下论文，感觉有几个点没解释的很清楚，我提一些问题哈 1 在离散情况下，有一个采样的操作，它是如何使采样可导的？还是说它根本没有做采样，真的就是让t->0？如果是后者的话这是怎么实现的呢... 2 文章提到离散变量的梯度估计比连续变量方差大，这个怎么理解 3 argmin是有可导近似函数的吧...为啥不直接用相应的可导近似函数套进去算一下呢[笑哭]
♥ 4 ↩ 1
虽然不想看但还是先给导师投个币[保卫萝卜_哇]
♥ 4
关于KNN分类器，在CVPR22还是ICCV21上我看过一篇，也是用了KNN分类器，但是它是直接用类似MOCO的思想来实现的。直接就不做梯度估计了，只对自己算梯度，同时也解决了库太大的问题。 这篇文章不提怎么解决索引库太大的问题，因为它是对patchs计算的。但是通常来讲不会这么考虑...肯定是对整体的representation算，这样就不得不维护一个庞大的特征图了。甚至都没法找一个mini-batch的无偏估计...因为KNN要用全部的节点...
♥ 3 ↩ 3
感谢大佬，讲得很透彻。请问大佬试过在点云任务中将knn换成nknn嘛，在计算效率和最终结果中是否有什么改进？[打call]
↩ 1
啊，人麻了，完全不懂[保卫萝卜_哭哭]