-
WEBSITE
神经网络模型train_loss下降，val_loss一直上升是什么原因？ - 知乎
这就是 过拟合 问题，你可以通过减少模型参数，或者用更多数据，进行更强大的数据增强等等方法去解决. 验证集 loss是一开始就上升还是下降了一断再上升的呢？. 如果一开始就上升的话，情况有好几种吧，比如你训练数据没打乱，导致 训练集 的数据和验证集 ...
Do more...
Share, comment, bookmark or report
-
WEBSITE
Pytorch如何自定义损失函数（Loss Function）？ - 知乎
知乎用户. 从 code 里面可以看到loss 函数部分继承自 _loss, 部分继承自_ WeightedLoss, 而_ WeightedLoss 继承自 _loss， _loss 继承自 nn.Module. 与定义一个新的模型类相同，定义一个新的loss function 你只需要继承 nn.Module 就可以了。. 一个 pytorch 常见问题的 jupyter notebook 链接为 A ...
Do more...
Share, comment, bookmark or report
-
WEBSITE
CNN在训练时，loss一直下降，但准确率一直非常低而且不提高怎么办？ - 知乎
2.检查 dataloader 标签数据对不对. 3.检查数据集类别是否均匀. 4.torch的dataloder正常来说不需要你自己view到一定 batch-size 的,它自己会分好的. 5.test之前记得. eval ()偶. 发布于 2021-02-23 23:59. 无名. 楼主你好，我也遇到了你说的问题：. 训练集中， loss 下降到很低，但 ...
Do more...
Share, comment, bookmark or report
-
WEBSITE
深度学习的loss一般收敛到多少？ - 知乎
14 个回答. 你需要在过拟合和泛化上做平衡. 看题主的意思，应该是想问，如果用训练过程当中的loss值作为衡量深度学习模型性能的指标的话，当这个指标下降到多少时才能说明模型达到了一个较好的性能，也就是将loss作为一个evaluation metrics。. 但是就像知乎er们 ...
Do more...
Share, comment, bookmark or report
-
WEBSITE
深度学习模型训练的时候，一般把epoch设置多大？ - 知乎
选择合适的 epoch 数量是一个关键的问题，因为它会影响到模型的性能和训练时间。. 通常，epoch 数量越多，模型在训练数据上的性能越好。. 但是，随着 epoch 数量的增加，训练时间也会相应增加。. 因此，在选择 epoch 数量时，需要在模型性能和训练时间之间进行 ...
Do more...
Share, comment, bookmark or report
-
WEBSITE
log、lg和ln分别是？ - 百度知道
log：表示对数，与指数相反。. log₈2我们读作log以8为底，2的对数。. 具体计算方式是2的3次方为8，及以8为底2的对数就是3。. lg：10为底的对数，叫作常用对数。. ln：以 无理数e （e=2.71828...）为底的对数，叫作 自然对数. 对数是对求幂的逆运算，正如除法是乘法 ...
Do more...
Share, comment, bookmark or report
-
WEBSITE
怎么样理解SVM中的hinge-loss？ - 知乎
1. 实现了软间隔分类（这个Loss函数都可以做到）. 2. 保持了支持向量机解的稀疏性. 换用其他的Loss函数的话，SVM就不再是SVM了。. 正是因为HingeLoss的零区域对应的正是非支持向量的普通样本，从而所有的普通样本都不参与最终超平面的决定，这才是支持向量机 ...
Do more...
Share, comment, bookmark or report
-
WEBSITE
在目前超分辨率的论文中不使用MSE，而使用L1或者Perceptual loss的原因是什么？ - 知乎
L1，可忍受异常值，相较于MSE和L2是没有那么平滑一些的。. Perceptual loss，是特征空间的 类别/纹理 “相似”。. 毕竟有学者认为深度卷积网络用于图像分类，利用的是 物体的纹理差异。. 多尺度 (MS)-SSIM，那就是图像空间的 结构 “相似”。. 在文献 [1]中，就找到 ...
Do more...
Share, comment, bookmark or report
-
WEBSITE
有哪些「魔改」loss函数，曾经拯救了你的深度学习模型？ - 知乎
17 个回答. 人脸识别领域的一堆魔改softmax啊，Large Margin Softmax, NormFace (Cosine Softmax), SphereFace (Angular Softmax), AM Softmax, CosFace, ArcFace…. 还有Center Loss这个regluarization term。. 看到很多人提到了focal loss，但是我并不建议直接使用focal loss。. 感觉会很不稳定，之前是在一个 ...
Do more...
Share, comment, bookmark or report
-
WEBSITE
求通俗易懂解释下nce loss？ - 知乎
选择哪种Loss? NCE Loss和Sampled Softmax Loss在召回中都有广泛运用. 从word2vec派生出来的算法，如Airbnb和阿里的EGES召回，都使用的是NCE Loss。准确一点说，是NCE的简化版，NEG Loss。尽管NEG Loss在理论上无法等价原始的超大规模softmax，但是不妨碍学习出高质量的embedding。
Do more...
Share, comment, bookmark or report
Comments