如何解决深度学习中的不可微问题(一)

Description
时长问题,第一期将着重介绍重参数策略,便于大家以后学习收藏。

Comments

拟身怪 2024-05-07

RL硬train一发啦

♥ 9

话唠没话聊 2024-05-07

【时间线】 - 00:00 介绍视频主题 - 00:02 说明近期忙于毕业和旅行,视频制作时间较少 - 00:12 发现深度学习中的不可微问题 - 00:19 探讨可微性在采样任务中的应用 - 01:15 探讨深度学习中不可微问题的解决方法 - 01:29 提出采样不可微会导致网络无法反向传播的说法是错误的 - 02:19 探讨从分布中采样和argmax操作导致的不可微问题 - 05:33 提到将介绍五种解决不可微问题的方法 【摘要】: 视频主要介绍了深度学习中的不可微问题,首先澄清了采样不可微会导致网络无法反向传播的说法是错误的,然后探讨了从分布中采样和argmax操作可能导致网络不可微的情况。接着提到将介绍五种方法来解决这些问题,为观众提供解决思路的参考。 --本内容由@DDD_cat生成,正在努力做一款好的ai工具,欢迎访问我们的网站:https://ai.ddcatai.com, qq群:680316576

♥ 5

丨丶孤独患者 2024-05-16

up主讲的很好,最近写的一篇论文就涉及到重参数技巧和参数采样问题,我虽然实际用的是重参数,但却表述成了参数在分布中采样...可惜已经交了[大哭]

♥ 2 ↩ 1

玖语落 2024-05-04

UP主tql,还融合了当下动漫[惊喜]

♥ 2

keyframe 2024-05-18

不可微的解决方法还是蛮多的,比如参数化采样,重参数,stop gradient等

♥ 1

夏小正的鲜小海 2024-05-12

Hi up,我想请问一下为什么 g 和 f 都是用 theta 来表示的呢?

♥ 1 ↩ 1

埃格先生 2024-05-08

我是来看芙芙的

♥ 1

twilightSpar 2024-05-07

编码和解码的参数不一样吧,f_/theta(z) 参数是theta,带参数的p(z) 应该换一个参数,比如w吧。 还是说认为所有的参数合起来叫theta?求解,多谢[脱单doge]

♥ 1 ↩ 2

正反馈调节ん 2024-05-04

丘丘也看gbc吗[BanGDream_多惠-震惊]

♥ 1 ↩ 1

Kildatz 2024-05-04

UP主加油!

♥ 1

bili_96257450808 2024-10-17

请问非凸优化不是数学尚未突破的问题吗[doge]

赞译Zainy 2024-05-07

[打call]牛,首页刷到的视频,没想到质量这么高

An_短见 2024-05-06

[花见汐梨Yuuri·童话奇遇记_害怕鸭]是深奥的学术问题

咕噜咕噜咕gu 2024-05-05

催更催更!