【技术干货】超参数优化专题:贝叶斯优化|BayesOpt|HyperOpt|Optuna|自动化调参|高斯过程|TPE|机器学习

Parts

  1. P1 · 1.贝叶斯优化的基本流程
  2. P2 · 2 BayesOpt vs HyperOpt vs Optuna
  3. P3 · 3 基于BayesOpt实现高斯过程gp优化
Description
超参数优化专题来啦!本内容节选自《机器学习实战》正课,完整目录见评论区!【获取完整课件&代码&数据加vx littlebird_0229】

超参数优化是当代autoML领域最为成熟和先进的领域之一,该领域对于参数量众多的深度学习与机器学习领域来说十分关键。在本次专题中,我们将讲解随机网格搜索、Halving网格搜索、贝叶斯优化(基于高斯过程与TPE)三种优化方法。

随机网格搜索与Halving网格搜索走:https://www.bilibili.com/video/BV1UL411L7yk/

Comments

DeMOdoudou 2022-09-08

说实话,这个视频是我看过的讲贝叶斯优化讲的最好的,比市面上很多资料都讲得好

♥ 24

麦兜不学习 2021-12-27

菜菜越来越好看了

♥ 7

Lancelof2019 2023-04-12

菜菜老师,使用Hyperopt出现了TypeError: __init__() got an unexpected keyword argument 'NMP', param_grid_simple={ "NMP":hp.uniform("NMP",0 - 1 / (NMP_num - 1) / 2, 1 + 1 / (NMP_num - 1) / 2) ,"DMF":hp.uniform("DMF",0 - 1 / (DMF_num - 1) / 2, 1 + 1 / (DMF_num - 1) / 2) } 请问这是因为数据类型有问题么? 这里NMP_num=11 DMF_num=21

♥ 6 ↩ 1

以弗所的马克西穆斯 2024-11-21

小美女不但长得漂亮,嘴皮子是真溜,表达能力太强了,技术水平杠杠滴

♥ 3

糖纸君寐梦 2023-01-18

好厉害的样子...(我好想说姐姐好厉害,但是性化他不好...)

♥ 3 ↩ 1

寸头椒 2022-08-20

菜菜老师您好,我打比赛的时候经常出现贝叶斯优化后的回归模型比默认参数下的回归模型效果还差,请问这种情况是什么因素导致的?[酸了]

♥ 3 ↩ 1

90260368183_bili 2024-11-20

我居然才刷到这么好的教学,好气哦

♥ 2 ↩ 1

张大玥zxy 2024-04-24

菜菜老师,现在bayes-opt是不是已经可以通过固定随机种子消除随机性了?我固定随机种子后,选择的最初观测点以及迭代过程和方向就固定了,两次跑出来的结果完全一致

♥ 2 ↩ 1

全是哈哈哈 2023-03-24

菜菜老师您好,想问下贝叶斯优化lstm超参数的时候,需不需要考虑我要优化的lstm解决的是分类问题还是回归问题的?希望老师您看到后回复下的,谢谢老师了。

♥ 2 ↩ 1

不要再熬夜了_x 2021-12-26

谢谢老师[给心心]

♥ 1

我靠我社死了 2025-08-18

姐姐讲的好好呀!!!之前一直没懂的算法终于听懂啦!

♥ 1

数海小菜鸟 2023-10-29

讲的很好,完全理解了贝叶斯优化

♥ 1 ↩ 1

学长阿万-知识版 2023-06-08

请问朴素贝叶斯和贝叶斯网络是两个不一样的东西把

♥ 1 ↩ 1

听歌的小孩儿__Lee 2022-09-06

老师,请问同样的代码我跑了40分钟才出结果是哪里设置有问题吗

♥ 1 ↩ 1

勇勇BIBI 2022-09-05

谢谢蔡蔡老师[加油]

♥ 1 ↩ 1

love小小小笨蛋 2022-08-02

菜菜的视频对新手太友好[给心心],菜菜也真漂亮[星星眼][星星眼]

♥ 1 ↩ 1

神之子您 2022-05-06

有一说一,讲的很好,知乎的比较难看懂

♥ 1

花在新中 2021-12-28

谢谢老师

lifeworkbalance 2026-07-10

我想优化mlp的层数,选在1-10层之间,这种离散整数的优化用这个合适嘛?当然我还有其他一些连续的超参要优化。

本塘我家 2026-01-13

如果是多目标非线性约束问题,用哪个库比较合适?