极稀疏随机投影【作者：Ping Li，Trevor Hastie (斯坦福)，Kenneth Church (微软)】
Description
这一期视频介绍一下Very Sparse Random Projection具体怎么在实际中操作：这是一种通过构建具有极高稀疏性的随机矩阵来降低高维数据维度的技术，能够以较小的精度损失换取巨大的计算加速。目前用于图像和文本数据的降维、分类算法的预处理，以及在无法预先获取协方差矩阵的实时数据流中作为 PCA 的非自适应替代方案。在很多中大型全接网络（FCN）的训练递归参数拟合中也有广泛的应用。 但是全世界目前没有2nd Moment 为无穷的原始数据下的收敛理论支持，有兴趣的朋友们可以研究研究！【推荐通过codifference的理论思路来模拟协方差，方差为无穷的情况。】
Comments
这是b友能看懂的吗？[笑哭][以闪亮之名_吃瓜]
♥ 5 ↩ 1
这是什么新赛道，专门给b友录的嘛？[doge]
♥ 3 ↩ 1
[给心心][给心心][给心心]
♥ 2
最近刚好看到LLM的梯度和hessain matrix的随机投影，up厉害！一流大学的PhD就是牛，我要努力！
♥ 2 ↩ 2
很强了，知识区需要新内容
♥ 2 ↩ 1
厉害了，一个人能讲这么久[星星眼]
♥ 1 ↩ 1
太好了太nono了[doge][doge][doge]
♥ 1
我最近也在做这些方面的学习，用vibe codeing输出了一些代码，可以和大家分享，有用的可以看看哦，里面的readme请忽略，只是我在发癫。https://github.com/makai891124-prog/H2Q-MicroStream
♥ 1 ↩ 1
运筹学方向搞最优化国内某211，想转到做post training的工作但现在搞的太理论了[笑哭]，而且没有资源和环境，平时读的都是优化的理论期刊，现在尝试去读会议文章，也不清楚转方向之间的gap
请问这个跟压缩感知的随机采样是否有关联
↩ 1
讲的真的很好啊 这paper数学我看不懂 但结论一看就很重要
↩ 1