为什么高维空间的两组随机向量几乎正交?

Comments

_不夜_ 2022-12-14

UP给出了一个很好的解释,但是并不严谨。UP的这个问题其实有一种更浅显易懂的解答方式,既不用设定特定的概率阈值,也很好的解释了那些数学公式是如何引入的。 1,首先对于N维空间的任意单位向量X(x1,x2,...,xn)和X'(x1',x2',...,xn'),我们有: x1^2+x2^2+…+xn^2=1 另一个同理,手机打符号真的很费劲我就不写了。 2,我们考察两个向量的内积: x1x1'+x2x2'+…+xnxn' 我们要证的是这个内积几乎为零。 3,对任意向量X和X',我们总能通过一组正交变换S使得XS为轴向单位向量(1,0,0,…,0),说人话就是我们可以把一个向量取在轴上,然后随机取另一个向量,而不影响这个问题的自由度。 4,现在内积X·X'=x1',我们要证它几乎为零 5,什么叫几乎垂直?Up引入了一个阈值区间来说明这个问题,但是现在我们有了一个更加明确的数学概念,那就是当空间维度趋于无穷时,x1'为零的概率收敛到1,即: n→∞时,P(x1'=0)→1 6,UP做了一个很好的铺垫,即x1^2+x2^2+…+xn^2=1的所有可能情况,其实均匀分布在一个n维单位球面上,同理,当x1=0时,x2^2+…+xn^2=1的所有可能情况均匀分布于一个n-1维单位球面上,P(x1'=0)即二者的面积之比: P(x1'=0)=S(n-1)/S(n) 7,n维球面的面积公式并不显然,它是一个n重积分,以Gamma函数的形式给出,然后回到了Up的表达式。 UP你觉得我这么说,是不是更严谨一些?[滑稽][滑稽][滑稽][滑稽]

♥ 244 ↩ 15

最后的馒头 2022-12-13

二维概率本质是面积比,三维概率本质是体积比;而三维图像本质是二维图像的旋转。 由于对称,仅需考虑四分之一的二维图像,以及将其旋转极小角度的三维图像。 将二维图像微分为小扇形(小三角),三维图像即微分为小四棱锥,但由于我们在二维图像知道的是其侧面积,故将其沿底面矩形对角线等分为2个等体积的三棱锥。 故小四棱锥体积之比=小三棱锥体积之比=高之比=边缘划过距离之比=各角度cos值之比。 故三维概率=cos(0~2.5°)的积分/cos(0~90°)的积分[脱单doge]

♥ 152 ↩ 12

白羊座的恶魔 2022-12-13

0维空间:V={0},所有向量全部正交 [doge][doge][doge][doge][doge]

♥ 72 ↩ 9

秋阳悠月 2022-12-13

稍微严谨地说,设Xn为随机变量,表示n维空间中,以等概率取任意两个向量时这两个向量的夹角,则随机变量序列{Xn}依概率1收敛于X=pi/2。从这个意义上说,“几乎”这个词很合适,因为概率最大是1,所以这个收敛应该可以强化为“几乎”一致收敛。

♥ 45 ↩ 2

Ariaus 2022-12-13

感觉有点像我最近刚学完的线代里关于垂直投影的东西[思考]。不得不说up主关于概率的计算确实很精彩,像我一样数学不好的也就只能干瞪眼了[笑哭]。以下为一些计算机专业本科生视角的个人见解(从纬度出发): 假设W为R^n的子空间,则垂直于W的W'也是R^n的子空间。(这个学过线代的应该都有看到过吧)从而可以证明dim(W)+dim(W’)=n。(证明涉及rank-nullity theorem和column and row space。篇幅有限就不证了)。也就是说这两个正交的空间的维度之和为他们父空间的总维度。如果把一开始选定的向量定为空间W的基向量,则: 1.在R^1 一维空间内,除了0向量外没有正交 2.在R^2中与W正交的W'的维度为1,也就是一条线。可从W'中选的向量无非就是cv,c属于任意实数,v为W'的基向量 3.在R^3中,W'的维度被扩展到了2。能选的向量随之增多,因为不光拉伸、反转单独的一个基向量可以得到垂直的向量外,还能将两个基向量相加 4. 以此类推 当维度接近R^n时,W'的维度也来到了n-1维。所以才出现了概率增加的现象,不过出于我个人拙劣的数学功底,无法证明当n趋于无限时,任意两个向量正交的概率趋于1。同时我也感觉这个概率并非随着维度增加线性增长

♥ 28 ↩ 3

eigenstate 2022-12-15

2维平面中,和A向量正交的向量落在与A垂直的直线上;3维空间,中和A正交的向量落在与A垂直的平面内;N维空间中,和A正交的向量落在和A垂直的N-1维空间内。

♥ 16

菖蒲呆住 2022-12-13

这里的随机是不是应该更加明确地定义一下?这里应该指的是角度随机幅值不所谓,如果把随机的定义改成向量中各个分量随机,是不是结果就不同了[2233娘_大笑][打call]

♥ 15 ↩ 2

波鲁克的梦 2022-12-10

从刻晴到向量积[抱拳]

♥ 15

苦苦の罗 2022-12-10

知识穿脑而过[星星眼]

♥ 9

AAA软硬件批发 2022-12-21

这个up在视频40秒时出现了致命错误,图像,点云本身是二维与三维。但是在深度学习的输入部分,将这些转化为输入向量时,那个输入向量是高纬度的,且纬度有限,非无穷的。

♥ 7 ↩ 1

Sirius0_0 2022-12-13

有没有可能通过正交(或接近正交)的内积来说明[思考]。 即先将两个向量写成k*单位向量的形式,然后正面两个单位向量的内积趋于0。因为完全随机的向量分量,随着向量纬度增加,越来越难以在某个分量上具有很高的相关性(即乘积足够大)。例如二维空间,只考虑每个纬度为非负整数的单位向量,对于(1,0)。另一个向量有50%的概率(0,1)/(1,0)与其相关。 在三维空间,将是(1,0,0)。另一个向量有1/3概率与其相关。纬度越高,概率越低。当然这只是以在每个分量上均为非负整数的单位向量举例,实际上一定不会这么理想。但随着纬度增加,将向量单位化以后,若不能保证恰好在同一纬度或者有限的几个纬度有较高的相关性,那么最终向量的内积也趋于0。

♥ 7

狂气断罪眼QwQ 2022-12-11

其实我看不懂,只是觉得声音好听[doge]

♥ 5

幸存者呵 2023-01-02

想到了一个用更基础的知识可以解决的方法: 这个问题就是在问,如何证两个n维单位向量的内积期望值在n足够大时趋于0。 取其中一个为(1,0,……,0),另一个向量与这个向量的垂直程度,可以用(x1,……,xn)中的x1的绝对值表示。这里我们可以不妨设x1……xn都非负。 因为Σx²=1,所以x1平方的期望值,就是1/n。显然,随着n的增大,x1平方的期望值在减小,且趋于0。(到这里就可以感性理解了,下面严格证一下) 如果x1期望不趋于0,不妨设恒>a,而在n趋于无穷时,若x1>a的概率恒大于任意的p>0,那么x1平方的期望就>a²p>0,这与x1平方期望值趋于0矛盾。 所以x1>a的概率趋于0,为了让x1的期望>a,显然x1<a的概率也趋于0。所以x1=a的概率趋于1。 同理的,x2,x3……,xn=a的概率也趋于1,所以该随机向量会非常非常接近(a,a,……,a)及其各个分量取相反数的向量。这是荒谬的。证毕。

♥ 4 ↩ 1

今天玩网易明天娶杨笠 2022-12-13

用三余弦定理来证不是很简单吗?

♥ 3

逆舟_ 2022-12-10

能不能讲讲chatGPT[doge]能不能训练一个刻晴出来

♥ 3

账号已注销 2022-12-10

加油,很棒

♥ 3

doeshappy 2022-12-14

把向量映射到球面求近似正交概率的方法也适用于无穷维吗?

♥ 2

tangkuojiang 2022-12-13

概率密度曲线跟幂函数特别与某个函数的积特别象。

♥ 2

peng_soft101 2024-10-22

[支持]!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!

♥ 1

梓玥qwq 2022-12-29

这好像是量子力学里自发定域理论的基础

♥ 1