【硬核解析】AI是如何骗过我们耳朵的？
Description
【B站最硬核的AI科普栏目来啦！】 我们与 湖北卫视 @AI观察手册 以及 哔哩哔哩官方 倾力打造的全新栏目《AI进化论》现已正式上线！ 本系列将尝试拆开AI的“黑匣子”，不仅关注它如何做到，更深入探讨它为何做不到。 让我们一同见证AI的进化之路。 【AI进化论 VOL.03｜诈骗】 5秒声样就能“复刻”你的嗓音？有人在10分钟内被“完美声音”骗走430万…… 这期我们把显微镜对准“声音”：从音素与梅尔频谱，到端到端语音生成，再到识别与防护，拆开AI克隆嗓音的黑箱，也聊聊如何把“信任的声音”守住。 本期你会看到： 1）“5秒克隆”的底层逻辑：音素、声谱图与端到端模型的分工 2）为什么端到端更“像真人”：VAE 表达情绪起伏，GAN 逼真度博弈 3）“越完美越可疑”：人类说话的“瑕疵”为什么难以复刻 4）攻防正在上半场：DeepSonar神经元激活鉴别、VocalCrypt“隐形陷阱频段” 我们相信技术，也敬畏人心——请把这期，转给你最需要被保护的家人。
Comments
属于是爸妈必看了 最讽刺的是，我们教AI模仿人类说话，现在又要教人类如何识别AI说话——人类在和自己创造的东西玩捉迷藏。
♥ 2095 ↩ 13
你们都在担心电诈，我们干配音的才是真慌[笑哭]
♥ 1060 ↩ 22
所以和家里人说方言看样子还是有好处的
♥ 540 ↩ 38
懂了 以后说方言[doge]
♥ 469 ↩ 21
有意思
♥ 379 ↩ 3
AI：
♥ 257 ↩ 5
上一期我们讨论了当AI替我们"掌控"时，会发生什么？这一期我们调试到听觉频道，走进AI合成语音。 当互联网上的大家还沉浸在通过语音克隆整活产粮的狂欢中时，世界的另一面则是借此技术只用五秒就骗走了430万。这一真实案例使我不禁思考：当技术赋予我们“伪造完美”的能力时，我们赖以信任的基石——声音，究竟还剩下多少分量？ 这或许是我们必须面对的技术悖论：AI在无限逼近“真实”的过程中，恰恰动摇了“真实”本身。当5秒的音频就能构建一个以假乱真的声音宇宙，我们依赖的感官经验正在全面崩盘。问题的核心已不再是“它如何做到”，而是“我们该如何相信”。这迫使我们将信任从“声音像不像”重新锚定到“关系真不真”上——技术能克隆声纹，却无法复制独属于我们之间的记忆与默契。是时候重启一场关于信任本质的社会大讨论了。
♥ 143 ↩ 4
上热门啦！感谢！做了个抽奖https://b23.tv/uXdW0CG 本次奖池(●'◡'●) ： 🎮 5090显卡 ×1 📱 iPhone 17 Pro Max ×1 💻 iPad Air 11 ×1 🎧 AirPods Pro3 ×1 👓 鲸海G1-AI眼镜 ×5 📚 互动抽奖 亲笔签名的AI系列图书一套（5本）×5 开奖时间我定在了【2025年11月30日】，愿好运常伴你左右！上一期我们讨论了当AI替我们"掌控"时，会发生什么？这一期我们调试到听觉频道，走进AI合成语音。 当互联网上的大家还沉浸在通过语音克隆整活产粮的狂欢中时，世界的另一面则是借此技术只用五秒就骗走了430万。这一真实案例使我不禁思考：当技术赋予我们“伪造完美”的能力时，我们赖以信任的基石——声音，究竟还剩下多少分量？ 这或许是我们必须面对的技术悖论：AI在无限逼近“真实”的过程中，恰恰动摇了“真实”本身。当5秒的音频就能构建一个以假乱真的声音宇宙，我们依赖的感官经验正在全面崩盘。问题的核心已不再是“它如何做到”，而是“我们该如何相信”。这迫使我们将信任从“声音像不像”重新锚定到“关系真不真”上——技术能克隆声纹，却无法复制独属于我们之间的记忆与默契。是时候重启一场关于信任本质的社会大讨论了。
♥ 112 ↩ 2
用这个可以听到我妈妈声音吗[大哭]，我想她了
♥ 102 ↩ 5
按右上角三个点下翻找到一个测试ai同声翻译你就知道ai多可怕了[doge_金箍]
♥ 76 ↩ 15
说完方言都不保险，得再接一句别的地的方言[藏狐]
♥ 70 ↩ 2
是啊，5秒钟不到你的声音就已经可以转成英文同频音了。
♥ 50 ↩ 13
看完了，心里有一种巨大的矛盾感。我们这代人或许正站在一个历史拐点，正如视频中所说，过去，我们用电话联络感情，电话那头熟悉的声音代表着人际关系的亲密与信任，而现在，我们接起电话的第一反应却是要验真，至少我朋友找我借钱之类涉及到利益的事情时，我都会打视频确认一下。可见，技术正在无声改写我们最基本的社会契约。这种信任与契约本来应该是人际关系中的情感纽带，但当AI能够批量制造这种“完美的复刻”时，我们每个人的信任成本都会急剧升高，久而久之，我们每个人都将变得疑虑、谨慎，甚至冷漠。 正因于此，视频结尾关于“拥抱不完美”的结论真的很触动我。或许，人类的未来不在于比AI更“完美”，随着技术发展，人类也很难比科技更加完美，但我们能更珍视并捍卫那些AI无法企及的东西：共情、良知、以及建立在真实相处之上的信任。这期节目是一次及时的警钟，感谢创作团队。
♥ 49 ↩ 1
“现在只需要一句话AI就能复制你的声音。”
♥ 36
所以说还得说方言[doge]
♥ 30
自己家人还是有个暗号[妙啊]
♥ 20 ↩ 1
复制不了方言吧
♥ 15 ↩ 25
亚马逊公司使用配音演员穆雪婷（id穆雪婷躲进木盒子）的声音训练ai语音模型，且未经本人同意用作纪录片的配音，使配音演员的权利收到大大侵害，只付了配音两集纪录片的酬劳，望周知
♥ 12
我实在想不到克隆声音能干嘛…ai有自己的声音就已经够了吧？
♥ 12 ↩ 36
一句话就验证了
♥ 11