合肥警方破获AI伪造音视频案 嫌疑人使用AI合成卢某某醉酒言论并散布网络 已被刑拘

合肥警方近日成功破获一起利用AI伪造音视频的案件，有效遏制了网络谣言的传播。据悉，9月16日，犯罪嫌疑人王某某，年仅25岁，通过从互联网下载的音视频资料，精心编排了一段虚假的卢某某酒后言论剧本。王某某利用先进的AI技术，训练生成了与卢某某极为相似的音频，甚至其中的女声也是通过AI工具合成，以此增强伪造内容的可信度。之后，他运用视频编辑软件，将音频与视频素材相结合，制造出看似真实的音视频材料，并在网络上广泛散布，引发了大规模的传播与讨论。

在警方介入调查前，网络上围绕这段音视频的真实性展开了激烈争论。一些自称为AI语音专家的博主纷纷现身，各抒己见，其中一位号称“世界第三人工智能团队成员”的魏某断言当前AI技术无法达到如此高仿真度，误导公众认为录音为真人所述。然而，随着警方调查的深入，真相逐渐浮出水面，魏某随后悄然更改个人信息并删除了相关视频，其权威性遭到质疑。

警方通报的发布，证实了音视频系伪造，并透露王某某正是使用了深圳某科技公司开发的AI配音大模型平台，仅凭卢某某直播片段约30秒的录音，便成功克隆出声音角色，操作简便到近乎“傻瓜式”。通过实际测试，即使是免费版本的该平台也能生成较为逼真的音频，包括方言、停顿、甚至是脏话，虽仍留有些微的AI痕迹，但整体效果足以混淆视听。值得注意的是，音频中“操”字的发音差异，成为辨别真伪的一个线索，真人的发音习惯与伪造音频中的标准发音形成了对比。

此案不仅展示了AI技术在伪造音视频方面的潜在威胁，也引发了社会对AI伦理使用的深思。警方的迅速行动与公开通报，有效遏制了谣言的进一步扩散，同时提醒公众应提高辨别信息真伪的能力，并强调合法合规使用AI技术的重要性。随着AI技术的飞速发展，如何在享受技术红利的同时，构建有效的监管机制，防止技术滥用，成为摆在社会各界面前的一大挑战。