半数人难辨真假，Tavus 紧急叫停 AI 视频商用

据 Woofun AI 消息， 推出的 成为首个通过视频图灵测试的模型，但出于对高逼真度可能引发的安全风险的考量，公司决定暂不让客户直接使用该模型。Tavus 联合创始人兼首席执行官 指出，人类交流不仅依赖言语，更取决于表情、语调及交流时机，而 正是通过模拟这些非语言信号，实现了与真人无异交互体验，从而在技术突破的同时也带来了身份验证的伦理挑战。

从技术架构来看，Griffin 彻底颠覆了传统级联式系统的运作逻辑。传统系统通常由语音识别、语言模型和语音合成模块依次工作，需等待用户说完话后才给出回应；而 Griffin 则每几分之一秒重新分析对话内容，同时考量文字信息与非语言信号，甚至通过观看视频来捕捉细微动作。

这种设计使得 Griffin 能够在对方仍在说话时点头或回应'嗯'，在对话被中断时也能保持原有状态。Woofun AI 整理数据显示， 版本的语音生成功能能在接近正常对话延迟的时间里产出高质量语音，且仅需约 10 秒钟音频即可复制说话者声音。在针对全双工 AI 视频制定的 VideoFDB 基准测试中，Griffin 以 5 分中的 3.83 分位居榜首，人类参考录音得分为 3.92 分，而排名第二的 与 组合得分仅为 2.80 分，这标志着 Griffin 成为首款人类交互模型（HIM）。

测试数据进一步揭示了用户心理防线的脆弱性。在 54 名测试者中，有 26 人误以为与真实人类交谈，占比高达 48%，认为对方是真实人类；相比之下，此前系统在相同测试条件下的通过率不到 3%，仅 41 名参与者中的 1 人误以为与真人交流。测试场景设定为约一分钟对话，主题围绕聊聊即将迎来的一年。

值得注意的是，超过半数人从未想过有 AI 伙伴存在，而那些对此有所警惕的参与者，通常在对话开始后的 20 秒内就产生了怀疑。这一数据对比凸显了 Griffin 在初期建立信任方面的惊人能力，同时也暴露了普通用户在面对高拟真 AI 时的认知盲区。

随着 AI 逼真度的提升，安全风险日益凸显。 的研究显示，2026 年犯罪性 AI 应用数量同比增长 40%，其中诈骗行为是推动这一增长的主要因素。鉴于此，Tavus 仅向少数可信的测试者开放预览版 Griffin-Lite，并计划在更广泛推广之前开发披露功能，同时与人工智能安全组织合作以应对潜在威胁。在加密货币诈骗频发的背景下，若此类模型普及，视频通话中的面孔将难以反映真实身份。用户可通过 X 平台关注 Tavus 动态，或订阅 YouTube 频道获取行业领袖的专业分析，以警惕日益复杂的 AI 诈骗手段。