PT视讯(中国区)官网

您目今位置:首页 > 新闻中心 > 新要闻

对话专家：Seedance让AI视频真假难辨，，，，，，，，通俗人怎样提防

2026-02-28 23:49:02

Seedance 2.0 绿湖度假生长有限公司作为一款高保真 AI 视频天外行艺，，，，，，，，最近火出了圈，，，，，，，，引发普遍关注。。。。。它不但能“以假乱真”地天生人脸、心情甚至微行动，，，，，，，，还能通过一段语音或文字指令直接天生逼真视频，，，，，，，，不再依赖原始素材。。。。。

这种手艺虽然在影视、游戏等领域潜力重大，，，，，，，，但也带来了亘古未有的清静危害——好比冒充亲人视频诈骗、伪造企业高管指令转账，，，，，，，，甚至滋扰司法取证。。。。。

一位视察者网用户的新闻谈论获得高赞：“我今天相识过Seedance 2.0的能力后，，，，，，，，已经决议趁过年给家里尊长科普一下，，，，，，，，重点提醒以后涉及资产的都必需直接通话确认，，，，，，，，还得思量特另外清静步伐。。。。。”

面临这样的“真假难辨”时代，，，，，，，，通俗人该怎样提防？？？？？？？？安防系统又该怎样升级？？？？？？？？视察者网心智视察所日前对话了视觉数据清静手艺与应用浙江省工程研究中心主任、杭州电子科技大学周迪教授，，，，，，，，请这位业内专家聊聊这场正在爆发的“AI攻防战”。。。。。

问：您怎么看待像 Seedance 2.0 这种高保真 AI 视频天外行艺？？？？？？？？它跟以前的 Deepfake 比，，，，，，，，究竟突破了什么？？？？？？？？

周迪：我以为 Seedance 2.0 这类手艺的泛起，，，，，，，，标记着视觉天生从“能天生”迈进了“高度逼真且可控”的新阶段。。。。。在我看来，，，，，，，，这绝不但是区分率从 1080P 升到 4K、帧率更高那么简朴，，，，，，，，更要害的是，，，，，，，，它最先真正明确物理天下了——能模拟光线在皮肤上的反射、肌肉随心情的微动、头发丝的飘动，，，，，，，，而不但仅是像素的位移。。。。。

它跟古板 Deepfake 的突破，，，，，，，，我以为主要体现在三个方面。。。。。一是从“外观模拟”升级到“语义与物理明确”。。。。。以前的换脸就是把 A 的脸贴到 B 脸上，，，，，，，，一转头、一遮挡连忙穿模；；；；；；；现在它能处置惩罚重大光影、遮挡和长视频一致性，，，，，，，，不会闪灼颤抖。。。。。二是区分率抵达影戏级，，，，，，，，细节真实到皮肤纹理、血管瑕疵都能还原，，，，，，，，直接可以拿去专业影视制作。。。。。三是实现了从“被动依赖驱动视频”到“可控天生”的跨越——用文字或音频就能天生人物的心情行动，，，，，，，，身份与场景可以自由疏散。。。。。总而言之，，，，，，，，它把 Deepfake 在物理一致性、清晰度和创作自由度上的天花板全捅破了。。。。。

问：目今主流的视频监控和身份认证系统，，，，，，，，是否已具备识别此类 AI 天生内容的能力？？？？？？？？

周迪：坦率地说，，，，，，，，主流系统基础没跟上。。。。。身份认证这边，，，，，，，，我以为带 3D 结构光或红外摄像头的系统现在还能守住防地，，，，，，，，由于 AI 视频再真也是平面的，，，，，，，，过不了深度检测，，，，，，，，红外下也模拟不出真人的眼球反射。。。。。但纯软件的 2D 认证，，，，，，，，好比条记本摄像头、部分 App 的活体检测，，，，，，，，面临 Seedance 2.0 天生的高保真动态视频，，，，，，，，基本一骗一个准——古板依赖眨眼、转头、摩尔纹的防御手段已经形同虚设。。。。。

视频监控就更被动了。。。。。在我看来，，，，，，，，监控辖档同算力都不敷，，，，，，，，成千上万路视频流里实时跑深度伪造检测大模子，，，，，，，，现在基础不现实。。。。。并且它原来就是为抓拍真实人脸设计的，，，，，，，，看到太真的假脸反而会认真人去追踪。。。。。更贫困的是天外行艺迭代太快，，，，，，，，今天训练好的检测器，，，，，，，，明天新模子一出来就可能直接失效，，，，，，，，而安防硬件更新周期长达数年，，，，，，，，代差很是显着。。。。。以是我的判断是：带硬件的身份认证还能扛，，，，，，，，纯软件已岌岌可危，，，，，，，，监控系统基本是裸奔状态。。。。。

问：在您看来，，，，，，，，AI 视频“以假乱真”对公共清静、金融生意、门禁系统等场景组成了哪些详细危害？？？？？？？？

周迪：在我看来，，，，，，，，危害已经从数字天下渗透到物理天下了，，，，，，，，并且很是详细。。。。。公共清静层面，，，，，，，，犯法分子可以用 Seedance 2.0 伪造不在场证实、改动监控录像，，，，，，，，司法取证本钱会暴增；；；；；；；还能伪造公众人物揭晓煽惑性言论，，，，，，，，一条假视频就足以引发股市震荡、社会骚乱。。。。。金融领域，，，，，，，，黑产用 AI 天生颔首、眨眼的动态视频骗过银行远程开户的活体检测，，，，，，，，批量开幽灵账户洗钱；；；；；；；尚有冒充 CEO 视频指令让财务紧迫转账，，，，，，，，这类案件已经有数百万美元的真实损失。。。。。

门禁系统的危害我更担心。。。。。那些依赖 2D 摄像头的闸机和智能门锁，，，，，，，，用平板播一段高仿真 AI 动态视频就能轻松骗开。。。。。最恐怖的是虚拟绑架——犯法分子从社交媒体扒几张孩子的照片和视频，，，，，，，，用 AI 天生被绑的画面，，，，，，，，家长在极端恐慌中根原来缺乏核实就直接付赎金。。。。。唬�；；；；Ｉ杏幸桓鲆薜旅男Ч旱彼腥硕贾朗悠悼梢运嬉馕痹欤�，，，，，，，哪怕面临真实的监控证据，，，，，，，，第一反应也是嫌疑。。。。。这种系统性信托的瘫痪，，，，，，，，会让社会运转效率整体下降，，，，，，，，我以为这才是最棘手的。。。。。

问：是否已有真实案例批注这类手艺被用于诓骗、冒充或社会工程攻击？？？？？？？？

周迪：不但有，，，，，，，，并且案例数目、攻击庞洪水平和经济损失都在指数级上升。。。。。现在金额最大、也最能说明问题的是 2024 年香港那起案件——一家跨国公司员工加入了“首席财务官”提倡的视频聚会，，，，，，，，屏幕上所有参会者都是 AI 天生的，，，，，，，，声音、心情、闲聊互动跟真人一模一样，，，，，，，，效果员工受骗转出 2 亿港元。。。。。这在我看就是典范的“超等社会工程学”攻击，，，，，，，，视觉听觉双重确认反而成了心理陷阱。。。。。

北美华人社区频发的虚拟绑架案也是铁证。。。。。家长接到孩子被绑的 AI 视频，，，，，，，，现实上孩子基础没被绑，，，，，，，，只是社交媒体的素材被换脸换声。。。。。黑产论坛上，，，，，，，，用 AI 天生动态视频绕过加密钱币生意所 KYC 认证已经是一条成熟工业链。。。。。商业特工冒充猎头发伪造视频聚会，，，，，，，，套取公司神秘；；；；；；；政治层面，，，，，，，，五角大楼爆炸假图一度让美股跳水，，，，，，，，美国大选也泛起了伪造候选人招呼不投票的广告。。。。。这些案例足以证实，，，，，，，，类似 Seedance 2.0 的手艺早就从实验室进入了犯法工具箱。。。。。

问：目今基于人脸识别、活体检测的安防系统，，，，，，，，在面临高仿真 AI 视频时保存哪些手艺盲区？？？？？？？？

周迪：我以为盲区主要集中在六个方面。。。。。

第一，，，，，，，，古板检测依赖的摩尔纹、屏幕边框这些“屏幕回放”特征，，，，，，，，在数字信号直接注入或高区分率播放下完全消逝，，，，，，，，辖档同屏幕边沿都找不着。。。。。

第二，，，，，，，，AI 已经学会模拟人眼光学反射和皮肤透光感，，，，，，，，以前靠角膜反光点形状、皮肤质感判断真假，，，，，，，，现在这条路基本堵死了。。。。。

第三，，，，，，，，天生视频的帧率、运动模糊可以和真实摄像头完全一致，，，，，，，，频域、时域特征趋同，，，，，，，，老要领直接失效。。。。。

第四，，，，，，，，2D 算法靠阴影、遮挡估算深度，，，，，，，，AI 能完善渲染这些视觉线索，，，，，，，，让系统误以为平面有立体深度——它骗的不是硬件，，，，，，，，是算法。。。。。

第五，，，，，，，，最新的天生模子甚至能模拟心跳引起的肤色微变，，，，，，，，虽然还做不到完善，，，，，，，，但骗过商用 rPPG 检测已经足够了。。。。。

第六，，，，，，，，绝大大都摄像头是被动的，，，，，，，，只会录像不会交互，，，，，，，，而 AI 视频是单向天生的，，，，，，，，只要系统不发随机指令、不自动打光，，，，，，，，它就永远没有破绽。。。。。以是我的结论是：用图像算法去解决物理真实性问题，，，，，，，，硬件不升级，，，，，，，，盲区就永远堵不上。。。。。

问：简单模态（如仅靠视觉）的身份验证是否已不再可靠？？？？？？？？多模态融合（如声纹+人脸+行为）是否是一定偏向？？？？？？？？

周迪：是的，，，，，，，，简单视觉模态在我看已经靠不住了。。。。。实质上是“模式匹配”被“像素伪造”正面硬刚——天生器可以通过对抗训练，，，，，，，，让假脸的像素特征无限迫近真脸，，，，，，，，直到骗过验证器。。。。。并且造假本钱越来越低，，，，，，，，防御本钱却指数级上升，，，，，，，，这场仗防御方自然被动。。。。。

多模态融合我以为是一定出路，，，，，，，，也是唯一的生涯之道。。。。。焦点逻辑就是增添攻击难度：视觉加声纹可以做唇语同步校验，，，，，，，，口型和声音对不上连忙露馅；；；；；；；心理信号如 rPPG 检测心跳，，，，，，，，这是真实心理历程，，，，，，，，AI 很难实时模拟出混沌特征；；；；；；；硬件模态如 3D 结构光、红外是物理降维攻击，，，，，，，，2D 屏幕伪造过不了深度和光谱检测。。。。。多模态验证的实质，，，，，，，，是从“你长得像”酿成“一系列逻辑链条同时建设”——长得像他、声音像他、心跳对得上、瞳孔有反应、唇形和声音同步。。。。。这些条件同时建设的概率，，，，，，，，在数学上扫除了伪造的可能。。。。。以是未来高清静场景，，，，，，，，简单视觉就即是没有清静，，，，，，，，这不是选择，，，，，，，，是生涯问题。。。。。

问：古板活体检测（眨眼、转头等）是否还能有用抵御新一代 AI 视频？？？？？？？？是否有更鲁棒的动态行为或心理信号可作为判别依据？？？？？？？？

周迪：古板眨眼、转头这类配合式行动，，，，，，，，面临 Seedance 2.0 我以为基本失效了——天生本钱极低，，，，，，，，效果足以骗过绝大大都基于图像特征的检测系统。。。。。攻击者要的只是一段切合指令的动态视频，，，，，，，，而这类视频现在可以批量生产。。。。。

更鲁棒的判据，，，，，，，，我以为必需往“非受控信号”走。。。。。好比 rPPG 检测心跳引起的肤色微变，，，，，，，，这是真实的心理节律，，，，，，，，AI 很难实时模拟出那种不规则的混沌特征。。。。。唬�；；；；Ｉ杏形抟馐兜奈⑿那椤⒆⑹拥愕淖匀黄疲�，，，，，，，以及系统自动提倡的情形挑战——突然变光看瞳孔是否缩短、突然发声看视线是否转移。。。。。这些视察的不是“用户做了什么”，，，，，，，，而是“用户控制不了不做什么”。。。。。这才是新一代活体检测的真正偏向。。。。。

问：现在有哪些前沿手艺可用于检测 AI 天生视频？？？？？？？？它们在实时监控场景中的可行性怎样？？？？？？？？

周迪：前沿手艺主要有几类：频域时序剖析，，，，，，，，找天生模子遗留的物理纪律破绽；；；；；；；rPPG 心理信号检测；；；；；；；数字水印与元数据验证；；；；；；；以及训练专用的对抗检测网络。。。。。但说真话，，，，，，，，放到实时监控场景，，，，，，，，落地难度很是大。。。。。

焦点瓶颈我以为有三条：一是算力，，，，，，，，边沿装备跑不起大模子；；；；；；；二是延迟，，，，，，，，云端往返几百毫秒，，，，，，，，攻击已经完成；；；；；；；三是泛化，，，，，，，，天生模子一迭代，，，，，，，，旧检测器连忙失灵。。。。。现在实时监控基本不具备大规模安排条件，，，，，，，，这些手艺更多照旧用在事后取证和司法判断。。。。。我自己的判断是，，，，，，，，未来很长一段时间，，，，，，，，实时场景还得靠硬件升级和交互挑战来顶，，，，，，，，纯算法的被动检测很难追得上天外行艺的迭代速率。。。。。

问：能否通过视频元数据、装备指纹或网络传输特征辅助判断视频真实性？？？？？？？？

周迪：可以，，，，，，，，这些维度是我以为很主要的辅助手段。。。。。元数据剖析可以发明装备信息缺失、编辑历史矛盾；；；；；；；装备指纹——传感器模式噪声——像相机的独吞指纹，，，，，，，，能验证视频是否来自声称的装备；；；；；；；网络传输特征——实时流的包距离、码率波动——和预制文件推送有显着差别。。。。。这些要领在司法判断、内部审计场景很是有价值。。。。。

但问题在于，，，，，，，，攻击者也可以伪造元数据、抹掉装备指纹、模拟传输特征。。。。。以是我以为它们只能作为辅助判据，，，，，，，，在实时验证场景还难以成为自力防地。。。。。未来更可行的路径是多维度交织验证——元数据、装备指纹、内容特征、心理信号一起看，，，，，，，，简单维度的破绽容易被补上，，，，，，，，多个维度同时伪造难度就大多了。。。。。

问：安防系统应怎样重构以应对 AI 诱骗？？？？？？？？是否需要引入“零信托”架构或一连身份验证机制？？？？？？？？

周迪Ｆ尕须重构，，，，，，，，我以为焦点就是“零信托”和“一连身份验证”。。。。。零信恣意味着不再默认“通过门禁就可信”，，，，，，，，每一次资源会见都要实时验证；；；；；；；权限极端碎片化——纵然攻击者伪造了 CEO 的脸骗过门禁，，，，，，，，没有硬件令牌也进不了效劳器机房。。。。。一连身份验证要求系统在用户操作全程，，，，，，，，无感收罗行为特征、微心情、情形信息，，，，，，，，一直比对，，，，，，，，而不是进门刷一次脸就完事。。。。。

手艺栈上，，，，，，，，我以为必需引入硬件级多因素认证，，，，，，，，好比 U 盾、NFC 卡、手机 TEE，，，，，，，，让 AI 无法模拟物理凭证。。。。。交互上要增添随机挑战-应答——突然打光、随机指令，，，，，，，，让单向天生的 AI 视频在实时反响眼前露馅。。。。。一句话，，，，，，，，扬弃“照片即身份”的旧头脑，，，，，，，，建设“数据+行为+硬件”三位一体的动态防地。。。。。这不是升级，，，，，，，，是推倒重来。。。。。

问：边沿盘算与端侧 AI 在提升响应速率与隐私保唬�；；；；；し矫婺苁┱故裁醋饔�？？？？？？？？

周迪：我以为边沿盘算和端侧 AI 是应对 AI 诱骗的“守门员”。。。。。响应速率上，，，，，，，，外地跑轻量模子可以做到毫秒级阻断攻击，，，，，，，，云端往返几百毫秒，，，，，，，，攻击者已经到手了。。。。。隐私保唬�；；；；；ど希�，，，，，，，原始人脸数据不出装备，，，，，，，，只上传加密特征向量，，，，，，，，黑客截获了也还原不出原图；；；；；；；还能在外地打马赛克，，，，，，，，合规又清静。。。。。

离线韧性也是我看重的优势——断网也能自力运行活体检测，，，，，，，，不会由于网络攻击整个防地瘫痪。。。。。虽然，，，，，，，，端侧算力有限，，，，，，，，模子必需压缩，，，，，，，，精度可能略逊云端大模子。。。。。以是我以为未来的架构一定是端云协同：端侧粗筛掉 90% 的初级攻击，，，，，，，，可疑样本再加密上传云端做深度剖析。。。。。把智能下沉到边沿，，，，，，，，是保唬�；；；；；ひ健⑻嵘煊λ俾实谋鼐贰！！！！�

即梦运营宣布通知称Seedance2.0暂停真人素材作为主体参考

问：您以为是否需要建设 AI 天生内容的强制标识制度？？？？？？？？谁应认真制订相关手艺标准？？？？？？？？

周迪：我以为很是须要，，，，，，，，这是维持数字社会信托的最后一道防地。。。。。强制标识能从源头改变博弈名堂——没有水印默认是真，，，，，，，，极大降低验证本钱，，，，，，，，阻止社会滑进“什么都不信”的虚无主义。。。。。这不是手艺问题，，，，，，，，是制度生涯问题。。。。。

标准制订我主张多元共治。。。。。政府定执法底线，，，，，，，，明确什么必需标识、不标识的效果；；；；；；；国际标准化组织如 IEEE、ISO 牵头统一协议，，，，，，，，阻止差别平台水印互不识别；；；；；；；手艺公司认真在模子底层强制嵌入切合 C2PA 标准的不可见水印！！！！，，，，，，，，硬件厂商在芯片级支持水印天生。。。。。挑战是水印必需足够“顽固”——截图、压缩、录屏都不掉，，，，，，，，还要人眼看不见。。。。。这就像食物配料表，，，，，，，，AI 时代，，，，，，，，“天生方法”是数字内容的须要属性，，，，，，，，不可让步。。。。。

问：现有执律例则是否足以应对深度伪造带来的新型清静问题？？？？？？？？

周迪：坦率说，，，，，，，，现有执法在全球规模内都显着滞后。。。。。我以为问题集中在五个方面。。。。。

一是界说难——混淆人格侵占了谁的肖像权？？？？？？？？已故人物“AI 复生”权力归属？？？？？？？？现行法没笼罩。。。。。

二是取证难——判断高保真伪造本钱极高，，，，，，，，通俗受害者维权本钱远超赔偿；；；；；；；证伪比证真难，，，，，，，，举证责任倒置尚无先例。。。。。

三是量刑难——套用诈骗、撒播淫秽物品罪量刑偏轻，，，，，，，，缺乏“滥用深度合成”自力罪名，，，，，，，，震慑力不敷。。。。。

四是统领难——效劳器设在羁系薄弱国家，，，，，，，，匿名币支付，，，，，，，，海内执法鞭长莫及。。。。。

五是平台责任——避风港原则面临实时天生内容形同虚设，，，，，，，，加重审查义务又涉隐私。。。。。中国虽然已有《深度合成划定》《天生式 AI 步伐》等先行规章，，，，，，，，但层级较低，，，，，，，，刑法层面仍需补课。。。。。

我自己的判断是，，，，，，，，未来必需“天生即标识”入法、增设专门罪名、增强国际协作，，，，，，，，才华与手艺攻防形成协力，，，，，，，，不然执法永远追着手艺跑。。。。。

问：安防厂商、AI模子开发者、云效劳商、终端用户之间应怎样协作构建“防伪生态”？？？？？？？？

周迪：防伪生态是典范的木桶效应，，，，，，，，我以为哪块板短都漏水。。。。。AI 开发者是源头管控者，，，，，，，，必需在模子输出端强制嵌入切合 C2PA 标准的不可见水印！！！！，，，，，，，，并开放判别接口给安防厂商。。。。。这不是可选项，，，，，，，，是责任。。。。。安防厂商是智能守门人，，，，，，，，要升级算法读取水印！！！！，，，，，，，，融合多模态信号，，，，，，，，安排自动挑战-应答，，，，，，，，不可只靠被动检测。。。。。

云效劳商是信托转达者，，，，，，，，提供加密传输、区块链溯源、大模子深度判断效劳，，，，，，，，并实时同步威胁情报。。。。。终端用户是最终把关人，，，，，，，，自动启用多因素认证、响应随机指令，，，，，，，，并反响异常样本。。。。。只有四方数据流动、标准统一——从源头打标、门禁验货、云端背书到用户批准形成闭环，，，，，，，，手艺对抗才华升级为生态对抗。。。。。单点防御的时代已经已往了。。。。。

问：您预计未来 3--5 年，，，，，，，，AI 伪造与检测手艺将泛起怎样的“军备竞赛”态势？？？？？？？？是否保存“最终解决计划”，，，，，，，，照旧我们必需接受一定水平的危害共存？？？？？？？？

周迪：我以为未来 3 到 5 年是高强度动态僵持期，，，，，，，，并且不保存最终解决计划，，，，，，，，我们必需学会与危害共存。。。。。军备竞赛会泛起三大态势：一是从视觉诱骗升级为全感官诱骗，，，，，，，，3D 深度、心理信号、触觉反响都可能被伪造；；；；；；；二是从对抗天生升级为对抗蒸馏，，，，，，，，天生器会消除所有已知检测特征，，，，，，，，并转向“真假各半”的编辑型攻击——改个车牌号、删掉一小我私家，，，，，，，，比凭空造假更难防；；；；；；；三是从手艺对抗演变为算力消耗战——造假几美分，，，，，，，，鉴真几美元，，，，，，，，防御方本钱倒挂。。。。。

为什么不存最终计划？？？？？？？？在我看来，，，，，，，，哲学上完善模拟即真实，，，，，，，，真假界说自己会模糊；；；；；；；硬件可被模拟或改动；；；；；；；攻防差池称性注定防御永远被动。。。。。以是我们只能转向概率信托，，，，，，，，给内容打可信度评分，，，，，，，，高危害操作强制链下多重验证。。。。。就像我们学会与病毒共存、与网络黑客共存一样，，，，，，，，这不是妥协，，，，，，，，是成熟。。。。。

问：通俗用户和企业应怎样提高小心？？？？？？？？在要害身份验证环节应接纳哪些特殊防护步伐？？？？？？？？

周迪：通俗用户，，，，，，，，我以为必需建设“数字嫌疑论”——突破眼见为实。。。。。小心紧迫情绪欺压转账的场景；；；；；；；视察口型同步、眨眼频率、边沿细节这些 AI 硬伤；；；；；；；反向搜图验明正身。。。。。社交媒体少发高区分率正脸照片，，，，，，，，关闭定位，，，，，，，，切断数据质料。。。。。这不是太过主要，，，，，，，，是防身。。。。。

企业要靠流程防火墙。。。。。财务指令必需双重确认——视频指令再真，，，，，，，，也得挂断打已知号码核实；；；；；；；大额转账双人复核。。。。。硬件上升级 3D 结构光、红外终端，，，，，，，，网络走专线。。。。。要害验证环节，，，，，，，，我特殊强调三件套：一是非受控交互，，，，，，，，好比随机指令“用手遮嘴”“快速转头”，，，，，，，，AI 实时天生难度极高；；；；；；；二是多因子叠加，，，，，，，，U 盾、硬件令牌、手机 OTP 加语音回访，，，，，，，，物理硬件 AI 伪造不了；；；；；；；三是情形挑战，，，，，，，，系统自动频闪补光，，，，，，，，真人瞳孔会缩，，，，，，，，屏幕视频没反应。。。。。最后，，，，，，，，全程录像存证。。。。。慢下来——多一分钟电话确认，，，，，，，，99% 的 AI 攻击就地失效。。。。。

本文系视察者网独家稿件，，，，，，，，文绿湖度假生长有限公司章内容纯属作者小我私家看法，，，，，，，，不代表平台看法，，，，，，，，未经授权，，，，，，，，不得转载，，，，，，，，不然将追究执法责任。。。。。关注视察者网微信guanchacn，，，，，，，，逐日阅读意见意义文章。。。。。

【网站地图】【sitemap】