字节紧急叫停了seedance2.0的真人人脸,官方说的很客气,内测关注远超预期,要优化创作环境,强调创意的边界是尊重。但明白人都清楚,这不是客气话,seedance2.0有多强,这几天刷到的人都知道。丢一张真人照片进去,它能直接给你生成一段完整视频,人物不穿模,动作自然表情连贯,镜头切换运镜,光影全都是电影级别。
seedance2.0版本几乎做到了以假乱真,普通人随手一张照片,就能让AI造出一段你根本没拍过的视频,成本极低速度极快效果极真,技术强到这个地步,问题立刻就来了。不是功能不够好,而是太好用,好用到了失控。有人把明星照片丢进去,生成各种虚假广告、恶意视频,有人把普通人的自拍拿去合成不雅内容在群里传播,还有更狠的,用AI换脸,冒充领导、冒充家人,视频通话骗走几百上千万的真实案例。以前这些操作还需要一点点技术门槛,现在
seedance2.0一放开门槛直接归零,一张照片就能毁掉一个人的名誉,一段合成视频就能骗走一辈子积蓄。平台如果不拦着,接下来就是大规模的肖像侵权、网络暴力、电信诈骗,虚假舆论根本压不住。内测刚一开,各种违规使用风险内容已经冒头了,平台再不紧急刹车,后果不堪设想。
