温峥嵘吐槽直播不公，AI假明星骗钱，李子萌成为第一个突破口。 2020年，江西一女子遇到了一个冒充靳东的账号。对方利用AI技术，让自己的脸和声音看起来就像真人一样。他相信了，并转了数千美元给它。银行发现有问题。我报了警。当时并没有引起太多关注，大家都认为这是一起孤立事件。但2023年9月，又有人作弊，而且还是同一个“靳东”。这次是王先生的母亲，被骗了20万多元。警方已经正式立案，表明这已经不是一件小事了。去年8月，央视曾报道有人利用人工智能技术在直播间主播全红产，并出售当地的鸡蛋和蜂蜜。事实上，全红婵家人早在4月份就澄清过此事，称本来就不是这样的，但骗子却置若罔闻，继续用他的脸在直播中卖货。 11月5日，演员文峥嵘忍不住了。他连续举行了三场直播，对着私人镜头说：“我真的是温峥嵘。”温正荣指出，他的团队报告了50多个虚假账户，其中20个被封禁。他这样做其实就是希望平台和大众来处理这个问题——你的脸可以被别人用来赚钱。就在11月份，李梓萌也成为了目标。有人用AI技术复制了他的外貌，并在直播间提出了号称包治百病的鱼油。经海淀市场监管局调查，发现为假货。整个过程没有真人参与。该案成为全国首例虚假人工智能广告刑事案件。过去，这种情况被认为违反了多数人的意见，不过现在直接进入了法律程序。有趣的是，骗子竟然敢打着“央视应援”的旗号，以为没人会调查。这个产业链的运作是非常清晰的。上游有人从网上收集名人的视频、照片和声音，拍摄下来出售，卖到30元一套。中游利用Deepfake等开源软件来换脸、添加声音、调整动作，下游也受益匪浅。利用这些化身进行直播销售食品、保健品、服装等商品是非常有用的。更夸张的是，可以同时让权红婵卖鸡蛋、靳东来求婚，还有温峥嵘推荐口罩。一个人可以扮演多个角色，批量工作。温峥嵘率先开直播澄清谣言。他不仅直接表示视频中的人不是他，还出现在那个人面前以证明那是他的。这种方法看起来很聪明，人们开始思考谁控制着他们的脸和声音。随后，靳东在两场会议上提出了自己的观点，称观众因为被AI欺骗而离家出走。这已经不是玩笑了，而是涉及刑事问题。他的说法虽然强硬，但却击中了要点。 11月6日，抖音发布新规，专门处理虚假名人内容。用户可以自行标记虚假账户，平台将冻结这些账户的资金并封禁。国务院也在年底发布了一份文件，称将对人工智能产生的内容进行管理。这是国家首次正式将此类问题纳入治理范围。执法程序也得到了更新，名人不再需要亲自站出来澄清“我不是”。相反，它依赖于技术方式来看到真实的情况直播时使用人工智能合成图像的时间。然而，也有一些无人关心的灰色地带。有些MCN公司明知是假账号，还让他们挂上名字，说是为了获取流量。没有人真正相信。短视频平台的推荐机制也存在问题。它将推送您以前看过的名人剪辑。这样一来，当你看到人工智能合成的人脸时，你会觉得这个人很熟悉，你就不太可能被欺骗。不太活跃的名人，例如资深演员、奥运会冠军或主持人，是最容易的目标，因为他们很少更新内容，也不会总是站出来说我没有这样做。这件事还在进行中，没有人能够完全阻止，但是大家开始明白，人工智能不仅仅是一个玩具，它可以用来赚钱，也可以用来骗钱。温峥嵘一次公开提醒李子萌，他遇到了第一个案例。估计以后会有很多人发言。平台调整规则，政府部门想办法解决。下次普通人看到熟人在直播间卖东西时，不要急着下单。你可以先问问自己，这是不是你这样的人。 特别声明：以上内容（如有则包括照片或视频）由自媒体平台“网易号”用户上传发布。本平台仅提供mgan信息存储服务。 注：以上内容（包括图片和视频，如有）由网易HAO用户上传发布，网易HAO为社交媒体平台，仅提供信息存储服务。