美国OpenAI公司发布的首个视频生成模型“Sora”在给相关内容制作行业带来震撼的同时,也引发了人们对其“深度伪造视频”可能加剧错误和虚假信息传播的担忧
△央视财经《经济信息联播》栏目2月20日视频
当前,包括谷歌和Runway在内的多家公司,都在积极研发此类人工智能项目。但OpenAI强调,“Sora”的突出之处在于其图像的真实感,以及能够生成比其他模型更长的视频片段。不过目前,“Sora”仍然存在缺陷,例如可能混淆一些文本指令中的空间细节、左右方向等。
人工智能产品开发者 莫斯塔克:我认为这是自互联网出现以来,我们在技术上取得的最大飞跃之一,它将创造全新的行业,将使媒体更加令人兴奋和有趣。我认为这将不可避免地创造大量新的工作岗位,我认为它将改变一切。 
不过,人工智能技术带来许多新机遇的同时,也不可避免地造成了前所未有的挑战和隐患。其中,人工智能生成欺骗性内容干扰选举被认为是全球面临的重要挑战。当地时间1月23日,2024年美国总统选举共和党党内初选在新罕布什尔州举行。在此之前,很多美国选民都表示,自己接到了一通“来自美国总统拜登的电话”。
人工智能生成的虚假电话录音:真是一派胡言,当选票作数的时候,我们就能知道民主投票的价值了,你要把选票留到11月再投。
很快,白宫新闻秘书皮埃尔就澄清说,这是一则伪造的电话录音。 
意大利《共和国报》报道说,视频生成模型可以让“名人或政客说从未说过的话、做从未做过的事”,如果有人利用模型克隆拜登、特朗普或其他竞选美国总统,或2024年欧洲议会席位的人,可能会加剧错误信息和虚假信息的传播。
网友质疑:“我好奇生成这些视频的学习材料来源,为了生成有效视频,它需要大量不同的视频数据。”“人工智能的发展就像无人驾驶的汽车,不知道会走向何方。”
转载请注明“央视财经”

来源央视财经(ID:cctvyscj)
监制:柯成韵
编辑:孙永慧
你怎么看?
继续阅读
阅读原文