AI世界 眼见为虚

日期:2023-11-13 09:26:04 / 人气:200


前几天被赵本山忽悠了。准确的说是被一段和赵本山的视频忽悠了。
本山大叔一改往日荧屏上的模样,穿着一件裘皮大衣出现在视频中,神情严肃地坐着谈论自己过去参加春晚的经历,说着极其流利的英语。我觉得很惭愧,想到在学校学了这么多年英语,现在连一句话都说不清楚。
赵本山很少用流利的英语示人,除了在电影《笑傲江湖》中说了一句蹩脚的英语“愿原力与你同在”,被翻译成“别逗了,没用的”,被当成笑话传了出去。他更出名的是他的铁岭口音和幽默形象。
我对网上的信息一直很谨慎。短视频汪洋大海里的很多东西,早已难辨真假。长期以来,与虚假视频的斗争也教会了我一双火眼金睛,相信自己几乎一眼就能看出哪些是真的哪些是假的。
我看过艾画的《川普被捕图》,他的监狱神情历历在目;我见过AI虚拟主播在直播间带货,接近真人出现的效果;我听过艾斯蒂芬妮唱刀郎的《罗刹海城》,连音调和呼吸声都一模一样。
只有当我听到那段视频,说英语的声音和赵本山一模一样,看到视频右下角“杨澜访谈录”的字样,甚至当他说的一切都和他的嘴相吻合的时候,我才相信,这一口流利的英语真的出自本山大叔之口,毫无疑问。
刷了几十秒的短视频,还在回味本山大叔地道的英语发音。我立刻看到郭德纲用英语说相声,魏凡用英语表演小品,罗永浩用英语现场送货。这些视频看起来没有违和感,但似乎有什么奇怪的地方。
直到看到角落里“AI生成”的字样,才如梦初醒,大吃一惊。如果不是图上方的小字,恐怕赵本山本人会有一百个说法,他的老搭档魏凡又被忽悠了。我的“金眼睛”甚至有一天被欺骗了。不得不感觉AI又进化了,我落伍了。
年初的时候,我很不屑艾画的作品有瑕疵。现在,AI技术生成的视频无处不在,直接让这个社会进入了“眼见为实”时代。
在那些借助软件可以快速生成的视频中,李云龙、马保国和刀郎都熟练地说着英语,于谦用日语扮演主角,而马斯克、川普和迈克尔·杰克逊则说着带有外国口音的普通话。
我被这些视频惊呆了。看了很多遍,还是盯着那些名人的嘴看。真不敢相信造假可以做到如此逼真,连赵本山说英语的时候嘴角都能做出来。
在很多人看来,伪造这样的视频纯粹是为了娱乐,甚至有人兴奋地拿起自己的视频和语音喂给AI,以此来锻造精通各种语言的自己。
AI正在朝着完美创造者的方向进化,这很神奇,也很恐怖。这种伪造被称为“深度伪造”,不同于过去简单的伪造,而是基于深度学习。甚至连脸、声音、眼睛、口型、动作甚至指纹都可以“假”成真人。
图像造假的历史可以追溯到100多年前。欺诈的技术和工具在过去的100年里一直在发展,但从来没有像今天这样,几乎在视觉和听觉上,虚假和真实之间的界限已经完全模糊。人们原本信奉的“有图有真相”“这个视频就是证据”的道理,瞬间就不香了。更多的人会在假视频面前失去辨别真伪的能力。
我们生活在这样一个互联网时代,完全没有隐私可言。想象一下,如果有人偷了你的一张照片,或者从你的短视频账号下载了一段视频,然后利用AI技术伪造了一段视频,在这段视频中,你说了一些你从未说过的话,做了一些你从未做过的事,然后发送给你的家人、朋友和同事。应该如何应对?
有媒体报道,今年,在美国亚利桑那州,一位母亲接到了一个奇怪的电话。电话里,她听到了女儿的声音,女儿在哭,喊着“妈妈”。这位母亲知道她15岁的女儿在外地滑雪,她很担心会发生什么事。后来她听到一个男人的声音,声称女儿在自己手里,需要100万美元,否则就强迫女儿吸毒,送她去墨西哥。
母亲吓坏了。她还听到电话里女儿的声音:“救救我,妈妈!”“但很快,丈夫确认了女儿的安全,意识到这是骗子打来的电话。但这位母亲还是很疑惑,因为她很确定,她在电话里听到的真的是女儿的声音,她的语气,甚至她哭的方式,都和真人没什么区别。
手机上的声音只是通过AI克隆的声音。据说还有一个AI软件,只需要3秒的语音样本,就可以完美的伪造我的声音和语气。如果诈骗分子掌握了这个技巧,我还敢随便和陌生人说话吗?
然而,这是半年前的新闻。六个月后,AI技术已经可以克隆完整的人了。如果绑匪发来假的绑架视频,而恰好此时此刻你联系不上孩子,后果将不堪设想。
虽然现在这种骗局并不流行,但一些犯罪分子已经开始滥用最新的AI技术来实施犯罪。在各地警方公布的案例中,犯罪分子通过AI拟声词、AI变脸等手段,成功骗取数千元至百万元不等的钱财。明星、专家、官员等人的音视频也可能被伪造,用于行骗。一个“反诈骗中心”公开表示,AI技术作弊的成功率接近100%。
虽然很多国家都要求添加水印来明确标记AI生成的内容,但那些试图从中获利的人肯定不会这么做,面对伪造的视频我们只能“睁一只眼闭一只眼”。
在很多方面,这种技术也可能被滥用,带来不良后果,如制造虚假新闻、制作或篡改法庭证据、伪造色情视频、恶意攻击、抹黑诽谤他人等。
一些工程师试图开发AI内容检测器,以魔法战胜魔法。这些检测器可以检测相关内容是否有AI生成的痕迹,就像一面魔镜,但目前部分检测器的检出率并不高。作为普通人,我们在读文章、听音频、看图片或者视频的时候,很难把“镜子”握在手中,一直举在面前。
很多时候,当我们发现那些视频是伪造的时候,假象可能已经作为真相传遍了各个角落,可能已经无可挽回地产生了一些不好的后果。
我不想反对或阻碍AI技术的进步。其实我很欢迎这种技术,来到AI世界制造“假货”。甚至当AI进化出新的功能时,我也很兴奋——有人用这种技术创造出前所未见的东西。
比如在一个视频平台上,一个博主扮演着导演和编剧的角色,用AI技术再现名人,把不同时代、不同领域、不同国家的不同人安排成一个又一个的视频脱口秀。
为了满足乔布斯想和苏格拉底喝下午茶的愿望,他创造了AI乔布斯和AI苏格拉底,并邀请AI约翰列侬主持对话。在那个小小的屏幕上,他们三个自由自在地聊着“嬉皮士精神如何影响硅谷”和“技术与艺术的关系”。而且据说几乎85%的对话内容都是ChatGPT-4生成的。
这些视频受到了许多观众的好评,尽管许多人都明白,那些视频中最经典的仍然是这些名人的思想创造,而不是AI产生的声音和微笑。但导演给了苏格拉底、尼采、李白等人一种新的存在方式——数字生活,也创造了一种新的对话方式,让圣贤们思想碰撞。
正如艾·苏格拉底在视频中所说,“技术就像命运本身一样,既无善意也无恶意,而是人类手中挥舞的力量”。艾·乔布斯说,“这就像两只狼,一只贪婪、嫉妒、急躁,另一只充满了爱、同情和耐心。哪一个长大,取决于我们选择喂养哪一个。”
来源:中国青年报”

作者:天富注册登录官网




现在致电 5243865 OR 查看更多联系方式 →

COPYRIGHT 天富注册登录官网 版权所有