拟声、换脸、生成假图片……AI这么能造假，人类怎么不掉坑？
或许，在这个AI飞速开展的年代，在实在和AI营建的虚幻之间，咱们应该考虑的，是怎么坚持一个具有独立思维和沉着思辨的脑筋。
这是一个人工智能（AI）技能飞速开展的年代，这是一个实在和虚伪愈加难辨的年代。一张美国前总统特朗普亲吻前白宫首席医疗参谋福奇的相片近来引发争议，后经网友细心查验，这是一张AI生成图，由特朗普的党内竞争对手德桑蒂斯团队假造，意图是冲击特朗普在任时抗疫不力。克隆声响、一键换脸、假造假新闻……当AI制造的谎话潜入实际，终究该怎么厘清真假的鸿沟？
拟声换脸圈套频现
当电话另一端传来亲朋的呼救声，谁会想到这竟然是一个光秃秃的AI圈套。前段时间，一对加拿大配偶就阅历了这样一场“声响克隆噩梦”。
据《华盛顿邮报》报导，这对配偶3月接到一通电话，电话那头一名自称律师的男人说，他们的儿子珀金因在一场事故中撞死一名美国外交官而入狱，出庭前急需21000美元律师费。让故事显得更为传神的是，电话中还传来了近似珀金的声响。这对配偶挂完电话慌作一团，马上跑去银即将钱转给“律师”。直到儿子当晚打电话过来，他们才发觉上圈套。这家人敏捷报警，经警方查询，电话中“儿子”的声响是欺诈集团依据珀金在交际渠道发布的视频，运用AI技能仿制他的声响。虽然查明完工作本相，上圈套的金钱却一去不复返。美国联邦交易委员会（FTC）营销实践部助理主任威尔·麦克森表明，追寻语音欺诈者极为困难，他们运用的电话或许坐落国际上任何旮旯。同样在3月，美国的格雷格配偶也接到了相似的电话。欺诈者仿照他们孙子布兰登的声响，称人在监狱，需求一笔保释金。AI技能正在让冒名欺诈变得更简单，且本钱更低。FTC最新计算成果显现，冒名欺诈现已成为当下美国第二大抢手欺诈类型。2022年此类案子超越3.6万起，其间约5000起为电话欺诈，丢失金额超越1100万美元。
AI软件生成的特朗普福奇亲吻图。图源：GJ
加州大学伯克利分校数字取证学教授汉尼·法里德指出，AI技能的前进让欺诈者能够简单地依据简略的音频样本来仿制声响。“两年前，你或许需求很多音频来克隆一个人的声响。但现在，只需你在脸书或许TikTok发一段超越30秒的音频，仿制声响就能够敏捷完成。”声响能够仿照，面庞也能够替换，AI换脸早已不是新鲜事。美国游戏主播Atrioc就发现自己的脸被“偷”了，有不法分子运用AI换脸技能制造她的不雅观视频，并发布在交际媒体上。溃散的Atrioc试着向警方求助，等来的答复却是——她地点的州现在还没有相关法令可束缚或赏罚这样的行为。
虚伪信息混杂视听
不仅仅普通人，在AI的骗术面前，一些媒体也难以招架。英国《每日邮报》4月报导，一名22岁的加拿大年轻人为了能在韩国娱乐圈出道，以某韩国男团成员的面庞为模板，花了约22万美元整容了12次，最终在韩国一家医院不幸丧身。这则新闻一出，便引发了《纽约邮报》八卦版“第六页”、加拿大媒体公司Postmedia等媒体的跟风报导。但没过多久，一些媒体进一步查验后发现，或许这根本便是个假造的故事，主人公或许并不存在。由于韩国媒体问询警方后得到的答复是——其时并未收到相似的逝世事例陈述。而检测网站的成果显现，这名加拿大年轻人的相片有75%或许由AI生成。面对群众质疑，《每日邮报》删去了这则报导。但意外的是，5月又有媒体报导，这名年轻人的家人站出来证明他们儿子的逝世和报导的实在性。不过，这篇报导没有供给任何实质性的依据，也没有供给家人的实在信息和相片。
AI软件能够简单生成“传神”图片。图源：GJ
现在，这名年轻人的身份和报导的真伪仍旧成谜。在自在撰稿人拉斐尔·拉希德看来，这件事向媒体人宣布了警示，便是现在比以往任何时候都更需求在核对现实、戳穿流言以及问责方面发挥作用，前进自己的媒体素质和批判性思维能力。AI生成的虚伪信息还广泛呈现在政治范畴。几张特朗普在纽约街头遭差人围捕的图片3月在交际渠道疯传，图片中特朗普被差人捉住双手摁倒在地，局面非常紊乱。而现实上，这些图片均出自开源信息查询网站bellingcat创始人、英国独立记者艾略特·希金斯之手。他运用AI绘图软件生成了特朗普被捕的图片，“我仅仅在闹着玩，原以为只要几个人会转发”。但令他没有想到的是，这条推文的浏览量在两天后就突破了500万次。假如说这些AI假造的假新闻仅仅混杂了视听，那还有些假新闻则对社会产生了实实在在的影响。5月22日，一张五角大楼爆破的AI生成图在网络上引起轩然大波。数字原创媒体Vox报导，在短短几天内，这一假图片就引起了一阵惊惧，甚至在短时间内撼动了美国金融市场。值得注意的是，用AI技能抹黑政治对手并不仅仅民主党的手段。共和党也曾运用AI制造一段30秒的视频，呈现美国总统拜登连任后的场景：银行纷繁关闭、金融市场崩盘、旧金山被封闭……用虚伪的图片和报导描绘了一系列危机。人工智能公司“抱抱脸”安全和政策专家艾琳·索莱曼以为，AI现已被广泛用于政治宣传和操作推举，未来的路途将会非常困难。调查人士忧虑，AI技能的快速遍及或许会加重2024年美国大选中虚伪信息的传达。美国联邦众议员伊维特·克拉克正告，“假如AI技能在大选中被用来大规模操作和诈骗选民，将会对美国的国家安全形成严重后果”。
怎么管理面对应战
虽然自互联网诞生以来，虚伪信息就一向存在于网络国际，但近年来跟着ChatGPT、Midjourney等AI东西的呈现，以及Photoshop等绘图软件功用的更新，大规模出产超传神的假图画、视频和文本变得愈加简单快捷。欧洲刑警安排一份陈述猜测，到2026年互联网上多达90%的内容或许由AI创立或修改。现在，完全由AI生成的假新闻网站现已呈现，而且在短短几周内这些网站的数量就上涨了两倍。当AI造假的浪潮日益迫临，咱们该怎么分辩真伪、找寻实在？有媒体剖析以为，或许应从技能研制、完善法令法规以及前进群众认识和教育等层面下手。
AI软件生成的特朗普被捕图。图源：GJ
有业内人士主张加强AI反制技能研讨。眼下的确有一些科技企业正在加强对图画、声响假造技能的反制研讨，但到现在为止，并没有一个通用的规范来辨认实在或虚伪的内容，AI反制技能要跟着AI技能的前进而不断更新。也有剖析指出，AI技能的健康开展离不开相关法令法规的完善。例如，关于流媒体渠道上AI高度仿照歌手的行为，完善版权法或许是一个相对有用的战略。还有专家表明，未来AI可依据大数据创造出无比挨近实在的“实在”，要经过不断的教育改动群众观念，让人知道目睹纷歧定为实，有图纷歧定有本相，对网络信息前进辨识力。虽然对“AI造假”的有用管理道阻且长，但不少国家和地区现已开端着手应对。德国《国际报》近来报导，欧盟正在采纳举动冲击AI深度造假。欧盟委员会委员薇拉·尧罗娃表明，辨认深度造假的技能现已存在，期望脸书、谷歌、TikTok等交际媒体渠道能够大规模运用这些技能，而且经过软件宣布警报提示用户，而这项规矩今后也或许被归入欧盟正在拟定的《人工智能法》。固然，AI技能的开展是把双刃剑，一方面，它以惊人的速度在推动医疗技能、改进人类日子质量等范畴发挥着积极作用；另一方面，它也带来了必定的危险和应战。在5月举行的伯克希尔-哈撒韦公司的年度股东大会上，“股神”巴菲特谈及对AI的观点时流露忧虑。他表明，虽然创造AI的初衷是好的，“但当某种事物能够做各式各样的工作时，我有点忧虑”。他将人工智能比作原子弹：“在二战期间，咱们根据充沛的理由创造了原子弹，但这项创造对未来国际而言，真的是件功德吗？”巴菲特以为，AI将改动国际上的全部，除了人类的思维和行为方法。或许，在这个AI飞速开展的年代，在实在和AI营建的虚幻之间，咱们应该考虑的，是怎么坚持一个具有独立思维和沉着思辨的脑筋。
出品 深海区工作室
撰稿 王若弦
修改 深海盐
告发/反应
相关文章
马斯克大翻车？特斯拉机器人叠衬衫造假，网友：马斯克是懂流量的
马斯克的“擎天柱”机器人真的存在吗？近来，马斯克发布了一段关于特斯拉人形机器人“擎天柱”的视频。在视频中，特斯拉“擎天柱”站在一张桌子旁，慢慢地叠起一件黑色衬衫，好像没有遭到外力的任何协助，动作灵敏而...