马斯克成深度造假?

近几个月来,互联网上充溢着数以千计的这种由AI驱动的视频,这些被称为“深度造假”(Deepfake)的视频中,伪造的马斯克形象误导了多多潜在投资者。据德勤估计,这类由AI支持的深度造假每年可能导致数十亿美元的诓骗损失。
这些视频造作成本极低,几分钟内即可实现,并通过社交媒体进行推广,蕴含在Facebook上的付费告白,大大扩大了它们的影响领域。监测和检测深度造假视频的公司Sensity结合首创人兼威胁谍报主管弗朗西斯科·卡沃利(Francesco Cavalli)对此发出忠告:“这可能是有史以来最大规模的深度造假圈套。”
这些视频时时惟妙惟肖,精准捉拿了马斯克标志性的不连贯语和谐南非口音。诳骗者通常从一段真实的视频动手,好比《华尔街日报》采访,造假视频中保留了记者的声音,这增长了视频的真实性。
利用先进的对口型技术,诳骗者调整了马斯克的嘴部作为,使其与他们伪造的台词美满匹配。他们还使用了声音克隆工具增长AI声音,这些工具能从样本片段中复造任何声音。最终的告白中,可能还蕴含伪造的图形,仿照新闻机构的形状,这对通常网络用户来说可能颇具说服力。
凭据Sensity的分析,马斯克是这些视频中最常见的讲话人。在近2000个分析样本中,出格是从去年底起头,他呈此刻了近四分之一的深度造假诳骗中。在那些以加密钱币为主题的视频中,这一比例甚至高达近90%。深度造假告白还时时使用沃伦·巴菲特(Warren Buffett)这样的驰名投资者和亚马逊首创人杰夫·贝索斯(Jeff Bezos)等商界大佬。
只管很难正确统计出有几多深度造假在网络上流传,但通过搜索Facebook告白库中常用的与诳骗有关的说话,发现了数十万条告白,其中很多蕴含了深度造假视频。固然Facebook已删除了很多违反政策的内容,并禁用了有关账户,但仍有其他视频留在了网络上,并且似乎每天都有更多视频出现。
YouTube也充溢着这些伪造的内容,这些视频时时带佑装直播”标签。事实上,这些都是预先录造的深度造假视频。在YouTube上搜索关键词如“埃隆比特币会议(Elon Bitcoin conference)”,能够看到数十个假装成直播的视频,视频中的深度造假马斯克在兜销加密钱币诳骗,误导性极强。
在美国前总统唐纳德·特朗普(Donald J. Trump)在比特币会议上讲话后,YouTube上迅速出现了数十个标注为“直播”标签的视频,展示了一段预先录造的深度伪造马斯克视频,宣称会加倍返还发送到他账户的任何加密钱币。这些视频固然吸引了大量观多,其中一些视频的旁观次数达到了数十万。但YouTube暗示,诳骗者可能使用网络水军报答夸大旁观次数。
据非投机消费者权利组织Better Business Bureau的汇报,一名得克萨斯州居民在2023年2月通过YouTube上一段所谓的“直播”视频,看到了假装成马斯克的诳骗信息,因而损失了价值36,000美元的比特币。该居民暗示:“我转了比特币,但什么都充公到。”
FB与YouTube成沉灾区
YouTube在一份申明中暗示,仅在今年1月至3月期间,平台就移除了超过1570万个频路和超过820万个视频,这些内容大多因违反其反垃圾邮件政策而被删除。
鉴于虚伪告白泛滥,澳大利亚亿万财主安德鲁·福雷斯特(Andrew Forrest)对Facebook的母公司Meta提起了民事诉讼,责乖熹在告白业务中的忽略,宣称这些告白业务误导了无辜用户进行谬误投资。据悉,福雷斯特自己的视频也被用于造作深度造假告白。
Meta公司回应称,在训练自动检测系统以鉴别平台上的诓骗活动,但也坦言这是一场复杂的猫鼠游戏,由于资金充足的诳骗团伙不休扭转战术以逃避检测。YouTube则沉申其不容诓骗和视频篡改的政策,并在今年3月要求所有创作者在使用AI创造真切内容时必须进行明确披露。
网络上充溢着大量有关的诳骗汇报,其中不少人损失了他们的毕生积储。香港证券及期货事务监察委员会在5月份发出了关于涉及马斯克的诳骗活动的忠告。今年早些时辰,美国联国业务委员会和联国调查局也忠告美国民多,AI驱动的网络犯罪和深度伪造诳骗正日益增多。
FBI在一份电邮申明中强调:“犯罪分子在利用AI作为力量的放大器,使网络攻击和其他犯罪活动越发有效且难以被侦测。”
数锥嗫骗与互联网的发展同步增长。但随着去年复杂的AI工具向公家盛开,以马斯克为特点的新一波深度伪造海潮应运而生,这些工具让通常人可能克隆名人声音或精确操控视频,吸引了色情行业、表情包造作者和越来越多的诳骗团伙确把稳。
网络安全钻研尝试室CTM Insights的首创人卢·斯坦伯格(Lou Steinberg)指出:“此刻的情况在产生变动,由于有组织的犯罪团伙已经发现,通过这种方式能够赢利。”他预计,我们将看到越来越多的这种假冒贪图,主张就是骗钱。”
只管AI天生的视频并不美满,例如马斯克的声音在一些视频中可能听起来机械化,并且他的口型并不总是与台词不匹配。但专家忠告称,这些视频对于一些诳骗指标来说已经足够令人折服,并且随着功夫的推移技术在不休改进。
凭据Sensity的卡沃利的说法,这些视频的造作成本极度低,约莫只需10美元,并且大无数诳骗者使用一系列免费或便宜的工具在不到10分钟内拼凑出假视频。他们重要位于印度、俄罗斯和东欧。
“它有效,”卡沃利说。“因而,他们将持续扩大这一活动,逾越国界,用多种说话翻译,并不休向更多指标传布诳骗。”
老年人成为美满指标
这类圈套常以高回报的人为智能投资软件为幌子,初期诱使受害者投入幼额资金——如250美元。随后,通过夸大投资的增值成效,逐步诱导他们增长投资金额。
特斯拉股东大会的一条视频也被伪造,视频中马斯克诠氏缢一个由AI驱动的自动买卖产品,宣称可能每天翻倍投资回报。
钻研加密钱币社区的专家指出,马斯克占有一群怪异的全球粉丝群体,这些粉丝多为守旧派、反体造人士和加密钱币爱好者,他们时时寻找赚取财富的非传统蹊径,这使得他们成为这些圈套的梦想指标。
“注定有一群人相信财富的奥秘被暗藏了起来,”钻研加密钱币社区的钻研者莫莉·怀特(Molly White)说。她指出,部门人群总空想把握财富奥秘,以为一旦找到便能一夜暴富。
诳骗者尤爱针对年长互联网用户,他们虽对加密钱币、人为智能或马斯克有所相识,但不熟悉安全投资方式的年长互联网用户。
“老年人一向是诳骗者眼中的一块肥肉,这一景象甚至早于社交媒体的鼓起,”加州大学戴维斯分校的科学技术钻研教授芬恩·布伦顿(Finn Brunton)说,他是加密市场的专家。
比彻姆是一名鳏夫,曾在加拿大安粗略省的一家公司担任销售代表,直到75岁退休。2023年参与Facebook后不久,他就遇到了告白诳骗。只管他记得曾在CNN的直播中看到过马斯克,但CNN的一位女讲话人暗示,马斯克已多年未在该台接受过采访。
去年12月,比彻姆向一家名为Magna-FX的公司汇款27,216美元,据他和该公司的电子邮件互换显示,Magna-FX使他相信他的投资价值在增长。期间,一名销售代理甚至使用软件远程节造了比彻姆的电脑,擅自转移资金。
当比彻姆尝试提取资金时,他被奉告必要支付3,500美元的治理费和另表3,500美元的佣金。他付了这些钱,但后来又被奉告必要支付20,000美元能力开释约20万美元的资金部门。只管他已经用尽了退休储蓄,刷爆了信誉卡,动用了信誉额度并向妹妹告贷投资和支付用度,诳骗者还是要求他支付更多用度。此时,比彻姆已意识到问题的严沉性,因而联系了警方。
Magna-FX的大部门痕迹已经从网络上隐没,蕴含公司网站、电话号码以及比彻姆曾与之互换的代理使用的电子邮件地址。一家名称和服务类似的公司对评论要求未作回应。
比彻姆在提交给Better Business Bureau的汇报中暗示:“此刻,我愿接受所有责怪与嘲讽,作为对自己轻信的惩治。”
他暗示,目前正依附一个未向诳骗者泄漏的较幼退休账户及养老金来维持生计,而他正本打算使用这些积储环游世界。比彻姆已经向本地警方报案,但案件进展缓慢。
“由于四处都是诓骗案件,我的案件被放在了队列中,”他说,“我没有抱太大但愿。”(幼。