榴榴杂谈

AI诈骗“出神入化”

榴榴杂谈 2023-06-05 07:24 出处:网络 作者:度娘的毒编辑:@榴榴
随着 ChatGPT 一炮而红,AI 俨然成为最炙手可热的行业,其出类拔萃的功能性令全球打工人陷入“冰火两重天”的处境。

有人获益匪浅,让工作事半功倍,有人拜它所赐,饭碗都被砸了。

两种天差地别的境地,都足以证明 AI 兴起并被应用后,对工作领域造成的巨大影响。


只是,在大部分人利用 AI 造福日常工作的同时,也有少许人通过 AI 干起了祸害无辜大众的勾当。

他们深谙 AI 出神入化的特质,实施 AI 诈骗。

以近期的新闻为例,一众加拿大老年人相继上当受骗,不法分子利用 AI 合成声音,冒充他们子女进行电话诈骗,涉案金额超百万。

美国也发生了多起类似的 AI 语音诈骗案件,并呈现出上升趋势。

两国的受害者均表示,骗子的声音简直和亲人一模一样。

从严格意义上来讲,AI 诈骗本质就是电信诈骗,先前因为技术不够先进,外加国家大力科普、打击,逐渐没那么泛滥。

但道高一尺魔高一丈,借助于日新月异的 AI 技术,骗子们又卷土重来,并将行骗手段提升到新高度。

毕竟现在的 AI 在很多场景中都做到了以假乱真的程度,让人防不胜防。

比如 AI 绘画,IT之家此前的推文中已经进行过细致演示,现阶段 AI 的绘画能力真的可以用栩栩如生来形容。

并且,骗子使用 AI 行骗的成本相当低,就拿语音诈骗来说,只需要搜集声音、合成语音就好;但回报非常高,日复一日广撒网,总有人会被捕获。

雨仔去研究了一番这两年的 AI 诈骗事件,大致可以归纳为 3 种类型:语音、换脸、生成式内容。

所谓语音诈骗,就是前文说到的那样,最常见的便是骗子用 AI 合成亲人声音实施诈骗,通常会向老年人下手。

为了能成功诈骗,骗子们有两大套路:

一个是编造较为严重的事件,诸如车祸、命案之类的,勾起老年人的紧张情绪。

另一个是在言语间投入感情,或是着急万分、或是痛哭流涕,直戳老年人的心窝。

绝大多数的老人都爱子心切,听到子女出事会焦急万分,感性盖过理性;再加上不懂江湖险恶,很容易被假话所哄骗。

反观换脸诈骗,就技高一筹了,人脸的可信度要明显高于语音。

同样是伪装成子女去诈骗老年人,换脸样貌 + 合成语音,成功率会大大提升。

只不过利用换脸诈骗的骗子,不会拘泥于这种低级的场景,往往会搞个大的。

要么把受害者的脸换到不雅视频中,去勒索:

温州一男子在与女网友视频聊天后,对方利用 AI 换脸技术将其面部合成到不雅视频中。

要么把脸换到绑架这种极端视频中,去敲诈:

美国加州一女子被骗子伪造的视频所欺骗,误以为家人遭到绑架,痛失 7 万多美元(约合人民币 48 万元)。

除此之外,还有骗子用 AI 换脸伪装成高管、明星,把职员和粉丝骗得团团转。

至于生成式内容诈骗,可谓是花样百出、真假莫辨,是最广泛且成功率最高的类型。

骗子通过 AI 生成图片,去打造一个陷阱,坐等有缘人掉进去,一般来说,有三大最常见的方式:

其一,骗亲情。骗子生成出别人的照片、伪装成本人,去骗取家人的钱财。

其二,骗感情。骗子生成出美女的照片并发布到社交平台上,去吸引那些被欲望冲昏头脑的单身人士搞网恋。

然后以恋爱的名义,要求对方为自己花钱或者转账。

其三,骗同情。不知各位老铁是否还记得 2 月的土耳其、叙利亚地震,导致数万人遇难。

明明是令人悲痛的天灾,却有人利用 AI 生成出一张救护人员拥抱孩子的照片进行诈骗。

骗子假借“发起援助运动”之名,附上自己钱包的链接,引来很多不明真相的网友“捐款”。

同时,也有人在 TikTok 上发布小视频,声称自己就在受灾区、呼吁捐款,但背景也是通过 AI 生成的。

由此可见,在 AI 技术的加持下,诈骗已然发展到了全新的高度,骗子们利用 AI,打造出各式各样的诈骗类型,构建一个又一个杀猪盘。

并且诈骗的方式还在持续丰富中:AI 模仿签名、用 ChatGPT 设置钓鱼邮件、根据所要实施的骗术通过 AI 精准筛选受骗人群......

可以说,随着科技的进步,诈骗手法在不断精进,变得无孔不入。

而面对来势汹汹的 AI 诈骗,如何有效辨别、防备就变得很是重要。

骗子诈骗的目的就是为了钱,而钱之于每个人的重要性都不言而喻,现阶段理论上有三种办法能进行有效应对:

首先是技术防范,目前已经有一些部门和企业在研究 AI 反诈。

其次是平台监管,把那些诈骗内容扼杀在摇篮中,不给面向大众的机会。

但平心而论,这两种办法尚且都不成熟,也很被动。

最后一种办法,也是最实用的,大家得保持警惕,提升防范意识,只要自身能做到无坚不摧,纵使骗子和 AI 再神通广大,也无计可施。

涉及任何与钱有关的事情,甭管钱多钱少,都要先核实再行动,即便对方再十万火急,也要耐住性子,切勿上头。

哪怕再空虚寂寞,也不要对来路不明的网络陌生人乱动情、花钱,照片很可能是 AI 生成的,背后操纵的没准儿是一个抠脚大汉。

保护好自己的隐私信息,并让家人知晓 AI 诈骗的可怕,分享应对的措施。

总的来说,AI 无情,但能骗取感情,AI 不坑人,但骗子会想方设法坑人,我们能做的,无非就是 —— 行走人间、小心为上。

科技是一把双刃剑,让我们站在新时代到来前夕的同时,也让我们面临前所未有的危机。

AI 诈骗,出神入化,防止诈骗,任重道远。

诚然人们常说“吃一堑,长一智”,但增长才智总是要先靠受到挫折,代价未免大了些。

祝愿各位别因 AI 诈骗栽跟头,当然了,最好干脆别碰见!

0

精彩评论