儿子打电话索要巨款救急，老夫妻打完钱才知道，是骗子用AI声音假扮的？！

anyting

儿子打电话索要巨款救急，老夫妻打完钱才知道，是骗子用AI声音假扮的？！




话说前段时间，加拿大发生了一起很奇特的诈骗案。
一天，一对老夫妇突然接到一个电话，是他们的儿子Perkin打来的。
儿子打电话是为了向他们求助，
他说自己出了车祸，撞死一名外交官，就要进监狱了。
（示意图）




夫妇俩一听说儿子出事了，都心急如焚。
就在这时，Perkin的律师又给他们打来电话，表示为了打官司，现在急需2.1万加元的律师费。
夫妇二人没多想，赶快帮儿子戳到2.1万加元，
并按照要求把现金兑换成了比特币，转账到指定的账户。
转账后，夫妇俩稍稍放下心来，
但安静下来之后，两人琢磨起儿子之前打来的电话，居然觉得有些不对劲儿，
因为在电话里，儿子的声音听起来有些怪怪的。
就在当天晚上，Perkin给父母打了一个电话，
父母一问，这才发现儿子根本没在白天给他们打过电话，更没出车祸需要打官司，
夫妇俩终于明白过来，他们受骗了。
（示意图）




他们赶快向加拿大警方报案，
但儿子Perkin表示，付款时没有安全保障措施，那笔钱已经没了，也没办法追回。
得知父母受骗后，Perkin一直有一个疑问——
他想不明白那通冒充自己的电话是怎么回事，据说声音跟他特别像。
根据警方的初步调查，骗子使用了AI技术，模仿Perkin的声音给他的父母打电话行骗。
Perkin不确定骗子是如何找到他的声音样本，
不过据推测，他曾在油管上发过跟雪地摩托有关的视频，骗子有可能是从视频里提取了他的声音样本。




像Perkin父母这样被骗子用“冒名顶替”的方式诈骗的情况，在世界各国都呈现上升趋势。
今年2月，美国联邦贸易委员会发布的一份调查报告指出，
2022年，美国因诈骗案损失了88亿美元，
其中，最常见的诈骗方式就是“冒名顶替”，跟Perkin父母的情况类似。




而AI技术的发展，给这类犯罪行为提供了便利。
从几年前开始，用AI合成声音诈骗的案件就已经出现了，2019年就发生过一起非常典型的案件。
一家英国能源公司的CEO接到“老板”的电话，这位“老板”是德国母公司的CEO,
“老板”让他马上把22万欧元转账到一家匈牙利供应商的银行账户，他乖乖照做了。




但转账过程中，这位CEO发现了蹊跷的地方。
“老板”一共给他打了三通电话，第一次让他转账，第二次告诉他已经把这笔钱报销了，第三次则让他再付一笔钱。
这位CEO发现，所谓的“报销”并没有完成，而且来自德国的“老板”是用一个奥地利号码给他打电话的。
起疑之后，这位CEO并没有付第二笔钱，也报了警，
但他已经转账的第一笔钱，已经从那个匈牙利的银行账户转移到另一个墨西哥的银行账户，之后又被转移到其他地方，早就无法追回了。
警方经过调查发现，当初给这位CEO打电话的“老板”根本不是老板本人，而是骗子用AI技术合成了老板的声音。
受骗的CEO表示，电话中“老板”带着一丝德国口音，还有别具个人特色的音调，非常像真的。




之前的AI技术被骗子利用，已经足够他们行骗，
最近，GPT-4在各国都掀起一阵热潮，如果有人恶意运用更高级的AI技术，带来的后果将不堪设想。
这种棘手的情况已经引起一些研发AI语音技术的公司关注。
比如AI语音模仿和合成研发公司ElevenLabs，
他们发现在匿名论坛网站4chan上，有网友用他们研发的AI语音合成器VoiceLab合成名人的声音，表达种族歧视等不当言论。
今年1月，ElevenLabs公司在官方推特上连发多篇帖子，提出一种解决方案。




他们表示，为了对付那些将AI语音合成器VoiceLab用于不良目的的人，他们研发了一种工具，
人们可以利用这个工具，验证音频是否是用他们公司的AI技术合成的。
而且他们发现，绝大多数骗子都会匿名使用VoiceLab，所以今后VoiceLab将只能付费使用，
虽然付费不一定能防止诈骗，但这样能迫使他们留下付款账户等信息，从而产生一定的震慑效果，让骗子不得不三思而行。








美国联邦贸易委员会也新成立了一个技术办公室，调查各个公司研发的AI技术用途，以及各公司是不是在想办法降低AI技术被恶意运用的风险。
美国联邦贸易委员会的发言人Juliana Gruenwald对媒体表示，他们已经发现在社交媒体上，类似的诈骗行为正以惊人的速度增加。
“我们还担心深伪技术（deepfakes）和其他基于AI技术的合成内容，它们越来越容易被创建和传播，可以被用于诈骗。”
（深伪技术是一种使用AI的人体图像合成技术，合成目标图像或视频的方式。）




“生成看似真实的视频、照片、音频和文本的AI工具，会推动这种趋势。”
“这让骗子更容易作案，行骗也更方便快捷。”




AI技术本身并没有问题，
可是一旦被别有用心的人利用，
带来的麻烦就让人防不胜防......




英国那些事儿
https://mp.weixin.qq.com/s/1yDrbUyjLH59uUdCIht6vA

qiuzi

真的是很大的漏洞。

yow_meng5727

qiuzi 发表于 21-3-2023 11:03 AM
真的是很大的漏洞。

右边 的照片，看起来 有点像 老汤。。。

@幸福草莓 @lim9999 @xiao_qing82 @thunder @adelinewcm

qiuzi

yow_meng5727 发表于 21-3-2023 02:53 PM
右边 的照片，看起来 有点像 老汤。。。

@幸福草莓 @lim9999 @xiao_qing82 @thunder @adeline ...

都不帅。

adelinewcm

yow_meng5727 发表于 21-3-2023 02:53 PM
右边 的照片，看起来 有点像 老汤。。。

@幸福草莓 @lim9999 @xiao_qing82 @thunder @adeline ...

不是很帅

adelinewcm

要提防

yow_meng5727

qiuzi 发表于 21-3-2023 02:54 PM
都不帅。

老汤 不帅 meh。。。

qiuzi

yow_meng5727 发表于 21-3-2023 03:36 PM
老汤 不帅 meh。。。

不觉得。

幸福草莓

yow_meng5727 发表于 21-3-2023 02:53 PM
右边 的照片，看起来 有点像 老汤。。。

@幸福草莓 @lim9999 @xiao_qing82 @thunder @adeline ...

昨天去开洗衣机也是有AI 功能，

我问对方AI会hack我洗什么衣服的吗，
对方笑到很大声

yow_meng5727

幸福草莓 发表于 21-3-2023 03:38 PM
昨天去开洗衣机也是有AI 功能，

我问对方AI会hack我洗什么衣服的吗，

哈哈哈。。。

不过，等下 AI 洗衣机 会不会 喜欢 嗅猫咪 的 底裤。。。

幸福草莓

yow_meng5727 发表于 21-3-2023 03:54 PM
哈哈哈。。。

不过，等下 AI 洗衣机 会不会 喜欢 嗅猫咪 的 底裤。。。

所以囖，我担心AI hack到，知道我穿廉价内裤然后传上网咋办呐！

上古上神

命中注定要破财消灾，人活着就好。

yow_meng5727

幸福草莓 发表于 21-3-2023 04:00 PM
所以囖，我担心AI hack到，知道我穿廉价内裤然后传上网咋办呐！

哈哈哈。。。

等下不懂  AI 洗衣机 会不会 跟 猫咪 道歉。。。
AI 洗衣机 ：不好意 主人，我把 你的 蕾丝边 底裤，洗穿洞了。。。

xiao_qing82

yow_meng5727 发表于 21-3-2023 02:53 PM
右边 的照片，看起来 有点像 老汤。。。

@幸福草莓 @lim9999 @xiao_qing82 @thunder @adeline ...

到处都是骗子了

yow_meng5727

xiao_qing82 发表于 21-3-2023 05:21 PM
到处都是骗子了

大家 要小心 提防 网络 骗子了。。。

羅馬王子

高招。