世界首桩AI诈骗案:模仿德国高管声音骗得英国下属汇24万美元

据《华盛顿邮报》9月6日报道,一个英国能源公司的董事接到其德国母公司老板的电话,后者要求该董事向一个秘密账户汇款24万美元,此事后来被发现是诈骗团伙利用人工智能(AI)软件模仿德国老板的口音。这是迄今公开报道的第一桩AI诈骗案。

据报道,今年3月的一个星期五下午,英国某能源公司的董事接到其德国母公司老板打来的电话,后者要求该董事向匈牙利的一个秘密账户汇款24万美元,以帮助母公司避免因拖延付款而遭受罚款。

据这个英国能源公司的保险公司Euler Hermes说,该英国公司董事接到电话后,虽然有点怀疑,但他完全相信自己是在跟德国老板通话,因此按要求向匈牙利的秘密账户汇去了24万美元。

“这个软件能模仿人的声音,不仅是声音,还有语调,即德国口音。”保险公司说。

世界首桩AI诈骗案:模仿德国高管声音骗得英国下属汇24万美元-机器成精

AI技术不但能模仿人的声音,甚至还能模仿口音语调。

诈骗团伙故伎重演时终于败露,这一次英国公司的董事起了疑心,他直接给德国老板打电话,结果发现这是诈骗团伙在作案。

据报道,英国董事上次汇出的24万美元很快被分散到多个账户,已经无法追回。

《华盛顿邮报》的报道称,这是世界上首例被公开报道的人工智能诈骗案。

据悉,这项人工智能模仿声音的技术可以将一个人的声音细分成音节或声音片段,然后再重新组合成新的句子。尽管这项技术目前尚不成熟,模仿出来的声音听起来有点奇怪,但诈骗团伙可以声称这是在开车时或在喧闹环境中说话。

一家新的创业公司Lyrebird擅长这项技术,它在广告中征求志愿者上传一段1分钟的语音,声称可以用“世界上最逼真的模仿声音”将其转换成新的句子。

该公司在其免责声明中表示:“想象一下,如果我们完全不公开这项技术。其他人也能发展这项技术,谁知道他们的意图是否跟我们一样真诚。”

网络安全公司Symatec的研发人员说,他们已经发现三例类似的诈骗案,其中一例损失高达数百万美元。

这些案例引发人们对人工智能软件被用于险恶目的的担忧。

世界首桩AI诈骗案:模仿德国高管声音骗得英国下属汇24万美元-机器成精

如果AI技术被用于炮制政治人物的虚假录像,可能会引发诸多政治灾难。

据报道,脸书和微软公司9月5日发起一项反“深度诈骗视频”(deep fakes)的倡议,联合投资1000万美元用于研发检测“深度诈骗视频”的技术。

据悉,人工智能目前已经可以伪造出逼真的录像,用于欺骗观众。由于美国2020大选日益临近,很多人开始担心人工智能技术可能用于伪造政治人物的讲话。

*文章为作者独立观点,不代表机器成精立场
相关文章
IDC发布2020年全球机器人市场十大预测——中国启示
IDC发布2020年全球机器人市场十大预测——…
GSMA正式宣布取消巴塞罗那MWC2020举办
GSMA正式宣布取消巴塞罗那MWC2020举办
在线教育直播四股力量“博弈”正当时
在线教育直播四股力量“博弈”正当时
2020亚太银行数字化创新大会持续报名中
2020亚太银行数字化创新大会持续报名中
美国新规限制AI软件出口中国,周一生效
美国新规限制AI软件出口中国,周一生效
那些惊艳的新技术:关乎机器 更关乎人
那些惊艳的新技术:关乎机器 更关乎人
我还没有学会写个人说明!