一家跨国公司香港分公司的财政专员，依照“CFO”的指令，给对方指定账户合计转账2亿港币（约合1.8亿人民币）。

  谁曾想，这个刚刚在视频会议里跟自己“面临面”聊过的人，完全是Deepfake出来的！

  先别着急骂这大兄弟警觉性太低，Ta也不是没有过一丝丝置疑，可是，这可不是什么欺诈界常见的1对1视频通话——

  参加会议的有好几个熟面孔，无论是脸仍是声响，当事人描绘“每个人看起来都很实在啊”。

  冲击在AI批判一线的马库斯就第一时间拉着网友们吃起了瓜：好家伙，这是《黑镜》降临了。

  开端，小帅收到了一封远在英国总部的“CFO”发来的邮件。因为内容说到需求履行一项隐秘买卖，小帅一开端有些疑虑，并置疑这是网络垂钓信息。

  小帅进入视频会议后完全被眼前的一幕唬住了：不只公司CFO在，小帅的一些搭档也在，还有一些外部人员。

  要害是，这些假搭档和小帅知道的真搭档无论是容貌长相仍是声响，都别无二致。

  如此接连下套，小帅终究中了骗子的狡计，依照会议中的指示，分别向5个香港银行账户进行了15次转账，总计2亿港元，也便是约2560万美元，约合RMB1.8个亿。

  从骗子联络小帅开端，整个事情大约继续了一个周，直到小帅之后向公司总部核实状况，才惊觉整个事情不过是一场精心策划的欺诈。

  之后他们报了警。警方当即打开查询，发现会议中除小帅外的一切参加者，都是骗子运用揭露的个人视频和音频片段重建的数字人。

  视频中让小帅毛遂自荐并不是真的在和他互动，而仅仅单纯的用虚拟形象下达指令。

  警方还泄漏，不法分子曾运用相同的多人视频通话战略，企图欺诈该公司分部的别的一名职工，一共触摸了两到三名职工。但警方未供给有关他们遭受的完好信息。

  后续在新闻发布会上，香港警方表明已拘捕6名与此类欺诈有关的人员，且相似案子还有许多：

  上一年7-9月，有8张被盗的香港身份证被用于申请了90份借款、登记了54个银行账户；

  至少有20次，AI Deepfake被用来仿照身份证上的人像，以骗过面部辨认程序。

  能够看到，整个案子中，终究让小帅放下警戒的一大要害点就在于视频会议中的假人过于实在。

  AI语音组成方面，最近比较火的是一家叫做11Labs（ElevenLabs）的草创公司。

  11Labs不只能完成29个语种的语音生成，而且仅需短至1分钟的音频资料，就能很好地“克隆”任何一个人的声响，语调、心情改变都能仿照到位的那种。

  或许是遭到这一事情和前段时间的影响，上述这个实时换脸项目再获重视，还新鲜冲上了GitHub趋势榜。

  但正如许多网友说到的那样，技能没有善恶之分。而且更实际的问题就在于，开弓没有回头箭。

  除了更多标准和政策的拟定，从技能的视点来说，Nature就在“2024最需求咱们来重视的七项技能”一文中说到：

  而从个人的视点来说，进步警觉，渐渐的变成了AIGC技能迸发年代不得不面临的出题。

  香港警方也在这次事情中表明，将扩展警报系统，以提早正告、阻挠用户向欺诈相关账户搬运资金。

  不过，Deepfake假CFO骗走公司1.8个亿这种事儿，多少仍是有点过于离谱。

  原标题：《Deepfake假CFO骗走公司1.8个亿，职工：视频会议里每个人看起来都很实在啊》