AI造谣层出不穷，险些引发社会恐慌
“2021年4月，上海某公司高管因对方使用AI换脸与人工生成的语音技术制作公司领导的面孔，并要该高管转账，致使该高管被诈骗150万元。”
“2022年2月，浙江温州市公安局瓯海分局接到报案称，一名陈先生被‘好友’诈骗了近5万元。骗子利用陈先生好友在社交平台发布的视频，截取其面部视频画面后再利用‘AI换脸’技术合成，制造陈先生与‘好友’视频聊天的假象骗取其信任。”
“2023年5月，福州市某科技公司法人代表郭先生在与“好友”视频聊天时，被对方以借用账户转账为由，10分钟内被骗走430万元。”
......
AI技术的发展，让我们看到生产效率提高的同时，也让我们看到了违规滥用带来的各种风险。目前典型的AI换脸诈骗行为即诈骗者会先获取人脸信息，然后利用AI技术软件分析脸部特征、实施换脸行为，再通过合成的视频或照片伪造成他人实施诈骗，而在此过程中的关键性行为是：获取人脸信息和进行AI技术处理。
AI诈骗的各种新闻一出，让我们深刻地意识到，AI除了捏造事实，更可怕的是会让人失去分辨真相的能力。当“眼见不一定为实”的时候，或许社会性恐慌也就随之而来。因此，在AI欺诈场景，我们需要做到“知己知彼”，方能在“真假美猴王”中，找到边界，重塑用户信心，远离“楚门的世界”。
金融场景AI欺诈风险如何应对？
除了在日常生活中我们需要警惕AI诈骗，在各行业中，各企业也需要防范，尤其是金融行业企业用户。因为人工智能已被广泛应用于金融各个业务场景，其中，人脸识别技术在身份识别核验、反欺诈、线下支付、智慧网点等场景中被大量使用，但通过攻击系统以牟利的黑灰产也应运而生，不法分子利用泄漏的人脸数据，绕过前端活体检测模块，导致人脸识别系统失效。保护人脸识别安全，成为重中之重。
6月15日，顶象第二季第六期业务安全大讲堂即将开讲！
本期直播将由AI安全方案专家杨金威老师从AI欺诈风险场景介绍出发，为大家深入浅出地讲解金融场景AI欺诈风险与应对。
直播时间：6月15号（周四）下午15:00
直播福利：直播间不定时会抽出顶象周边福利，直播嘉宾的福利包括但不仅限于——
1、第二本业务安全专业书籍的联合署名权（首部图书）；
2、现金奖励；
3、顶象周边。
同时，欢迎各位圈内圈外大佬以及合作伙伴积极参与到我们第二季的业务安全大讲堂直播活动中来，有意向的可添加小助手沟通参与。
本期主讲嘉宾杨金威，AI安全方案专家，长期从事AI安全攻防对抗相关工作，为多家金融机构搭建AI安全防御体系，并参与多项领域相关行业标准制定，具备丰富的AI安全攻防理论与实践经验。
Tips：本期直播将在顶象视频号&钉钉&B站顶象直播间&CSDN顶象技术直播间多平台同步直播，感兴趣的同学记得一定要提前锁定直播间哦！
业务安全大讲堂免费直播：立即报名
业务安全产品：免费试用
业务安全交流群：加入畅聊