警惕“AI换脸”诈骗 认清网络上的真与假

警惕“AI换脸”诈骗 认清网络上的真与假

  • 产品概述

  近日,山东济南一男子遭遇“AI换脸”诈骗,据当事人小冯称,他在刷视频过程中遇到自家亲表哥,短短7秒险些被诈骗30万。好在小冯及时察觉到了不对劲,立即与家人联系后发现被骗,随后报警求助。经警方通过技术方法分析,发现这是一宗利用AI换脸技术实施的网络诈骗案件。除此之外,浙江温州的陈先生也差点被一通利用AI换脸后的视频通线元,事后陈先生依旧表示AI视频效果很逼真。

  当前,人工智能技术已大范围的应用于人类的生产和生活当中,给人类带来巨大便利同时,也带来了诸多问题。在大数据时代里,我们无时无刻不暴露在监听监控之中,那些投其所好的推送如针灸般准确扎进用户的心坎里。而手机App的泛收集化,更是让公民个人隐私信息一览无余。

  那AI换脸是怎么做到的呢?记者来到了位于山东水利职业学院的山东犀盐数据科技有限公司,这是一家专注于反诈欺领域的公司。在那里记者现场体验了换脸技术,通过提前设置好程序,检测人脸五官、轮廓的关键点及位置,只需要几秒就可以换上一张新的“人皮”。山东犀盐数据科技有限公司总经理彭建辉介绍:“像这样换脸技术,还有换声技术,它都已经是开源的项目,大家都能学习并且去实施。所以说‘AI换脸’这项技术,其实很多普通的工程师就能够实现。”

  随着网络发展越来越迅速,技术越来越先进,诈骗方式也变得五花八门。据中国互联网络信息中心(CNNIC)发布的第52次《中国互联网络发展状况统计报告》显示,截至2023年6月,我国网民规模达10.79亿人,较2022年12月增长1109万人,互联网普及率达76.4%。互联网时代大众的沟通交流逐渐从线下转向线上,在社会化媒体平台分享所见所闻都已常见,而那些发布在社会化媒体平台的视频、照片,随时会被犯罪分子盯上,成为诈骗的工具。就拿AI来说,它能轻松实现一些精准诈骗,不仅是换脸换声,它还可以把受害人群进行分离,精准模拟受害人的一些亲属、朋友,从而实施精准诈骗。

  在采访中,山东犀盐数据科技有限公司总经理彭建辉告诉闪电新闻记者,一些“动手脚”的网络社交是很有必要的,“‘AI换脸’就是一种算法,当然存在漏洞,所以在运用‘AI换脸’这项技术的时候会有些变形,像是脸庞或者眼睛,如果反复快速移动的话,会产生扭曲变形。那么我们在平常的生活中,跟朋友开视频时,如果不确定对方的身份,可以让朋友遮一下自己的脸,移动下眼睛,看是否会发生明显的变化。此外,在视频通话时还可以观察背景和光影与面部是否匹配。”

  当然,为保障公民上网安全,一些平台也在逐步引进预防诈骗的算法,一些视频APP会在视频播放下面标记“疑似AI合成”这类字样提醒网友。AI技术也被警方用来排查可疑人群。

  近几年,国家也在积极采取一定的措施来减少同样事件的发生,保护人民群众的利益。山东财经大学法学院副教授、上海兰迪(济南)律师事务所兼职律师孟凡麟介绍道:“我们的祖国这些年一直在不断地进行立法,《中华人民共和国个人隐私信息保护法》对个人隐私信息的保护更加全面,从个人隐私信息的收集、存储、加工、删除、保密等方面都规定了具体的措施。”

  《中华人民共和国消费者权益保护法》首次提出了对公民个人隐私信息的保护要遵循合法正当必要的原则,并规定了具体的保护的方法;在《民法典》立法时,明确把个人隐私信息的权利写进去,作为公民个人的一项基本权利,并规定了一些原则性的措施,对个人的信息做全面的保护;在《中华人民共和国数据安全法》当中,对数据的传输收集以及保护方面规定了很多具体的措施。

  此外,个人隐私信息保护的相关制度在《中华人民共和国反电信网络诈骗法》、《电信和互联网用户个人隐私信息保护规定》和《中华人民共和国数据安全法》中也有具体规定。

  想爆料?请登录《阳光连线》()、拨打新闻热线,或登录齐鲁网官方微博(@齐鲁网)提供新闻线索。齐鲁网广告热线,诚邀合作伙伴。

  5000年酿酒历史,拥有古老窖池100多个,一杯景芝酒,给年夜饭带来更浓郁的年味儿

  2024山东春晚2月7日19:30在山东卫视播出 采用360度舞台布局

  山东16市全部开通在线快处 春节期间轻微事故可远程连线市局部已降暴雪 烟台、威海局部今天仍有大雪

  林武在商河县走访调研时强调 时刻把群众安危冷暖放在心上 努力让老百姓过上更加幸福美好生活

  2024山东春晚2月7日19:30在山东卫视播出 采用360度舞台布局