“我的孙子遇到麻烦了，急需用钱。” AI诈骗针

新京报贝壳财经记者罗一丹魏英姿编辑王金玉校对刘宝庆“奶奶，我不小心撞到了人，别让爸爸妈妈知道，求求你救救我吧！”听到电话那头“孙子”的声音，来自湖南的刘奶奶惊慌失措，立即按照对方的指示去银行提取了3万元现金，并按约定进村后将钱交给了“所长亲戚”。这只是一起“AI作弊”案例。在这个数字化风起云涌的时代，人工智能技术就像一把双刃剑。这在带来安慰和变化的同时，也悄然给老年人带来了新的危险和隐患。随着语音视频宽恕的技术门槛大幅降低，一些黑灰行业从业者就像狡猾的猎手，瞄准了老年人不熟悉新技术、信息获取有限、容易被骗的弱点。精神上依附于亲人，展开了有步骤的“狩猎”行动。新京报贝壳财经记者调查发现，看似高明的伎俩实际上是有AI深度伪造技术支持的。人工智能针对老年人的“陷阱”主要包括利用深度同理心冒充老年人亲属、子女实施金钱诈骗，以及利用人工智能生成医生、专家的身份，然后通过直播卖货等。他们经常通过精心制作的虚假宣传视频和山寨产品，夸大产品的功效，甚至以不实的虚构“治愈案例”来说服长辈。北京盈科（合肥）律师事务所合伙人蒋万东在接受新京报贝壳财经记者采访时表示，随着人工智能技术日趋成熟，改变AI面貌不再困难，成为一种新的商业模式。然而，当使用AI进行脸部修饰时，您必须严格遵守法律法规。未经许可，利用他人图像或声音素材进行换脸或变声，提供换脸、变声服务和在线教程并收取费用，利用人工智能合成或改变改变权利和肖像权、声音权的视频，可能构成刑事犯罪。 “我的孙子有问题，很容易需要钱。” AI声音变化，脸上的养老基金目标发生变化。 “家里的老人接到了电话，电话是老人家的固定电话打来的。他说是我儿子，而且声音、语气说的一模一样，还说了自己的名字。因为他刚刚在路上开车撞到了人，所以就让老人帮忙交钱，还告诉老人不要在院子里告诉我们，不想让父母知道。骗子太可怕了。”这样的骗局往往是经过精心策划的。在这位网友的经历中，骗子让一位年轻人到他家里来。来收钱。经过劝说并报警后，老人才恍然大悟。 “骗子针对关心孩子的80后、90后老人，我们的信息完全暴露，连孩子都不知道爷爷的座机号码。骗子利用AI模仿声音和语气，非常逼真。”壳牌财经记者梳理爆料和警方案件发现，诈骗者利用人工智能改变声音和面孔来冒充亲友。诈骗对象多为老年人。其做法一般是在用户的隐私信息被传播后，骗子利用AI技术制作身份，然后利用AI模仿他们以“孙子有事，容易需要钱”等理由与亲戚、朋友，特别是老人一起玩。涉足网络安全的反欺诈专家吴明（化名）对贝壳财经记者表示，此次诈骗的“出发点”此类欺诈行为通常是泄露用户的私人信息。 “例如，用户在下载不明来源的应用程序时，在手机上授予权限，导致手机上的通讯录、照片、短信等数据被上传到欺诈后端。通过用户传播或在社交平台上公开分享的语音或视频数据，欺诈者可以利用人工智能技术模仿用户的声音进行欺诈。” 10月21日至26日，新京报贝壳财经记者搜索国内外交易和社交平台发现，相关服务的变更以及更多语音变更和教程比比皆是。平台上，AI提供一键更换视频人物的教程，价格在1元以下。此类教程通常提供软件或工作流程的下载地址和安装说明。有些教程甚至吹嘘图像和视频的开发没有很多像e是市场上主打的一代机型，并提供了“去爱基影像”功能。至于AI声音克隆，价格也可以在1元以下，而需要现场克隆的声音则“贵20元”。 《财经财经》记者调查发现，不少提供视频、声音制作的黑灰产品卖家并不关心是否使用相关视频，而是根据客户需求的难易程度明码标价：做“换脸使用。一些黑灰房产交易渠道还出售与这些方式相对应的专业诈骗软件。”利用我们手机软件的功能，还可以用手机直接进行视频通话。它可以用在各种改变市场面貌的软件中，让你的‘顾客’找不到破绽，你也可以转用手机。”一位黑灰色产品卖家说道。 ▲来自黑灰色产品卖家的促销信息灰色产品。 80元即可定制出现带货的“假专家”截图、热门“代言视频”。很多卖家的AI克隆服务或者教程针对的目标客户，主要是为了冒充明星直播带货或者代言产品。过去，靳东、雷军、张文宏等为了增加相关产品的可信度，一些卖家发布郭富城、巩俐、齐秦等名人为某些公司或产品的“代言视频”或“祝福视频”。这些视频中部分涉及的公司和产品指向财务欺诈。贝壳财经记者作为买家咨询发现，AI视频制作服务起价80元。一些提供数字人制作软件的商家表示，购买软件可以教你如何操作，可以学张雪峰等名人。根据商家提供的信息，包月软件可以rd 188元，永久版288元。 ▲ 在交易平台上，卖家声称可以定制自己的形象。开源软件截图的作者还在用户界面上注明，“该软件是在 MIT 许可下开源的。作者对该软件没有控制权。那些使用该软件并分发该软件导出的声音的人负全部责任。” 10月24日，某视频平台负责人向贝壳财经记者表示，利用AI技术进行虚假宣传的利用方式已成为互联网广告安全管理的重要挑战。为了保护用户的权益，平台制定了严格的控制规则。例如，要求广告内容不得包含虚构人物、声称或描述特定身份/姓名/职位人物的存在、或认可产品或服务。若发现违规行为，广告主将受到处罚o 广告限制、帐户禁止，甚至删除。 10月26日，中国人民大学人口与发展研究院举办“数字时代老年人短视频使用与网络安全”研讨会，并与抖音联合发布了《老年人短视频健康使用指南》，涵盖了短视频平台常见的诈骗案例。其中一种新型诈骗手段，是利用人工智能技术打造那些老年人信任的身份，如名人、商人、公职人员，或者与养老金发放、家庭健康、子女命运等相关的信息，激发老年人的点赞、关注、转发。当这些账号通过“情感钓鱼”收集到真实的用户交互后，被包装为“优质账号”，然后用于账号销售或参与黑灰活动获取利润。 “利用人工智能合成‘假专家’或人类作者来推销商品或直播广播可能涉及许多法律法规。根据《中华人民共和国民法典》规定，侵犯肖像权、话语权，在中国需要承担制止违法行为的“一报还一报”等责任；姜万东告诉记者。除了“定向”诈骗，深度宽恕与检测技术相互较量。贝壳财经记者采访基层警方、反诈骗专家、平台监管部门发现，“定向”诈骗是通过去除老年人身份进行的欺诈过程相当复杂且成本较高，但案件总体数量并不像票据欺诈和投资欺诈等欺诈案件那么高。另一方面，随着新的AIGC标志法规的出台以及通过视频平台改进用户身份验证流程以及AI欺诈的破解，AI欺诈的难度将更大。指出“假专家”。 9月1日，国家网信办等四部门联合印发的《关于对人工智能生成的合成内容进行标注的建议》正式实施，要求上传到相关平台的视频内容，如果是人工智能制作的视频内容，必须进行标注。这会让一些“冒充专家”的AI视频失去传播空间。现在，平台能否看出视频是由AI生成的，成为一个很大的挑战。中国信息通信研究院人工智能研究中心安全与元宇宙部主任石林告诉贝壳财经记者，深度宽恕技术和检测技术目前正在相互竞争。 “它们就像MGA杀毒和病毒创造一样，是一个攻防对抗的长期过程。现在看来，技术宽恕确实正在变得更加真实和有效。我们f研究表明，检测技术在一定程度上会存在一定的滞后性。需要新的算法，需要样本积累和过滤。 “针对‘假孙子’、‘假专家’等诈骗行为，海淀市金融管理局发文称，老年人应更加小心，做好防范措施：在接到陌生人的电话或视频通话时，仔细核实对方身份。可以通过拨打亲友常用号码、视频通话时索要一些私人卡塔努甘等方式进行验证；从成年人自身的数字技术层面，向陌生人提供信息、银行账户、密码等敏感信息，以及从家庭和社会支持水平上为老年人提供心理和技术支持，不对其身心健康造成重大损害，子女应为老年人留下自由探索的空间，并在日常互动中及时提供危险提示和知识。