人工智能(AI)的快速发展既带来了利益，也带来了风险。

　　一个令人担忧的趋势是滥用语音克隆。在几秒钟内，骗子可以克隆一个声音，欺骗人们认为朋友或家人急需钱。

　　包括CNN在内的新闻媒体警告称，这类骗局可能会影响数百万人。

　　随着科技让犯罪分子更容易侵入我们的私人空间，对科技的使用保持谨慎比以往任何时候都更重要。

　　人工智能的兴起为图像、文本、语音生成和机器学习创造了可能性。

　　虽然人工智能提供了许多好处，但它也为欺诈者提供了利用个人赚钱的新方法。

　　你可能听说过“深度造假”，人工智能被用来制作虚假的图像、视频甚至音频，通常涉及名人或政治家。

　　语音克隆是一种深度伪造技术，通过从简短的音频样本中捕捉一个人的语音模式、口音和呼吸，创造出一个人声音的数字复制品。

　　一旦语音模式被捕获，人工智能语音生成器就可以将文本输入转换为与目标人物的声音相似的高度逼真的语音。

　　随着技术的进步，语音克隆可以完成只需三秒钟的音频样本。

　　而像“你好，有人在吗?”，可能导致语音克隆骗局，较长的对话有助于骗子捕获更多的声音细节。因此，在你确定来电者的身份之前，最好保持通话简短。

　　语音克隆在娱乐和医疗保健方面有着宝贵的应用——为艺术家(甚至是死后)提供远程语音工作，并帮助有语言障碍的人。

　　然而，它引发了严重的隐私和安全问题，凸显了安全措施的必要性。

　　网络罪犯利用语音克隆技术冒充名人、政府官员或普通人进行诈骗。

　　他们制造紧迫感，获得受害者的信任，并通过礼品卡、电汇或加密货币索要金钱。

　　这个过程首先从YouTube和TikTok等来源收集音频样本。

　　接下来，该技术分析音频以生成新的录音。

　　一旦声音被克隆，它就可以用于欺骗性通信，通常伴随着欺骗的来电显示，以显得值得信赖。

　　许多语音克隆骗局已经成为头条新闻。

　　例如，犯罪分子克隆了阿拉伯联合酋长国一家公司董事的声音，策划了一场价值5100万美元的抢劫案。

　　孟买的一名商人成为语音克隆骗局的受害者，其中包括来自印度驻迪拜大使馆的假电话。

　　最近，在澳大利亚，诈骗者雇佣了昆士兰州总理史蒂文迈尔斯的语音克隆，试图欺骗人们投资比特币。

　　青少年和儿童也是攻击目标。在美国的一起绑架骗局中，一名少女的声音被克隆出来，她的父母被操纵服从要求。

　　最近的研究显示，去年英国28%的成年人遭遇过语音克隆骗局，46%的人不知道这种骗局的存在。

　　它凸显了一个重大的知识鸿沟，使数百万人面临欺诈风险。

　　据报道，在2022年，近24万澳大利亚人成为语音克隆骗局的受害者，造成5.68亿澳元的经济损失。

　　语音克隆带来的风险需要多学科应对。

　　个人和组织可以实施一些措施来防止滥用语音克隆技术。

　　首先，公众意识运动和教育可以帮助保护个人和组织，减少这类欺诈。

　　公私合作可以为语音克隆提供明确的信息和同意选项。

　　其次，个人和组织应该考虑使用生物识别安全与活体检测，这是一种新技术，可以识别和验证真实的声音，而不是假的声音。使用语音识别的机构应考虑采用多因素身份验证。

　　第三，加强对语音克隆的调查能力是另一项重要的执法措施。

　　最后，需要为各国制定准确和最新的法规来管理相关风险。

　　澳大利亚执法部门认识到人工智能的潜在好处。

　　然而，对这项技术“阴暗面”的担忧促使人们呼吁研究将“人工智能用于锁定受害者”的犯罪用途。

　　也有人呼吁执法部门采取可能的干预策略来解决这一问题。

　　这些努力应与打击网络犯罪的整体国家计划相结合，该计划侧重于主动、被动和恢复策略。

　　这项国家计划规定了服务提供者的注意义务，反映在澳大利亚政府保护公众和小企业的新立法中。

　　该立法旨在制定新的义务，以防止、发现、报告和破坏欺诈。

　　这将适用于电信公司、银行和数字平台提供商等受监管的组织。目标是通过预防、检测、报告和破坏涉及欺骗的网络诈骗来保护客户。

　　据估计，网络犯罪给澳大利亚经济造成了420亿澳元的损失，公众意识和强有力的保护措施至关重要。

　　像澳大利亚这样的国家正在认识到日益增长的风险。针对语音克隆和其他欺诈的措施的有效性取决于它们的适应性、成本、可行性和法规遵从性。

　　所有利益攸关方——政府、公民和执法部门——必须保持警惕，提高公众意识，以减少受害的风险。