4月10日，中国驻珀斯总领馆发文称，西澳州政府提醒，有诈骗分子利用AI技术合成模拟亲友、银行或执法人员声音，还通过添加口音使其拟人化。南都N视频持续推出《AI魔性侵权乱象系列调查》，开篇聚焦AI声音克隆乱象。在AI创作平台上，只需上传3秒原声，几分钟便能克隆音色并任意改词；而二手交易平台上AI声音克隆服务每50字收费不到1元。
南都此前报道。
据中国驻珀斯总领馆，西澳州政府发布提醒指出，诈骗分子正利用更逼真的语音合成和数据分析手段实施电信诈骗，西澳居民因各类诈骗在2025年损失总计高达2400万澳元。在有关案例中，诈骗分子通过AI语音技术冒充银行工作人员等，使用接近真实的澳洲口音，并准确说出受害人姓名、邮箱等信息，诱导其转账。
“AI技术可模拟亲友、银行或执法人员声音，同时通过添加口音使其拟人化，具有极强迷惑性。”驻珀斯总领馆提醒领区中国公民、中资机构人员和留学生，要警惕“高仿真声音”和“熟人来电”，切勿仅凭声音或对方提供的信息轻信，可通过询问仅通话双方知道的问题判断对方身份，或通过其他通讯设备拨打官方电话核实。
南都N视频持续推出《AI魔性侵权乱象系列调查》，开篇聚焦AI声音克隆乱象。4月上旬，南都记者调查发现，近期配音行业内掀起一场大规模抵制AI声音侵权行动后，网络平台上仍充斥着大量这些配音演员的AI仿声恶搞视频。部分所谓AI克隆教学视频引导前往一个名为“ViiTor AI”的平台。
南都记者按照平台客服指引实测，仅需上传3至5秒的原声音频，即可在几分钟内生成音色高度相似、任意改词的仿声音频；刚发文抵制AI魔性侵权的电影《哪吒之魔童闹海》主角配音演员吕艳婷等人的多段原声，出现在音色库公开素材中，使用人数早已过万。
而在二手交易平台上，也能以极低价格随意克隆这些配音演员的声音。大量商家声称AI克隆音色相似度超98%，每50字收费不到1元，但面对侵权质疑时直言“问就是有侵权”。
配音演员的声音正成为AI魔性侵权的“重灾区”。4月7日，知名配音演员季冠霖也通过南都发出倡议，呼吁平台建立侵权内容快速识别和下架机制，“技术应为文明赋能，而非成为侵权的温床”。
采写：南都N视频记者 林诗妍
热门跟贴