反AI诈骗，期待“魔法打败魔法”

    【社评】  本报评论员  彭臻玉

    一位老人接到电话，对方自称是其战友，说自己因生病想借钱。老人熟悉这位战友的声音，先后汇款2000元、8000元到对方银行账户。没想到，钱刚到对方账户，“战友”就消失了，老人这才发现自己被骗了……近日，一则“声音合成”骗局登上了热搜。据《北京晚报》报道，如今“AI换脸换声”骗局防不胜防，记者用三款软件分别生成了一段语音，又录制了一段真人语音，随机向10位老人测试，竟无一能正确分辨出真人声音。

    当下，人工智能（AI）技术风起云涌，已让人们看到了科技改变生活、科技改变生产的无数可能。然而，当AI深度伪造技术被不法分子运用于电信诈骗，也使得人工智能的“双刃剑”效应凸显。诸如福州市某公司法定代表人郭先生在与好友视频聊天的短短10分钟内，被“AI换脸换声”的“熟人”骗走430万元等案例，无不提示着AI生成虚假信息所潜在的巨大社会风险，同时也让人们对AI软件被用于各类犯罪活动的可能性深感忧虑。

    AI当道，耳听可能为虚、眼见未必是实的困惑只会越来越多。尽管各路专家和网友已经总结出一些靠细节识别AI造假的方法，但AI合成技术只会越来越逼真，这些方法很快就会失效，尤其是老年人又该如何辨别电话那头哪个是真孙子、真战友？

    当然，面对AI造假，并非只能作壁上观。目前，人工智能打假平台已将AI引擎与大数据分析技术结合，应用到反诈案件追踪系统之中，部分地方公安机关也已上线反诈智能语音机器人，极大地提高了反诈劝阻的精准度和成功率。但可以肯定的是，道高一尺、魔高一丈，人工智能造假和人工智能打假将是一个持续攻防迭代的过程。就反诈而言，除了引导民众提升识假打假和保护个人信息的意识，在技术层面尽快实现“魔法打败魔法”，已然成为全民期待。