今年十一期间，抖音、B站等平台大量涌现了“雷军AI配音” 的恶搞视频，给雷军本人和小米带来了很大困扰。
在这些恶搞视频中，“雷军”锐评了堵车、假期等热门话题，还有一些不雅谩骂。一些恶搞短视频的播放量几天之内就达到上亿。对此，雷军本人在10月底发布短视频回应称，希望大家都不要再玩了，“有网友投诉说国庆期间被我连续骂了7天，的确让我自己也挺困扰，让我挺不舒服的，这个事不太好。”
谈及上述事件，Gartner研究副总裁高挺告诉界面新闻，虚假信息本质上还是伪造的信息，但它的危害在大模型时代被放大了。
在一位信息安全从业者看来，“雷军AI配音”的恶搞视频变多，主要是外站一家AI公司在宣传其声音克隆功能。这类玩梗，公众知道是AI模仿，传播虚假信息的风险不大。平台在治理中的难点是，因为无法判断名人、明星对于这种网友玩梗是反对，还是出于营销目的乐见其成，在当事人明确提出赞同或反对的意见前，平台难以制定治理策略。
相比之下，新闻类的AI谣言往往带来的社会危害性更大。界面新闻搜索发现，类似的事件今年也多次发生。
对于生成式AI带来的虚假新闻，各个内容类平台都明确表示会进行打击。抖音安全中心相关负责人称，对于虚假信息，无论是否由AI生成，一经发现平台均会严厉处置。同时，对于AI生成内容，在符合社区内容规则的前提下，抖音要求发布者对内容进行显著标识，帮助其他用户区分虚拟与现实，特别是易混淆场景。
但据界面新闻了解，治理AI生成虚假新闻的难点在于面临很高的核验成本，平台很难完全以一己之力判断信息的真实性，很多情况下需要监管部门介入，但相关信息在核验过程中已经进行了快速传播。
虚假信息给企业声誉以及社会正常生活秩序造成负面影响之外，还带来了诸如“网络钓鱼”，或者“账户接管”等企业网络安全的影响。此前，行业中曾经发生过诈骗分子通过AI技术仿造一家能源公司CEO声音，诈骗该公司高管上百万元钱财的事。AI生成的音色、音调和口音都非常逼真，导致这名高管根本没意识到是诈骗。
高挺表示，生成式AI导致了更高破坏性、更逼真的攻击，这些攻击更难被人类识别以及被传统技术阻止，会对企业造成更大的损失。
虚假信息生产成本越来越低，但负面影响却越来越显性，只通过传统的人工核验手段已经很难完全解决问题。上述技术安全专家表示，我们需要有更多新兴的技术去解决虚假信息治理的问题。有些人利用技术手段来制造虚假信息，技术安全专家就应该能够识别这些虚假信息的特征，通过技术手段与之对抗，真正从源头解决问题。
在信息安全领域，很多技术专家已经对虚假信息治理有了一些初步共识，并把“虚假信息安全”作为一个新的技术研究方向。
具体来讲，“虚假信息安全”包含了在信息传播中能够确保完整性、评估真实性以及防止冒充和追踪有害信息传播的一系列技术。背后的原理是，通过大语言模型来跟踪社交媒体上的内容，验证实时通信的完整性，确保第三方媒体的真实性等。
Gartner在其预测的2025年十大战略技术趋势中，把“虚假信息安全”列为重要的技术趋势之一。该机构认为，未来1到3年，“虚假信息安全”技术将会产生明显的商业收益。
从研究实践来看，一些技术被证明是有效的。加利福尼亚大学的一项研究表明，通过上下文标签向用户提供背景介绍、针对错误的解释以及相关权威内容等细节信息，可以有助于减少虚假内容扩散。而Facebook、X等海外内容类平台正通过人工智能等技术手段，训练系统自动对海量信息进行检测和标记，以克服人工核查的局限性。这些研究和实践，对国内的内容类平台也有较强的借鉴意义。
而针对通过生成式AI带来的钓鱼诈骗等问题，企业和组织可以通过一套完整的技术解决方案来应对。界面新闻了解到，360、蚂蚁金服等多家国内互联网公司已经在基于大模型研发解决方案，试图通过数据接入及解析、分析研判与溯源调查等手段识别出更多风险。
