随着人工智能技术的迅猛发展，AI 生成的文本、图像和视频在各个领域的应用日益成熟。然而，这也伴随着信任危机的出现，虚假信息的传播对社会造成了潜在的威胁。为了应对这一挑战，腾讯于近日推出了一款全新的 AI 生成内容检测工具，旨在通过 AI 技术 “打假 AI”。
这款工具由腾讯的朱雀实验室研发，分为 AI 生成文本检测和 AI 生成图像检测两个系统。腾讯官方指出，尽管 AI 生成的图像在外观上愈加真实，但仍然存在一定的可识别性。通过对上传图像进行几秒钟的快速验证，用户可以判断该图像是否由 AI 生成。
在检测逻辑上，系统主要是通过捕捉真实图像与 AI 生成图像之间的细微差异来进行区分。例如，AI 生成的图像有时会违反常识逻辑，或可能在某些情况下需要添加水印。此外，AI 生成图像还可能包含特定的隐层特征。为了确保检测的准确性，腾讯在模型训练中使用了140万份正负样本，涵盖了人体、风景、人物、地标等多种场景，最终测试的检出率达到了95% 以上，并且系统还在持续优化中。
在文本检测方面，腾讯的检测系统同样依靠大量正负样本进行训练，能够覆盖新闻、公文、小说、散文等多样化文体。通过对比检测文本与大模型的预测内容，系统能够推测出文本的 AI 生成概率，从而提升对未见过数据的检测能力。未来，腾讯还计划将文本检测系统扩展至诗歌等其他体裁，以进一步提高识别准确率。
通过这一创新举措，腾讯希望能够为用户提供更加安全、可信的网络环境，有效抵制虚假信息的传播，助力社会的健康发展。
