如今，虚假转账记录、交易记录和聊天记录所引发的恶意事件已屡见不鲜。随着图像编辑软件的发展和普及，虚假截图的制作变得更加容易，这些虚假截图的传播可能导致个人、公司隐私的泄漏以及虚假信息的传播，从而成为网络暴力和电信诈骗的罪恶推手。
近日，在上海举办的2023世界人工智能大会（WAIC）中，合合信息在中国信息通信研究院主办的“多模态基础大模型的可信AI”论坛专场上，向截图篡改和生成式图像诈骗发起了挑战，发布了多项图像内容安全保护技术，吸引众多研究和产业机构的关注。
在论坛中，合合信息智能创新事业部总经理唐琪分享了关于截图检测的观点。从成像角度看，截图的背景没有纹路和底色，整个截图没有光照差异，证件篡改识别尚可通过拍照时产生的成像差异判断篡改痕迹，截图则没有这些“信息”。因此，与证照篡改检测相比，截图检测难度更大。
面对日益频繁的截图篡改问题，合合信息研发了一种基于HRNet的编码器-解码器结构的图像真实性鉴别模型。当篡改图片被输入到该模型中时，模型能够判断该图像是否被篡改，并定位出篡改区域。同时，模型还提供了可视化的定位结果。
合合信息“PS篡改检测”技术对发票图片进行检测定位
合合信息的模型相较于现有的视觉模型，能够有效地识别截图本身的信息，包括噪声、频谱等细微的视觉差异，从而实现高精度的鉴别作用。这不仅能保障信息的真实性和完整性，也能有效地防止欺诈行为的发生，保护用户的合法权益。
此外，在论坛上，合合信息还展示了其他多项AI图像安全技术。例如，合合信息研发的生成式图像鉴别技术可以判断图片是否由AI生成，从而应对生成式图片引发的资讯造假、信息诽谤和诈骗等问题；针对个人、企业业务的文件资料保密需求，合合信息创新性研究了对文档图像中指定信息进行“加密”的OCR对抗攻击技术，在不影响肉眼观看与判断的情况下防止第三方通过OCR系统读取并保存图像中所有的文字内容。
上述技术的研发和应用标志着合合信息在图像内容安全领域取得的巨大进展，受到了业界的关注和认可。相信在未来，合合信息将研发出更多内容安全检测和保护技术，助力构建更加安全和可信的网络空间。
相关文章
