7月7日举行的2023年世界人工智能大会可信AI论坛上，合合信息展示“三大技术，一项标准”，探索AI在图像内容安全领域可信化发展的多重可能。
合合信息AI图像安全技术方案主要包括三项重点技术：AI图像篡改检测、生成式图像鉴别、OCR对抗攻击技术，以应对日益高发的恶意P图、生成式造假和个人信息非法提取等现象。
以AI图像篡改检测为例，去年的世界人工智能大会上，合合信息PS篡改检测技术首次亮相，“像素级”起底修改痕迹，覆盖身份证、护照等多种证照识别类目，吸引了社会各界关注。
该技术今年持续优化升级，应用面也拓展至“截图篡改检测”。该技术的主要难点在于，能否从没有明显视觉差异的图片中，找出被篡改的截图，以及找出的图片中，误检率是否可控。与证照篡改检测相比，截图检测难度更大。为此，合合信息提出了一种基于HRNet的编码器－解码器结构的图像真实性鉴别模型，结合图像本身的信息，包括但不限于噪声、频谱等，从而捕捉到细粒度的视觉差异，达到高精度鉴别目的。
图像安全的重要性与日俱增，标准规范的出台迫在眉睫。中国信通院牵头启动了《文档图像篡改检测标准》制定工作，合合信息、中国科学技术大学等科技创新企业及知名学术机构联合编制，将为文档图像内容安全提供可靠保障，助力AI安全体系建设。
