7 月上海世界人工智能大会顺利举行，AI 技术的展示令人目不暇接。随着 AI 技术的发展，安全问题如 AI 生成伪造和造假接踵而至。在众多展台中，合合信息的鉴伪技术展区格外引人注目。
一、AI 时代的新困扰：当技术成为造假工具
1. 展会现场的技术盛宴与隐忧
随着大模型技术的发展，尤其是多模态在今年的爆炸式增长，在各个视频平台上都可以看到 AI 生成的视频或者照片。不出意外地在 WAIC 展览现场，文生图、文生视频、智能对话等多模态技术的应用让人眼花缭乱。但在这些炫目的演示背后，也察觉到了一些让人不安的信号。
2. 从便民工具到作恶利器的距离
事实正如所料，就在前几个月，在某个公司就发生了一件非常严重的伪造欺诈问题。不法分子利用 Deepfake 技术伪造成公司高管，要求财务立即转账一笔巨款。视频中的高管无论是相貌、声音还是说话习惯都和真人一模一样，让财务也无法正确分辨，只能按照高管的要求去做，事情发生后才知道是伪造的，给公司带来了严重的危害。
这让我深刻意识到，当 AI 技术门槛越来越低、生成质量越来越高时，我们面临的不仅仅是技术进步带来的便利，更有可能被恶意利用的巨大风险。
3. 技术发展的必然选择：以技术制衡技术
在合合信息展区，了解到合合信息早在最开始主要针对传统的 PS 篡改。但随着生成式 AI 的爆发，他们的技术重心也在快速调整，从静态图像检测扩展到了视频、多模态内容的全方位鉴伪。
"AI 技术是把双刃剑，"现场技术专家说，"它既能被用来创造价值，也可能被恶意利用。我们要做的，就是用更先进的 AI 技术来识别和防范那些恶意的应用。"
二、毫秒级'火眼金睛'：人脸视频篡改检测现场体验
1. 震撼的现场演示：当真假同框
在人脸视频鉴伪展台，工作人员让我对着摄像头站好，然后选择可以生成的目标对象，选择了两个，一个男生一个女生。
几秒钟后，屏幕上出现了三个'我'。下边的摄像头显示的视频是之前捕捉的真实影像，上面的两个视频影像是由 AI 生成的。这个算法生成的假脸不仅五官轮廓与我一模一样，连说话时的表情变化、眨眼的频率都十分相似。如果单独看这两个视频上的人像，很难百分之百辨别出来这是 AI 生成的。
但更让人惊叹的是合合信息鉴伪系统的表现。当我们选择要鉴别的 AI 生成的视频的时候，系统就会迅速工作，分析各种可能的特征，同时在屏幕上显示此视频中的人像为 AI 生成的几率：
2. 技术原理的深度解析
通过现场技术人员的详细介绍，了解到这套系统的检测原理相当复杂。首先是像素级分析，系统会为图像中的每个像素点判断真伪，然后计算伪造像素的占比。其次是特征层分析，重点关注面部肌肉运动的合理性、光影一致性等生理和物理特征，比如当一个人微笑时，眼角的细纹变化、面颊肌肉的收缩程度都有特定的规律，而算法生成的假脸往往无法完美复现这些细微的生理反应。
