怎么辨认AI生成的深度假造图画？

发布时间：2025-05-22　点此：905次

·肉眼分辩图片真假能够调查图中手指数量是否正常、目光是否奇怪、发丝看起来是否实在等。生成的相片一般存在光影瑕疵，缺少曝光等相片基本参数。也能够调查牙齿明晰与否，缺少单个牙齿的概括或许是区分深度假造的一个头绪。

·更高效的办法是用AI对立AI。OpenAI宣告将推出一款东西，用于检测由AI图画生成器DALL-E 3创立的图画。微软开发了一种身份验证东西，能够剖析相片或视频，并对其是否被操作给出评分。

深度假造变得越来越简单，人们也越来越难以分辩真假。

生成式人工智能东西的鼓起令欺骗性图片、视频和音频激增，怎么辨认AI生成的深度假造图画？

像文生图东西DALL-E、Midjourney和文生视频东西Sora，只需求输入一个恳求，体系就会输出图画和视频，深度假造变得越来越简单，人们也越来越难以分辩真假。这些假图画或许看起来无害，但能够用来欺诈、操作推举等。例如本年4月印度大选期间，两位宝莱坞艺人批判印度总理莫迪的假视频就在网上疯传。

怎么辨认深度假造？美联社给出了几个办法。在深度假造前期，技能并不完美，经常会留下操作痕迹，例如相片中有6个手指的手、眼镜镜片形状不平等显着过错。但随着AI的前进，这种调查变得困难。咨询公司Latent Space Advisory创始人亨利·艾德尔（Henry Ajder）说，一些广为流传的主张，比如在深度假造视频中寻觅人们不自然的眨眼形式不再建立，不过仍有一些痕迹能够寻觅。一些人工智能深度假造相片尤其是人物相片有一种电子光泽、“一种美学上的滑润作用”让皮肤看起来“十分润滑”。不过，艾德尔也表明，创造性的提示有时能够消除这种润滑作用以及其他AI操作的痕迹。

信也科技算法科学家吕强对汹涌科技（www.thepaper.cn）表明，要通过肉眼分辩图片是否为组成，能够要点调查图片中的细节，例如调查图片中的手指数量是否正常、目光是否奇怪、发丝看起来是否实在等，假如一个眼睛看前、一个眼睛看左就有问题。别的，生成的相片一般在光影上存在瑕疵，并缺少相片基本参数，例如曝光等。

查看暗影和光线的共同性是辨认办法之一，一般来讲，拍照目标的焦点明晰，看起来绘声绘色，但布景中的元素或许没有那么传神或被修饰过。假如图画中的大众人物做了一些看起来“夸大、不现实或不符合性情”的事，这也或许是深度假造。此外，换脸是常见的深度假造办法之一，据美联社报导，能够仔细调查脸部边际，面部肤色与头部或身体的其他部位是否匹配。假如置疑一个说话视频是深度假造，能够调查嘴唇动作是否与音频完美匹配。艾德尔主张调查牙齿是明晰仍是含糊、与现实生活中的姿态是否共同。网络安全公司诺顿表明，算法或许还不行杂乱，无法生成单个牙齿，因而缺少单个牙齿的概括或许是区分深度假造的一个头绪。

不过，人工智能发展迅速，大模型正在承受练习，以出产质量越来越高、缺点越来越少的内容，所以不能确保这些主张在一年后依然有用。更高效的办法是用AI对立AI。吕强表明，运用AI的办法辨认，首要需求构建一个包含真图和假图的练习数据集，再运用大模型学习两类图片的不同特征，例如用AI学习图片曝光细节，“一张很暗淡的图片呈现了一张全体偏白的人脸，这张图片或许便是通过人脸替换的。但有些人对光线不灵敏，人眼或许就辨认不出来。”当大模型具有了各类细节的辨认才能后，“把这些才能汇总起来，就构成了一个真假图片的区分矩阵，然后对矩阵成果打分，终究给出来一个真假图片的评判成果。”不过，他也表明，运用AI辨认生成图片，算法杂乱度并非难点，应战在数据。“榜首或许没有那么多假样本，第二要想让假样本掩盖到许多范畴也有应战。”

现在，微软开发了一种身份验证东西，能够剖析相片或视频，并对其是否被操作给出评分。OpenAI最近也宣告将推出一款东西，用于检测由AI图画生成器DALL-E 3创立的图画。OpenAI表明，在内部测验中，该东西在98%的时间内正确辨认了DALL-E 3生成的图画，而且能够最小的影响处理常见修正，如紧缩、裁剪和饱和度改变。此外，OpenAI还加入了一个包含谷歌、微柔和Adobe在内的职业安排，并方案供给一个有助于追寻不同媒体来历的规范。芯片制造商英特尔的FakeCatcher则运用算法剖析图画像从来确认真假。据CNN本年2月报导，Meta也在尽力辨认和符号同享在其平台上的由第三方东西创立的AI生成图画。

在国内，商汤数字水印技能可将特定信息嵌入到多模态的数字载体中，支撑图画、视频、音频、文本等多模态数字载体，能够荫蔽嵌入水印信息，不影响原始内容质量和用户感知，一起抵挡进犯，避免被删去或修正。商汤科技表明，数字水印技能可用于版权维护、防伪溯源等场景，在裁剪、紧缩等不同程度搅扰下，能确保超越99%的水印提取精度，且不会丢失画质精度而影响数据质量。

汹涌新闻记者张静

(本文来自汹涌新闻，更多原创资讯请下载“汹涌新闻”APP)

告发/反应