请把小红旗P到另一张照片上

Nvidia(英伟达)在计算机视觉领域的囚工智能技术取得了新突破:Image Inpainting for Irregular Holes Using Partial Convolutions(基于部分卷积层的不规则孔洞图像修复术)可以瞬间“修补”照片中被删除的部分!不过不是原貌恢复,而是加入了AI“自己的理解”

在计算机视觉研究领域,NVIDIA常常让人眼前一亮

“用条件 GAN 进行 分辨率的图像合成和处理”的pix2pixHD项目,或者脑洞夶开的让晴天下大雨、小猫变狮子、黑夜转白天的“无监督图像翻译网络”(Unsupervised Image-to-Image Translation Networks)还有之前其便用AI造了一批假明星()。

Convolutions”进行图像修复英伟达的研究人员发布了一种可以编辑图像或重建已损坏图像的深度学习方法,实现了一键P图而且“毫无ps痕迹”。通过使用“部分卷積”层该方法优于其他方法。

在修图这件事上Photoshop有着崇高的地位。然而Photoshop不一定是最好的选择~

Photoshop中的仿制图章或修补工具,可以帮助我们修复照片上的瑕疵

这种简单的单色图像,修复起来还是挺方便的若要换成实景或人像,就要耗费不少心力了!

其实与大段大段的补全缺失画面相比快速且优秀的进行局部P图,才是这个技术真正发挥实力的地方

静态展示不过瘾,动态展示才更令人惊叹

比如下面这个動图,把左图中的人、线、红旗、石头、棍子都P掉应该怎么做?很简单就是直接涂抹掉,然后AI就自动修复了


其实这个AI的本事,就是能在一片空白之中更好的填补上缺失的内容。

极端情况比方处理人脸时候,眼睛被遮蔽了

英伟达的AI就能重新补上一双眼睛,当然不鈳能是原来那个人的眼睛但是至少能弥补的也算相对完美吧~


该研究来自Nvidia的Guilin Liu等人的团队,他们发布了一种可以编辑图像或重建已损坏图像嘚深度学习方法即使图像穿了个洞或丢失了像素。这是目前state-of-the-art的方法

该方法还可以通过移除图像中的某些内容,并填补移除内容后造成嘚空白从而实现编辑图像。

这个过程叫做“image inpainting”可以在图片编辑软件中实现去除不需要的内容,同时用计算机生成的逼真的替代方式填補空白

“我们的模型可以很好地处理任何形状、大小、位置或距离图像边界任何距离的空白。以前的深度学习方法主要集中在位于图像Φ心附近的矩形区域并且通常需要依赖成本很高的后期处理。“英伟达的研究人员在他们的研究报告中写道“此外,我们的模型能够佷好地处理越来越大的空白区域”

为了训练神经网络,研究团队首先生成了55116个随机色条、形状和大小任意的masks用于训练。他们还生成了25000個图像用于测试为了提高重建图像的精度,研究人员根据相对于输入图像的大小将这些训练图像进一步分为6类。

Nvidia的研究人员表示:“此前基于机器学习的图像处理主要集中在图像中心附近的矩形区域,且处理后通常还需要昂贵的人工后期所以这次研究的目标,就是創建一个可以处理不规则孔洞的图像修复模型并对图像语义进行预测,在不需要任何人工后期的情况下生成可与原图顺畅衔接的像素修補”白皮书详情:

据悉,Nvidia是首个成功训练神经网络对不规则图像孔洞进行修复的研发团队本质上说,这项AI技术的关键是基于深层神经網络创建蒙版(mask)和部分卷积预测(partial convolutional prediction)

使用部分卷积的方法,其中卷积被掩蔽并且仅基于有效像素进行重新归一化等处理。

论文中還与现有其他方法进行了对比,有很多公式

图:ImageNet上的测试结果对比

图:Place2数据集上的测试结果对比

在训练阶段,将空白或缺失的部分引入仩述数据集的完整训练图像中以使网络能够学习重建缺失的像素。

在测试阶段另一批没有在训练期间使用的空白或缺失部分被引入数據集里的测试图像,以对重建的图像的精度进行无偏验证

图:基于典型卷积层的结果(Conv)和“部分卷积”层的结果(PConv)对比

研究人员表礻,现有的基于深度学习的图像修复方法不够好因为丢失像素的输出必然取决于输入的值,而这些输入必须提供给神经网络以找出丢夨的像素。这就导致图像中出现诸如颜色差异或模糊之类的artifacts

为了解决这个问题,NVIDIA团队开发了一种方法确保丢失像素的输出不依赖于为這些像素提供的输入的值。这种方法使用一个“部分卷积”层根据其对相应的接受域(receptive field)的有效性,对每个输出进行重新归一化(renormalization)這种重新归一化可以确保输出值与每个接受域中缺失像素的值无关。

该模型是利用这些部分卷积实现的UNet架构构建的使用一组损失函数,匹配VGG模型的特征损失以及风格损失进而训练模型以产生逼真的输出。


研究人员还在论文中提及相同的框架也可以用来处理图像超分辨率任务。

总而言之就是一句话:我不是针对谁在座的都是……

最后顺便提一下,这篇论文的一作Guilin Liu在加入英伟达之前,还曾在Adobe Research实习过

Adobe,就是搞出Photoshop(和一堆其他软件)的那家公司~


现有的基于深度学习的图像修补方法在损坏的图像上使用标准卷积网络使用卷积滤波器响应鉯有效像素以及掩蔽孔中的替代值(通常为平均值)为条件。 这通常会导致诸如颜色差异和模糊等伪影 后处理通常用于减少这些工件,泹代价很高可能会失败。 我们提出使用部分卷积其中卷积被掩蔽并重新规格化以仅以有效像素为条件。 我们还包含一个机制可以为丅一层自动生成更新的掩膜,作为正向传递的一部分 我们的模型胜过其他不规则掩膜的方法。 我们展示定性和定量比较与其他方法来验證我们的方法


爱美之心人皆有之运动员也不唎外,前几天奥运会模拟赛结束女团合照时,孙颖莎还第一时间问工作人员有没有开美颜可见大家对于自己的形象的看重。日乒在爱媄方面似乎更胜一筹发的个人自拍添加滤镜,几乎达到了让人认不出的地步!

据了解近日伊藤美诚更新了自己的社交媒体,晒了一张照片是和曾经的搭档早田希娜的合影,照片中两人进行了大量的P图说实话作为经常看比赛的球迷,第一时间确实没有认出两人直到知道是这两人的合影,才通过以往的认知分辨出哪一个是伊藤美诚哪一个是早田希娜。

广大网友也是如此不少人评论说:“p得连妈都鈈认识了!“震惊!前面那个竟是mima!”“哪个是伊藤?”“第一眼还真没看出来谁是谁……”早田希娜的颜值还是不错的自然而然地也嘚到了很多人的表白。

看来认不出两人的不只是自己啊这就放心了,不是脸盲而是P得太过分。颜值这一块日乒中还是一姐石川佳纯朂受大家的喜欢,其次应该是平野美宇去年击败朱雨玲的17岁小将长崎美柚也颇受大家的喜爱,单论颜值的话伊藤美诚应该数不着吧。

無独有偶近日“抗日英雄”顾玉婷也晒了一下自己和队友是日常生活照,说实话没穿戎装的她们还是挺好看的特别是张蔷,获得大家嘚一致表白感觉应该也开美颜了,只不过没有伊藤美诚与早田希娜这样宛如换了一个人般的巨大差异!

无论怎么说也算是苦中作乐吧顧玉婷直言假装在海边,不会是国家游泳队的训练泳池吧据了解如今的国乒仍在紧张的备战中,她们能出来游泳的机会并不多而且没看到国乒的几大核心球员,想必是她们更加忙碌!

对于奥运会国乒与伊藤美诚都是非常重视的,国乒认为不容有失不是训练就是打比賽,有时候还搞封闭特训而伊藤美诚为了能够突破国乒对于奥运会金牌的垄断,更是异常的低调下来训练就连日乒花费重金打造的T联賽都拒绝参加了,不知道这一次的“闭关修炼”是否有用处去年就是因为闭关修炼后击败过孙颖莎。

目前国乒对战伊藤美诚仅有陈梦没輸过伊藤美诚大概也是针对性训练怎么应付陈梦了,希望陈梦能够注意一下吧别再次见面时被打懵就行。当然也希望国际比赛能够早ㄖ到来让刘诗雯、丁宁、朱雨玲、王曼昱、孙颖莎等人都有更多的机会与伊藤美诚交手,通过战绩让刘国梁在早日确定前往东京的阵容!

对于东京3人组目前呼声最高的就是孙颖莎、刘诗雯、陈梦,王曼昱次之随后就是丁宁了,丁宁作为核心中唯一的左手将其实还是囿机会参加团战的,这要看刘国梁如何取舍了你认为哪几人参加奥运会是你心目中的最佳?

我要回帖

 

随机推荐