继AI生成二次元头像之后,新一代线稿上色AI来袭

预览视频:

视频链接(https://www.bilibili.com/video/av14443094/)

项目主页:

lllyasviel/style2paints(https://github.com/lllyasviel/style2paints)

这里做一个简单的示范,为了防止线稿的主观挑选,我先贴一下现在的时间:

然后就在这个时间,我上谷歌图片搜索关键词“Anime Sketch”(动漫线稿),结果在这里:

然后我直接下载第一个结果,不含挑选的成分,这个图片下载下来是这样的:

然后我们的AI需要用户输入一些风格图片,不限制内容,只要颜色比较好看,色域比较宽泛即可。我在桌面上新建了一个文件夹,里面从我的个人收藏中随便选了9张色彩各不相同的图片给AI参考,截个图:

然后我直接把这九个图片和上面那个线稿丢到AI里面,一共点击9次上传按钮,9次上色按钮,大约10分钟后,我有了9张线稿的不同色彩构图。

这九个结果和我上面那个文件夹里面的九个参照图片一一对应,有兴趣可以来回翻看。看看AI迁移了哪些信息。

因为是在知乎上面发帖子,所以这里多说一些学术上的突破,具体效果在上面那个视频里面,请一定要看视频,看视频,看视频。

1. 我们成功实现了基于语义信息迁移的颜色提示,这个技术使得上色的色彩变得很和谐。这个技术最早是2017年1月左右早稻田和UCB都有相关研究的一个应用于黑白照片上色的trick。但是anime线稿上色是非常非常严酷的挑战,很多机构都有所尝试,包括今年六月的DWANGO(niconico的母公司),东大在内的一些机构都尝试了迁移式上色,但是都停留在了从结果里面精挑细选的程度,并不能直接运用起来。我们实验室研究了很久尝试了几乎全部生成模型,最后终于组织了一种可以驾驭这个训练的对抗游戏,具体的内容会在后续的论文里面详细说明。

2. 基于语义信息迁移的颜色提示对于anime线稿上色有很重要的意义。一方面解决了“用户的提示越多,结果越难看”以及“我调了半天结果还没有一开始的结果好看”的问题,另一方面大大提高了产率。目前我们可以做到在短时间内针对同一个线稿生成大量各不相同的,合理的色彩构图,这将有利于那些把神经网络作为一个构图工具或者颜色草稿的画师。详情可以看上面那个视频。

3. 我们的正式APP会在一段时间后(由于我们比较穷租不起超级贵超级贵的GPU服务器,可能是一段很长的时间后)上线,但是如果你是reseacher,你可以直接在我们的项目主页里面获取代码来一睹为快。另外我们还有扩大数据集的计划,所以商业APP可能需要等待了。但是这仅仅是财政问题,我们的学术代码,模型等资料完全公开,如果你有兴趣赞助或者你有GPU服务器空闲准备低价外租,请务必联系我们,加视屏最后的那个群就好了。

4. 如果您在看完视屏或者了解了我们的项目之后立刻就想要获得paper,有一篇paper介绍了我们在今年6月份之前的所有技术,收录在ACPR2017,详情可以到github上面找到。但我们更希望向外界介绍一些近期的新研究发现,新的论文成文后会发到github上面。论文:Style Transfer for Anime Sketches with Enhanced Residual U-net and Auxiliary Classifier GAN;地址:https://arxiv.org/abs/1706.03319

5. 我们有自信认为我们是目前是所有开源的anime上色模型里面的非常优异的(paintschainer已经闭源了模型数据;传统方案不在我们的比较范围内)。并且我们认为我们最新的模型对于paintschainer的最新模型也是可以一比的,尤其是我们在迁移顺利的时候效果是比以前的模型有很大提升的。

-------------------第二天来更新-------------------

赞超过两百了,谢谢大家的赞,我再发一点我今天的画作吧。

首先这是找到的线稿:

这是我用到的风格图:

这是结果:

评论里面有问起当输入或者输出非常复杂的情况会怎么样,情况是这样的,随着线稿和风格图变得复杂,成功上色的概率会逐渐降低,如果线稿或者风格图片复杂到人眼都看不清那里是脸哪里是手,就会非常难以上色,我们的github里面有一个issue就是专门针对上色失败问题的,等程序上线之后,您也可以帮助我们收集,来改善我们的模型。

-------------------第三天来更新-------------------

说一点技术上的事情:

不知道是什么时候开始的,关于图像处理出现了一个套路,就是用ResNet堆砌网络深度,然后就可以量产出论文,最近有很多类似的文章。我们的模型里面没有ResBlock。我们使用的是特别适合线稿上色的,一种变种Inception。

本文作者:Non

本文转自雷锋网禁止二次转载,原文链接

时间: 2024-10-26 02:31:47

继AI生成二次元头像之后,新一代线稿上色AI来袭的相关文章

PS线稿上色小过程解析

  今天是一个线稿上色的小过程,需要手绘板,人设概念,一定的美术功底(起码明白光影明暗),必要的脑补能力.一起来看看吧! 我们的效果图 观察线稿,然后确定光源方向,脑补人设原型.把线稿放到最上层,选择正片叠底,然后在线稿层下面新建图层,铺一个底色,接着用选区铺色块,一块一块的铺,不用考虑明暗阴影. 整体色块铺完之后,就要刻画大概的明暗关系,我是局部刻画,比其他人的一开始的明暗关系细致一些,这样后面省一些工作.我是在每一层色块上面建立剪切蒙版,然后正常模式,用不同明暗的颜色去刻画. 其他部位的不一

PS绘制拿扇子的唐朝古典美女线稿上色教程

有些新手说教程说的不明白,其实我跟你们一样,菜鸟一个,但是最后发现不是教程讲的不明白,它就是那样,靠感觉用画笔画的,主要还是细心要, 至于哪里该画阴影,转手绘可以参考原图,颜色的话看个人爱好,配色不行的可以看看大师作品的色彩,没有绘画基础也不要紧,如果你喜欢, 主要是多练习,慢慢揣摩,慢慢就好了!看图吧... 线稿 最终效果图: 背景素材: 过程如下: 分类: PS鼠绘教程

PS绘制 阿甘正传 儿童插图线稿上色过程教程

软件绘画跟传统绘画的道理是一样的,便捷效率是软件绘画的优势,但完成一张画还是得有一个长期扎实的训练过程,多观察.多思考.多学习,每个热爱绘画的人 都会画出自已满意的作品.        三联推荐:photoshop7.0迷你版免费下载    |  Photoshop CS5 中文免费下载  |  photoshop免费下载 最终效果图: 1.选择工具,一般我会选择SAI里打草图画线稿,在PS里面上色.PS里面可以自定义很多笔刷,这里展示是我常用的几款笔刷,也是这张图里用的的笔刷. 2.画草图+铺

PhotoShop古典古装萌MM线稿上色教程

翻出大学时代一张线稿...正巧好盆友在写一部穿越言情剧... 我就顺手上色送给她当封面了 效果图: 1.将扫描稿设为正片叠底 在线稿下新建图层上色 大致涂出想要的背景颜色 2.把有肉的地方先涂了再说~ 3.涂头发的时候要注意按照头发的走向涂 大致区分下亮面暗面 4.衣服也是先找一个大的感觉 涂一个比较顺眼的颜色就好 分类: PS入门教程

PhotoShop给铠甲女武士动漫人物线稿上色过程

由于不习惯数位板,所以我的画一般是手绘,扫描后再在PS上用鼠标上色,这次上色只用到一个笔刷,就是PS里最基本的圆头笔刷,好下面开始过程~~ 1.这次主要讲点上色的心得,所以线稿的描绘就不再说明,扫描进ps后调下色阶,上色就可以开始了. 这里需要注意的一点是线稿这一层的混合模式选"正片叠底",整个上色过程这一层放在所有图层最上方,也就是颜色图层在线稿下面. 我先从铠甲的黄金部件上起,先用100%透明度和100%硬度的圆头笔刷再新建的图层jin1画上黄色. 我的图层基本就是这样分的,第一层

PhotoShop给EVA动漫美少女战士线稿上色过程

前段时间扫了两张线稿并完成了上色,在这期间才知道自己还有太多的东西要学,以前真的太过不努力了,好吧我说话有点啰嗦,下面开始吧. 先看最终效果图: 1.这是之前画的线稿,一直没有扫描进电脑里,最初的想法是画一系列有各种超能力的人物,这个妹纸是类似于 暴风女的那种控制闪电的能力,这是最初的设想,后来看了EVA新剧场版后又改变了主意. 2.扫面后发现人物有很多的问题,再加上改变了想法,于是又重新画了线稿,这个过程在电脑上不熟练,所以花了很长时间 photoshop教程 (话说这时候我才知道PS可以画出

PS给动漫线稿上色教程

1:在线稿准备完毕后,开始把各个部分选区,然后把每一部分的大致颜色决定下来,这样从一开始就可以观望整体的颜 色搭配是否合适. [注1:在决定颜色时建议使用较浅的颜色,颜色纯度最好不要太高,方便之后的上色不受影响] [注2:建议把每一个图层取好名字,图层多的话也可以建立图层组,比如人物组.背景组] photoshop教程 2:在颜色决定完毕后,一个一个部分来画,我比较习惯从皮肤开始.在原先的颜色基础上开始逐步上色,先上第一层暗 部的颜色,建议每上一层就新建一个图层. [注1:可以在上色之前先把要上

PS绘制《可爱的天使恶魔》插画线稿上色过程教程

初次写教程的作品,大家展示起稿到上色和最后的调整的过程 希望将这些绘画的经历和技巧与大家分享,最近没啥新作,所以这是上年的作品. 这幅画主要融入了一些天使和恶魔元素 讲述天使和恶魔的混种 最终效果: 这是最初的草稿 主要工具0.5 0.3自动铅笔和A4纸 把自己想要画的都大概画出来 然后细化 扫描到电脑 进行描线 和人物调整 有一些地方空着是通过后期画上去的 在这里我就放一张图层列表 皮肤上色 主要用创建剪切蒙版 快捷键Ctrl+alt+G 分类: PS入门教程

PS给手绘古典美女线稿上色教程

为新手朋友们做了一个简单的鼠标上色教程,虽然自己也很菜,那就献给比我更菜的人吧,高手就不要进来了. 如果我哪里做的有什么问题或者你有更好的方法都可以提出来,我们一起进步嘛 第一次做教程,大家多包涵啊! 效果图: 1.打开线稿拖到PS,复制一层,正片叠底,在线两层之间新建一层填充背景色,颜色最好不用白色,因为肤色比较浅在白色背景上容易看不见. 2.新建层开始铺色,我这里用的是柔色画笔,个人习惯不一样. 3.确定光源的方向,开始深入,我这个也无能,不要求百分百准确,但大致的阴暗面还是要体现出来的,这