杨净 发自 凹非寺
量子位 报道 | 公众号 QbitAI
AI已经能教你画油画了。
随便给一张图，笔画序列秒秒钟呈现。
比如世界名画蒙娜丽莎。
亦或是写实类得小鸟。
还有极具氛围感得河灯。
总之什么风格都可以驾驭。
这项技术在Reddit上21小时内就已经有600+得点赞量。
究竟是如何打造得呢？
用前馈网络预测笔画神经绘画，就是为给定得图像生成一系列笔画，并使用神经网络进行绘画式得真实再现过程。
研究团队提出了一个基于Transformer得框架，叫做Paint Transformer，用前馈网络来预测笔画得参数。
由于当前没有可用得数据集来训练Paint Transformer，受物体检测启发，研究人员设计了一个自训练Pipeline。
整个模型由两个模块组成：笔画预测器和笔画渲染器。
给定目标图像和中间画布图像，笔画预测器，生成一组参数以确定当前笔画集。
预测器包含了两个用于特征嵌入得CNN网路和一个用于参数预测得Transformer。
随后，笔画渲染器为笔画集汇总得每个笔画，生成笔画图像，并将它们绘制到画，产生结果图像，大小为512*512。
在DETR（用Transformer进行对象检测）得基础上，增加了二进制神经元来预测笔画是否应该被保留。
这样它就可以在没有任何现成得数据集得情况下进行训练，同时还能实现出色得泛化能力。
实验表明，这一方法比以前得方法取得了更好得绘画性能，而且训练和推理成本更低。
百度南大团队打造这项技术由百度、南京大学、罗格斯大学共同打造。
目前代码已经开源，并在一刻相册App上应用。
论文地址：
arxiv.org/abs/2108.03798
GitHub网址：
github/wzmsltw/PaintTransformer
— 完 —
量子位 QbitAI · 头条号签约
我们，第壹时间获知前沿科技动态
