量子位 宣布 | 公众年夜众号 QbitAI
如果一个人只看网文，那会写出来若何的笔墨？
看了100G网文后，这个AI模型帮你试了一下。
先来一段自由创作：
乍眼看去很有内味，而且基本是一秒十字乃至更快的天生速率，非常的amazing。
那再放一段经典网文故事高潮前的内容，让AI作家帮忙续一下？
呃……不是“三十年河东，三十年河西，莫欺少年穷”，没内味儿啊！
这便是开拓者亲切地称之为“人工智障写作”，由GPT魔改而成的模型AI-Writer：
一秒十字，无限续写
这一模型拥有100M参数量，基于100G网络小说演习，没有采取任何其他素材。
因此，AI-Writer相称于是一位“只看网络小说”的创作者，不具备任何网文以外的知识，行文风格自然也就比较小白。
但好在阅书无数，一句同样的开头：
就能天生风格迥异，走向不同的多个片段：
也可以自定义每次的天生字数，像上面便是每次天生200字。
理论上可以无限天生笔墨，但韶光长了也会陷入“不断重复某字或某片段”的循环之中。
天生笔墨速率受加速办法的影响，目前支持N卡、A卡、I卡、GPU加速，可以选择最适宜自己设备的办法：
像开头展示的那段动图，天生速率乃至不止一秒十字，便是通过GPU加速的效果。
如果你以为AI写的有点太过放飞自我，也可以设置天生笔墨的随机程度。
要阐明这里的笔墨天生随机性，就要说到AI-Writer所采取的一种分外的采样方法：
对付段落开头将Top-P设置为0.995，险些完备按照输出的概率分布采样，增强行文变革
对付其他位置先找到最高概率的字的概率P，然后移除所有概率小于 0.02×P2的字
这样，模型天生的每一个字都是一个概率分布，因此，上面的笔墨天生的随机程度，也便是笔墨天生时忽略小概率字的程度。
可以比拟一下该值分别为0.01，0.1，0.9时的天生效果：
当然，由于这是个只有100M参数的小模型，以是逻辑和阅读理解能力是较低的。
用开拓者的话来说，便是“它是个纯智障，纯属娱乐”。
模型可直接试玩不过，就算本着娱乐的目的，我们也来看看怎么做才让这个AI作者动笔。
在环境配置上，开拓者表示，如果采取他通过C+AVX2写的纯CPU版本，就不须要Python和Pytorch，只假如2014年往后的CPU都能成功运行。
（作者已将这一版本上传至互换群）
而上述演示的动图则是在Python3.8和Pytorch1.10的环境配置下的Demo。
在环境配置完毕后，下载模型和Release文件，在模型文件中新建一个model文件夹，并将release文件解压放在model目录下。
这时你就可以运行python run.py，在终端快速天生笔墨：
（这里可以先安装一下DeepLearning环境）
笔墨可以一贯自由天生下去，可以通过Ctrl+C来停滞。
当然，由于这里是在2.3 GHz 双核Intel Core i5的Mac本上跑的，以是并没有达到10字/秒的天生速率。
也可以在网页中进行试玩，运行python server.py，并打开下载模型web-client文件夹中的index.html。
然后就可以打开网页，直接在对话框中输入开头，点击按钮进行续写了：
现在这个网页版已经初具模型，开拓者希望能有更多的人参与进来，一起将现阶段的这个“人工智障”改进成对付创作者而言的实用工具，以及对付读者而言的娱乐办法。
下载链接：https://github.com/BlinkDL/AI-Writer/releases
— 完 —
量子位 QbitAI · 头条号签约
关注我们，第一韶光获知前沿科技动态