编辑:小舟、陈萍
往后,写故事这脑力活可以交给 AI 了。
前段韶光,模拟人类写作过程的措辞模型 Re^3 发布,该模型不须要微调大模型,而是通过设计 prompt 来天生同等性强的故事。
现在,该研究团队又提出了一个天生故事的新模型 DOC。论文作者 Kevin Yang、田渊栋也在推特上发文宣扬了 DOC 模型,表示 DOC 比 Re^3 天生的故事更加连贯、有趣。
DOC 框架意指详细大纲掌握(Detailed Outline Control),用于在自动天生数千字长故事时提高情节的连贯性。DOC 由两个互补的组件组成:详细大纲组件(Detailed Outliner)、详细掌握器(Detailed Controller)。
论文地址:https://arxiv.org/pdf/2212.10077.pdf
Detailed Outliner 卖力创建详细的、分层构造的大纲,将写作创意从起草转移到方案阶段。Detailed Controller 则通过掌握故事段落与大纲细节对齐,确保天生结果遵照详细的大纲。
该研究对模型自动天生故事的功能进行了人工评估,DOC 在多个指标上得到了大幅增益:情节连贯性(22.5%)、大纲干系性(28.2%)和意见意义性(20.7%),大大优于 Re^3 模型。此外,DOC 在交互式天生环境中更易于掌握。
DOC
与 Re^3 类似,DOC 通过将写作过程分解为操持、起草、重写和编辑步骤,天生超过 2000 字、情节连贯的长篇故事。DOC 遵照 Re^3 的高等写作过程和基于构造化提示的段落天生。不过 DOC 删除了耗时的编辑步骤,即便如此,但对终极故事的质量没有影响。
不同于 Re^3 存在的缺陷,如无法保持远程情节的连贯性、与周围环境不符的冗长段落、故事常常偏离最初操持等,DOC 旨在通过两项创新来办理这些缺陷:通过 Detailed Outliner 履行更详细的方案,通过 Detailed Controller 在起草过程中相应地进行更详细的掌握。
DOC 的高层概述。
Detailed Outliner
Detailed Outliner 递归地天生任意粒度的分层详细大纲。图 3 总结了各个组件。
Detailed Controller
Detailed Controller 增强了天生器与详细大纲保持干系性的能力。该研究将 Detailed Controller 实现为 FUDGE 掌握器,以根据给定的择要辅导段落天生。
在起草过程中,Detailed Controller 的灵巧性表示在:
事宜。将事宜描述(图 2,橙色文本)逐字输入掌握器。设置。如果设置发生变革,该研究通过构建输入择要来解释角色移动到新设置,与事宜描述比较利用较低的掌握强度。角色。如果涌现了一个没有涌如今前一个大纲条款中的角色,该研究还是通过构建一个输入择要来解释这一点,再次利用较低的掌握强度。实验与评估
该研究比较了处于同一顶级大纲条款标 1000 到 1500 字的段落,而不是完全的故事。评估指标包括三个:连贯性、干系性以及意见意义性。
结果如表 1 所示,DOC 天生的段落情节更加连贯且与大纲干系。
表 3 显示了 DOC 根据表 2 中的详细大纲(经大量删节)编写的一个故事(经大量删节):虽然有些问题仍旧存在,但故事还保持整体连贯,遵照大纲内容。
人机交互故事天生:如表 4 所示,在四个人机交互指标上,人类更喜好 DOC 而不是 RE^3 天生的故事:至少四分之三的人表示 DOC 在每个评估指标上都更精良。
溶解实验
为了评估 DOC 的两个紧张组成部分,该研究对 DOC 进行了如下两种修正:
DOC-NOOUTLINE,仅根据粗略大纲而不是完全的详细大纲天生故事,利用固定强度的 Detailed Controller。DOC-NOCONTROL,除了 Detailed Controller 关闭外,其他设置与 DOC 相同。溶解实验的结果如下表 5 所示:
该研究创造,与 Re^3 比较,意见意义性的提高紧张是由于 DOC 有更详细的大纲;而 Detailed Controller 可能会轻微危害意见意义性。该研究通过定性不雅观察创造:进一步增加掌握强度会产生更多重复的输出,这些输出越来越狭隘地拟合给定的大纲,而失落去了创造力。
如下表 6 所示,该研究又进一步实验证明:Detailed Controller 的浸染是大大提高 DOC 在起草过程中遵照大纲细节的能力。
理解更多研究,请参考原论文。