天生式AI工具越来越受欢迎，如大措辞模型等，这类工具紧张用人类天生的输入进行演习。不过，随着这些AI模型在互联网不断壮大，打算机天生内容可能会以递归循环的形式被用于演习其他AI模型或其自身。
包括英国牛津大学在内的联合团队一贯在进行干系研究，并在去年论文预印本中提出这一观点。在正式揭橥的论文中，他们用数学模型演示了AI可能会涌现的“模型崩溃”。他们证明了一个AI会忽略演习数据中的某些输出（如不太常见的文本），导致其只用一部分数据集来自我演习。
团队剖析了AI模型会如何处理紧张由AI天生的数据集。他们创造，给模型输入AI天生的数据，会减弱今后几代模型的学习能力，终极导致了“模型崩溃”。他们测试的险些所有递归演习措辞模型，都随意马虎涌现问题。比如，一个用中世纪建筑文本作为原始输入的测试，到第9代的输出已经是一串野兔的名字。
团队指出，用前几代天生的数据集去演习AI，崩溃是一个不可避免的结局。他们认为，必须对数据进行严格过滤。与此同时，这也意味着依赖人类天生内容的AI模型，或许能演习出更高效的AI模型。
对AI来说，“模型崩溃”就像癌症一样，乃至分早期与晚期。在早期时，被“喂”了天生数据的AI会开始失落去一些原始精确数据；但在晚期，被“喂”了天生数据的AI会“口吐年夜言”——给出完备不符合现实，也和底层数据一点不干系的结果，就像本文中的例子一样。更恐怖的是，“模型崩溃”的AI极其固执，缺点险些难以纠正。它会持续强化，终极把缺点结果认为是精确的。这一问题值得所有关注天生式AI的人们当心，由于它即是是在“毒化”AI对真实天下的认知。
来源： 科技日报