自回归模型与生成式文本模型

自回归模型是一类通过递归预测下一个值来生成序列数据的生成模型。每一步的输出都依赖于所有之前的输入或之前生成的输出，因此它们常用于时间序列和自然语言处理任务。生成式文本模型是自回归模型的典型应用，它根据先前生成的词预测并生成下一个词，逐步构建出完整的文本段落。著名的生成式文本模型如 GPT 系列，使用自回归机制生成连贯流畅的文本，被应用于对话系统、文本生成等任务中。