LLM：可控文本生成【Controlable Text Generation(CTG)】

已于 2023-08-27 20:39:43 修改
阅读量1.4k 收藏
点赞数
CC 4.0 BY-SA版权
分类专栏： LLM 文章标签： 人工智能
于 2023-08-27 20:31:32 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/u013250861/article/details/132527295
可控文本生成(CTG)是通过对文本生成过程中的属性、风格进行控制，以满足特定需求的技术。它涉及基于Pre-trained Language Model(PLM)的多种方法，如Fine-tuning、Retrain/Refactor和Post-Process。CTG应用场景广泛，包括属性控制、对话生成、故事讲述等。主要的PLM结构有BERT、GPT等，各具不同的预训练任务。文章探讨了CTG的不同流派，包括改良派的指令微调、改革派的重新训练和保守派的后处理技术，以及各自代表性的研究工作。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

一、Controlable Text Generation(CTG)定义与应用

1. 什么是CTG

Controlable Text Generation，可控制的文本生成，就是能够在传统的文本生成的基础上，增加对生成文本一些属性、风格、关键信息等等的控制，从而使得生成的文本符合我们的某种预期。如果给一个明确的定义的话，文中引用了另一篇更早的综述的定义：

A Survey of Controllable Text Generation using Transformer-based Pre-trained Language Models[1]

论文中给出了两个简单的例子：

第一个例子就是给定一个故事线，要求模型按照这样的思路去生成。第二个例子是关于传统人机对话中如果机器生成文本时不受控制可能带来的问题，比如会给出有害的建议，甚至说脏话，这个时候就需要我们在模型生成的时候加以控制。

作者对CTG总结了这么一个Input-Process-Output的总体框架，简称IPO：

 跟传统NLG的区别就

了解本专栏 订阅专栏 解锁全文 超级会员免费看
Controllable Text Generation with Language Constraints
c_cpp_csharp的专栏
08-21 338
我们考虑在具有自然语言中指定的约束的语言模型中的文本生成任务。为此，我们首先创建了一个具有挑战性的基准COGNAC，它为模型提供了一个带有示例文本的主题，以及要避免的文本约束。与之前的工作不同，我们的基准测试包含来自Wordnet和Wikidata等数据库的知识密集型约束，这允许直接评估，同时在广泛的属性级别和狭窄的词汇级别控件之间取得平衡。我们发现，即使是像GPT-3这样的最先进的语言模型也经常在这项任务中失败，并提出了一种利用语言模型自身内部知识来指导生成的解决方案。
文本生成(Text Generation) 原理与代码实例讲解
AI天才研究院
07-22 1359
文本生成(Text Generation) - 原理与代码实例讲解 作者：禅与计算机程序设计艺术 / Zen and the Art of Computer Programming 1. 背景介绍 1.1 问题的由来
可控文本生成系列-A Survey of Controllable Text Generation using Transformer-based Pre-trained
yaohaishen的专栏
07-20 8326
ControlableTextGeneration，可控制的文本生成，就是能够在传统的文本生成的基础上，增加对生成文本一些属性、风格、关键信息等等的控制，从而使得生成的文本符合我们的某种预期。如果给一个明确的定义的话，文中引用了另一篇更早的综述的定义论文中给出了两个简单的例子第一个例子就是给定一个故事线，要求模型按照这样的思路去生成。第二个例子是关于传统人机对话中如果机器生成文本时不受控制可能带来的问题，比如会给出有害的建议，甚至说脏话，这个时候就需要我们在模型生成的时候加以控制。.............
可控文本生成研现状与技术
qq_43588670的博客
12-20 2460
可控文本生成目前在聊天机器人，智能问答，新闻撰写，营销文案生成，线上商品标题自取以及简介生成等多种领域发挥了巨大作用。可控文本生成需要模型具有一定的发散能力，而中文文化又博大精深，汉字又是离散的状态，这使得文本生成在建模上更加多样，复杂。传统的文本生成建模一般采用seq2seq，最近几年转向了GAN。提示：以下是寻欢桑做的一点总结欢迎大家批评指正今年一月份能够把这个坑填了。
可控文本生成技术
weixin_43729393的博客
03-29 1319
介绍 Prabhumoye 等人[1]对可控的文本生成技术进行了综述，神经控制文本生成是一个重要的研究领域，因其应用的广泛性而备受关注。这篇论文中提供了一个 新的模式的流水线生成过程，把它分为五个模块，包括外部输入控制、序列输入控制、生成器控制、输出控制及训练控制。 ① 外部输入: a) 引入外部可控向量 s 作为输入。引入的方法有: 1.concatenation: h0 = [he; s]; 2. linear transform: h0 = tanh(w1 he + w2 s + b)。其中he为
深入浅出对话系统——可控文本生成
日积月累，天道酬勤
07-29 581
可控文本生成论文笔记
浅谈LLM的可控文本生成
panwang246的博客
07-03 692
1. **条件生成**：在生成文本时，给定一些条件（如主题、风格等），模型会根据这些条件生成相应的文本。总之，可控文本生成是一个具有挑战性的任务，需要开发新的技术和方法来指导模型生成符合特定要求的文本。4. **零样本学习**：利用预训练模型的能力，通过提供一些示例来指导模型生成符合要求的文本。6. **编辑和修订**：在生成文本后，可以使用编辑和修订技术来修改文本，使其符合特定要求。5. **多任务学习**：通过训练模型以同时执行多个任务，可以使模型更好地理解不同任务之间的关系，并生成符合要求的文本。
可控文本生成简单介绍
云隐雾匿的博客
04-19 1423
它之所以能够实现可控文本生成，其核心思想是从海量无标注数据中定位文章所在的领域或其他属性，并作为控制代码（Control codes）放在输入文本的头部，以指导后续文本的生成。其核心思想是，对于预训练语言模型（GPT-2）以及目标属性a（例如情感、 主题等），利用当前的生成结果是否满足属性a（即条件概率P （a|x））对生成进行修正，使其朝着满足该属性的方向变化。除了作为预训练模型用于语言表示、条件式生成等下游任务，语言模型的另一个重要的功能是“写作” ，或定向文本生成。，或者“方向” ，因此实用性较弱。
文本生成 (Text Generation)
AI架构师小马
08-06 1690
文本生成 (Text Generation) 作者：禅与计算机程序设计艺术 1. 背景介绍 1.1 文本生成的定义与意义 文本生成是自然语言处理(NLP)领域的一个重要分支,它旨在利用计算机算法自动生成连贯、流畅
使用Python实现LLM的文本生成：风格迁移与内容控制
二进制的梦想
01-19 2284
大型语言模型（LLM）是基于Transformer架构的深度学习模型，通过大规模文本数据的预训练，能够生成高质量的文本。LLM的核心优势在于其强大的上下文理解能力和生成能力。常见的LLM包括OpenAI的GPT系列、Google的BERT、T5等。
msc-ai-thesis:我的MSc AI论文关于可控文本生成的回购
04-01
使用基于变压器的语言模型可控制的文本生成 为我的论文项目使用基于Transformer的语言模型的受控文本生成和自适应对话系统的Repo。
规律有序文本生成工具
10-22
开发辅助工具，有时一段文本如D1,D2,D3,...,D10很不想自己打字，很想从哪复制过来用，这工具就可以派得上了。也可以创建一个更复杂的如这样ISNULL([D1],0) AS [D1],ISNULL([D2],0) AS [D2],ISNULL([D3],0) AS [D3],ISNULL([D4],0) AS [D4],ISNULL([D5],0) AS [D5],ISNULL([D6],0) AS [D6],ISNULL([D7],0) AS [D7],ISNULL([D8],0) AS [D8],ISNULL([D9],0) AS [D9],ISNULL([D10],0) AS [D10]，要自己输入感觉就不好受，该工具就可以代劳了放心
Python实现的文本对比报告生成工具示例
09-20
主要介绍了Python实现的文本对比报告生成工具,涉及Python基于difflib模块实现对文本内容进行对比的相关操作技巧,需要的朋友可以参考下
一篇大模型可控文本生成技术最新综述
AIBigModel的博客
08-27 2394
确保生成的文本符合指定的标准，例如主题一致性、安全性和风格一致性。
Multi-Aspect Controllable Text Generation with DisentangledCounterfactual Augmentation
qq_52053775的博客
01-02 109
背景与问题多维属性可控文本生成（MCTG，Multi-aspect Controllable Text Generation）指生成同时满足多个属性（例如情感、主题）的文本，是一种可控文本生成（CTG）技术的扩展。近年来，基于大型语言模型（LLMs）的生成式人工智能（如GPT和其他Transformer模型）迅速发展，使得CTG技术获得了越来越多的关注。然而，与单维属性控制相比，多维属性控制面临更大的挑战，特别是在多个属性相互关联且存在不平衡性时。这种不平衡通常由真实世界数据中属性组合的偏好性导致，
ICBU 可控文本生成技术详解
数据库技术
09-29 965
可控文本生成技术大图 一 文本生成技术 文本生成（Text Generation）是自然语言处理（Natural Language Processing，NLP）领域的一项重要且具有挑战的任务。顾名思义，文本生成任务的目的是生成近似于自然语言的文本序列，但仍可以根据输入数据进行分类。比如输入结构化数据的 Data-to-text Generation，输入图片的 Image Caption，输入视频的 Video Summarization，输入音频的 Speech Recognition 等。...
Keyword2Text: 一种即插即用的可控文本生成方法
shawroad的博客
08-26 1757
本次分享一篇可控文本生成方面的论文。提到文本生成，可能很多人的第一印象都是不靠谱，不就是复制粘贴，模型只是将训练语料记住了而已，谈创造性都是瞎扯emem…。这趟浑水总该有人趟吧，如果对ai充满悲观的人，可以去瞧瞧cv那边文本到图片的生成，或者能让你对ai有所改观。闲话少说，直接切入文本生成主题。谈到文本生成，可能会想到很多模型，如GPT系列、T5系列、UniLM、Bart等等。但这些模型在可控方面做的都不够好，文本生成的主题主要还是依赖于训练语料的分布。...
Controllable Text-to-Image Generation
qq_44381060的博客
03-26 5568
Controllable Text-to-Image Generation 作者：Bowen Li，Xiaojuan Qi，Thomas Lukasiewicz，Philip H. S. Torr 时间：2019 会议/期刊：NeurIPS 为什么提出ControlGAN： 由于GAN在生成真实感图像方面的成功，文本到图像的生成在实现条件生成网络（Conditional GAN）的基础上取得了显著的进展。然而，目前的生成网络一般是不可控的，这意味着如果用户改变句子中的某些词，合成的图像就会与原始文本生成
大模型如何生成可控文本？人大等最新《大型语言模型的可控文本生成》综述
Y525698136的博客
08-26 2409
在自然语言处理（NLP）领域，大型语言模型（LLMs）已展示出高质量的文本生成能力。然而，在实际应用中，LLMs必须满足日益复杂的需求。除了避免生成误导性或不恰当的内容外，LLMs还需要满足特定用户的需求，例如模仿特定的写作风格或生成具有诗意丰富性的文本。
LLM 可控文本生成
最新发布
04-25
### 可控文本生成的LLM模型技术 #### 控制条件与外部信息融合 可控文本生成的核心在于将控制条件融入到大型语言模型（LLM）的文本生成过程之中。这种方法可以通过注入外部信息来实现对生成文本的具体控制，这些信息既可以来源于模型驱动的方式（例如分类器、条件语言模型或直接从LLM提取的知识），也可以基于数据驱动的形式（如利用丰富的语料库、词典、知识图谱或数据库）。这种方式允许开发者精确指定生成文本的内容方向、风格或其他特性[^1]。 #### 条件生成的应用场景 在实际应用中，条件生成是一种常见的方法用于引导LLM生成符合特定需求的文本。例如，在撰写新闻报道时，可以预先设定主题作为输入条件，使模型围绕该主题展开叙述；或者在文学创作领域，通过规定文体样式（如诗歌、散文）、语气倾向（如幽默、严肃）等方式进一步细化输出结果的要求[^3]。 #### 强化学习优化生成质量 除了简单的条件设置外，采用强化学习算法也是提升可控性的重要手段之一。通过对奖励函数的设计，可以让模型学会调整其行为模式以满足更加复杂的目标导向——比如生成带有强烈正面情绪色彩的话语片段或是构建逻辑严密且论点鲜明的文章段落等特殊任务情境下的表现改进[^3]。 #### 指令微调增强灵活性 针对具体应用场景下可能存在的个性化定制需求，则可通过指令微调(pre-training followed by instruction fine-tuning) 的方式提高系统的适应能力。此策略先让基础架构接受大规模无标注资料训练获得广泛的语言理解力之后再依据少量针对性强的任务实例对其进行二次加工改造, 这样既能保持原有强大泛化性能又能快速响应新类型问题解答请求.[^3] #### 零样本/少样本学习拓展边界 当面临全新未见过类别对象描述时候,"Zero-Shot Learning"(零样本学习)"Few-shot learning" (少数几个例子即可完成的学习), 利用已有的跨模态映射关系以及上下文线索提示机制帮助网络推测未知概念表达形式并据此创造相应表述内容出来成为一种有效解决方案. 它们依赖于预训练阶段积累下来的广博见识加上即时给予适当示范案例辅助推导得出合理结论.[^3] #### 编辑与修订完善最终成果 最后一步往往涉及后期处理环节即编辑和修订操作。这一部分工作主要是为了确保所得到的结果完全契合最初设想中的各项指标参数标准。例如改变一段话的情绪基调使之听起来更为乐观向上; 调整措辞使得整体显得正式庄重等等都是常见做法.[^3] ```python from transformers import pipeline def generate_controlled_text(prompt, style="neutral", length=50): generator = pipeline('text-generation', model='gpt-neo-2.7B') if style == "positive": prompt += ". Please maintain a positive tone throughout the response." elif style == "negative": prompt += ". The output should reflect negative sentiments only." result = generator(prompt, max_length=length)[0]['generated_text'] return result example_prompt = "Write an article about climate change" print(generate_controlled_text(example_prompt, style="positive")) ``` 以上代码展示了一个简单示例，展示了如何使用Hugging Face Transformers库中的`pipeline`功能结合自定义提示符来进行带有一些基本控制要素(这里指定了情感极性)的大规模预训练模型的文字生产活动.
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值